唐代开始设立的各种艺能之士供职的机构。自唐玄宗李隆基选擅长文词的朝臣人居翰林以起草诏制后，演变为草拟机密诏制的重要机构，任职者称翰林学士。
唐代翰林院何时设置，目前尚无定论，史载多见于唐玄宗时。当时在翰林院供职的有词学、经术、合炼（炼丹）、僧、道、卜、祝、术、艺、书、弈等各色人才，称为待诏，即听候皇帝随时召见和差遣。其中词学之士最受重视。起草诏制本是中书舍人的专职，但在唐代初期已有他官被召草拟诏制的事例，唐高宗、武后时的北门学士刘懿之、周思茂、元万顷等尤为著名，仅当时还没有设专门机构。唐玄宗感到中书舍人草拟诏制的制度难以保守机密和应付急需，因此，他挑选擅长文学的亲信官员如张说、张九龄、徐安贞等人充翰林院待诏，以备起草急诏（兼撰拟诗文），又称翰林供奉。
翰林院设置在宫内深处，麟德殿之西，比属于中书省的中书舍人院更接近于寝宫内殿（这是在长安大明宫内的情况，皇帝若住在兴庆宫、西内或东都时，翰林院的位置也比中书舍人院密近）。大致由于待诏翰林的各色人才很杂，不能保证机密不外泄，故开元二十六年（738），又在原翰林院之南另建翰林学士院，专供草拟诏制者居住，供职者称翰林学士（简称学士）。学士院建立之后，待诏于原翰林院的文学之士仍称供奉或待诏，也有学士与待诏二名兼称者，如天宝七载（748）所立的《封北岳安天王碑》，撰者李荃自题衔名为“直翰林院学士供奉”；大诗人李白被称为翰林学士，也被称为翰林供奉。这种待诏于旧翰林院的文学艺能之士长期存在，而且为数甚多，据《顺宗实录》记载，顺宗即位后，曾一次即罢翰林阴阳、星、卜、医、相、覆棋诸待诏者三十二人，可见人数之众。而顺宗所倚以主持政策的王叔文是翰林棋待诏，王亻丕是诗书待诏。
学士本是文学儒生的泛称，后来随着各类机构的设置而成为一种差遣职，如唐代有弘文馆、崇贤馆、集贤院等学士。张说入充翰林院待诏时也是集贤院学士。供职于翰林学士院的学士也是差遣职，本身并无秩品，都带本官，上自尚书（三品），下至校书郎（九品），均可充任，也有中书舍人充任的。初置时并无员额，少或一两人，多或五六人，由皇帝遴选。后来依照中书舍人之例，置学士六人，择其中资历深者一人为“承旨”。安史之乱以后，军事频繁，“深谋密诏，皆从中出”，翰林学士于其间起着极大作用，地位愈来愈重要，不但在草拟诏制方面分割了中书舍人之权，也在参谋密计方面分割了宰相之权。唐德宗时翰林学士陆贽因此被称为“内相”。唐宪宗以后，翰林学士承旨往往晋升为宰相。
学士院设置之后，与中书舍人院有了明确分工。学士所起草的是任免将相大臣、宣布大赦、号令征伐等有关军国大事的诏制，称为“内制”，用白麻纸书写，故又称“白麻”；中书舍人所起草的则是一般臣僚的任免以及例行的文告，称为“外制”，用黄麻纸书写，故又称“黄麻”。有时翰林学士缺人，也临时召取中书舍人代草内制，但不经常。此外，还有专侍皇帝读书写字的侍读学士、侍书学士，则不负起草诏制之责。
翰林学士地位的增高，引起皇帝的猜忌，敬宗宝历二年（826）曾打算别置东头学士以抑之，由于敬宗不久被宦官所杀，这个计划没有实现，但反映了封建文官由卑而高，由亲而疏的发展规律。
学士院有两名由宦官充任的学士院使（或称翰林院使），在皇帝与翰林学士间起传达联系的作用，在政治上有很大影响，这是唐代后期宦官专政情况下的产物。
后晋天福五年（940）曾宣布废除翰林学士，将草拟诏制之权归还中书舍人，但不久又恢复。
宋沿唐制设学士院，也称翰林学士院，有时亦称为翰林院。北宋前期各政府机构大多名不副实，学士院则仍遵行唐制为草拟内制之所，翰林学士亦依旧例为六员，但通常少于此数，偶设七员，其第七员翰林学士，号称“员外学士”。宋亦以翰林学士资深者一人为翰林学士承旨，但不常设置。翰林学士实际上充当皇帝顾问，很多宰相都从翰林学士中选拔。
北宋前期的翰林学士，亦如唐代无秩品，以其他寄禄官充任。有时领其他差遣，类同贴职，则不草拟内制。在学士院草拟内制的翰林学士，加知制诰衔，如寄禄官至中书舍人则不加知制诰衔，一般都只称为翰林学士。常见的知制诰，通常是指任职于舍人院草拟外制的知制诰。翰林学士大多由草拟外制的知制诰选任，不再召试制词。
元丰改制后，翰林学士承旨、翰林学士成为正式官员，正三品，并且不任其他官职，专司草拟内制之职，例带知制诰衔。由于草拟外制的知制诰已废，所以，北宋后期及南宋的知制诰，都是翰林学士的加衔。翰林学士定额为两员。
如果其他官员入学士院草拟内制而未任命为翰林学士者，称为直学士院、直翰林院，简称“直院”。遇学士院全缺翰林学士，而以其他官员临时代行其职，宋初曾称为权祗应翰林院事，后称权直学士院、权直翰林院、学士院权直、翰林权直，简称“权直”。如官位高于翰林学士，则称为权翰林学士、权学士院。
由于唐代学士院自翰林院分出，故宋代有时亦称学士院为翰林院。宋代亦另有专掌艺学供奉之事的翰林院，则与学士院之又称为翰林院者无关。
西夏设翰林学士院，官员有学士等。辽北面官中有翰林院，掌汉文文书及刑狱诸事，长官为翰林学士及翰林学士承旨等。金天德三年（1151），置翰林学士院，设翰林学士承旨、翰林学士等，掌起草诏书等事。元代设翰林兼国史院及蒙古翰林院，官员与金代同，分掌制诰文字、纂修国史及译写文字。
明翰林院掌制诰史册文翰之事。设掌院学士（正五品），下属有侍讲学士（正六品）、侍读学士（正六品）、世袭五经博士（正八品）以及介于官与非官之间的六科庶吉士。入翰林院者官品虽低，却被目为清贵之选。明朝翰林若得入直文渊阁参预机密，则更是贵极人臣。清因明制，设翰林院。置掌院学士（正五品）两人，满员、汉员各一人，由大学士、六部尚书或侍郎内特简。掌院学士下设侍读学士（从五品）、侍讲学士（从五品），满、汉各三人；圣裔太常寺博士（正七品），以孔氏衍圣公第三子承袭；世袭五经博士（正八品）；六科庶吉士。
清掌院学士无文学撰述之责，是侍读学士以下诸官的名义长官，与唐宋之翰林学士有所不同。侍讲以上诸官亦仅具空名，并不任讲书之职。担任讲书者须另外选派，加经筵官之衔。世袭五经博士的设置，也意在照顾孔子及朱子的子孙，以奉祀其先人，实际不任职务。故清代翰林院诸官极为闲散。但翰林官亦是清华之极选。仕为翰林官者不仅升迁较他官为易，而且南书房行走及上书房行走例由翰林官为之，因接近皇帝、皇子及近支王公，多蒙优待厚遇。