中国唐代开始设立的各种人才供职的机构，为文学、艺术、方技、医学、僧道等在内廷的供奉之处，由于人才济济，甚至有“茶翰林”、“酒翰林”一说。
唐玄宗时，在供奉内廷的翰林院之外，另建学士院，遴选有文才的朝臣入居任翰林学士。翰林学士负责起草诏制，后逐渐演变为草拟机密诏制的重要机构，任职者称待诏。最初，起草诏制是中书舍人的职责，但唐玄宗感觉中书舍人拟诏难以应急和保守机密，于是一度挑选擅长文学的亲信官员充翰林院待诏，以备起草急诏。
738年，才另建翰林学士院，专供草拟诏制者居住，供职者称翰林学士，其本身无秩品。初设时没有定额，后来依照中书舍人之例，置学士六人，选其中资历深者一人为承旨。学士院设置之后，学士与中书舍人院有了明确分工：学士起草的是任免将相大臣、宣布大赦、号令征伐等有关军国大事的诏制，称为内制；中书舍人起草的一般的臣僚任免及例行的文告，称为外制。
安史之乱后，由于军事频繁，翰林学士的地位愈显突出，不但草拟诏制，也参与密谋机要，分割了部分宰相之权。唐宪宗以后，翰林学士承旨往往可晋升为宰相。因此很为文学之士羡慕。
到了宋朝，仍分设翰林学士院与翰林院，二者区别与唐代相同，翰林学士院仍然是读书人的向往之所。（宋神宗）元丰改制后，翰林学士承旨和翰林学士成为正式官员，官阶三品，不任其他官职，专司草拟内制之职。与宋同时的西夏、金亦设翰林学士院，设翰林学士、承旨等。
元代时，设翰林兼国史院及蒙古翰林院，官制与金同，分掌制诰文字、纂修国史及译写文字等。
明代时，供奉内廷的翰林院被撤销，翰林学士院正式更名为翰林院，院长称学士（多由六部尚书担任），官阶正五品，属官有侍读学士、侍讲学士、侍读、侍讲、修撰、编修、检讨等，一般统称“翰林”，掌制诰、史册、文翰之事，兼秘书处、图书馆、国史馆等功能，为皇帝的“参谋”。新科进士，如果文学、书法兼优，被选进翰林院见习，则称“庶吉士”。三年后，经考试决定去留，或授编修、检讨，或外放为州（县）官员。明代中期以后，六部尚书部长和侍郎多为翰林出身。
清袭明制，设翰林院。置掌院学士两人，满、汉各一人（均由朝廷大臣兼任），官阶从二品，无文学撰述之责，是侍读学士以下诸官的名义长官，与唐宋时的翰林学士有所区别。仕为翰林官者，不仅升迁较他职位容易，而且南书房行走及上书房行走例由翰林官充任，待遇十分优厚。
