汉代的太学建于武帝时期。在元朔五年(公元前124年)，汉武帝接受董仲舒、公孙弘等人的建议，置博士弟子员(太学学生)五十人，这便是正式成立太学之始。严格说来，我国历史上的最高学府，也应从这里算起。
汉代的官学除太学外，还有一些专门学校和地方学校。专门学校有“鸿都门学”和“四姓小侯学”；地方学校主要是郡国学校。此外还有私立学校。
鸿都门学是一种研究文学艺术的专门学院，因校址在洛阳的鸿都门而得名。鸿都门学的创立是适应当时政治需要的，是统治者内部斗争的产物，也是太学生政治运动的产物。鸿都门学的招生对象以没有名望的庶族子弟为主。在教学内容上以辞赋、小说、尺牍为主，与太学所教的课程内容不同。
四姓小侯学是东汉时专门为贵族开设的，为外戚樊氏、郭氏、阴氏、马氏四族而建立的，因这些外戚都不是列侯，所以被称作小侯。后来这个学校的招生范围不断扩大，凡贵族子弟都可入学，而且匈奴也可派遣子弟前来留学。
汉代的地方行政区域，以郡和国为单位，郡下还设置若干县或邑、道。汉代在地方上也设立了许多学习儒家经典的官学。汉武帝时就曾下令“天下郡国皆立学校官”，平帝元始三年(公元3年)令天下立官学，郡国曰学，县、道、邑、侯国曰校，乡曰庠，聚曰序。学、校设置经师一人，庠、序置孝经师一人。东汉时郡国学校更为发达，班固在《京都赋》中说：“四海之内，学校如林，庠序盈门”，虽有夸张，但可以说明当时教育是比较繁荣的。
汉代私人办学也很盛行。由于太学招生数额有限，地方官学又有名无实，而且又缺乏启蒙教育这样的机构，青年和儿童多半就学于私家。加之官方崇尚今文经，一些古文经学家便设帐授徒，私人办学之风大盛。《儒林列传》载：“曹曾字伯山，门徒三千人”、“宋登字叔阳，教授数千人”、“蔡玄字叔陵，门徒常千人，其着录者万六千人”等等。当时学生求学分两种情况：一是着录弟子，即在名儒门下着其名，而不必亲自听课受业；二是及门受教，即入其门而受其业。由于学生多，也有用高才弟子教后进学生的，马融就是这样。
