第二次鸦片战争后，中国内忧外患不断，清廷在洋务派的推动下逐渐开展起了洋务活动，希望通过学习西方先进的科学技术，培养洋务人才以挽救清王朝的政治危机。这样，开办洋务学堂就被提上了日程。
洋务学堂分为两种，一种专习“西文”，另一种专习“西艺”。习“西文”的近代学校，主要有京师同文馆（1862年建立），上海广方言馆（1863年建立），广州同文馆（1864年建立），湖北自强学堂（1893年建立）等；习“西艺”的近代学校，主要有马尾船政学堂（1867建立），上海江南制造局附设机械学校（1869年建立），天津电报学堂（1879年建立），天津水师学堂（1881年建立），上海电报学堂（光绪八年，1882年建立），天津军备学堂（1886建立），广东陆师学堂（1886年建立），广东水师学堂（1887年建立），湖北铁路局附设化学堂、矿学堂（1892年建立），天津军医学堂（1893年建立），湖北武备学堂和南京陆军学堂（1895年建立）等。
这些学校中，京师同文馆是第一个开办的，开了中国近代新式学校之先河。当时，科举考试仍然是铨选官吏的唯一制度，因而这些洋学堂学出来的学生出路很是尴尬。同治元年（1862），朝廷颁布了《新设同文馆酌拟章程》，规定京师同文馆三年制优等毕业生可以被保举为七、八、九品官。这个待遇上海和广州的学校是没有的，因此，这两地的同文馆中的学生不得不在学习西方课程的同时，也习作八股，以备参加乡试博取功名。
洋务学堂是中国近代新式学堂的萌芽时期，因此很不完善。梁启超曾撰文指出：“今同文馆、广方言馆、水师学堂等洋务学堂‘不能得异才何也？’是因为‘受病之根有三：一曰科举之制不改，就学乏才也。二曰师范学堂不立，教习非人也。三曰专门之业不分，致精无自也。’”此外，洋务学堂还受外国人经费、管理上的支配。
虽然如此，开办洋务学堂仍有其不可忽视的意义，比如它打破了儒家学说一统天下的垄断局面；对晚清科举制度形成了冲击；直接推动了中国近代早期留学生的派遣等等。
另外，新学堂内除了开设西文，还有大量的数学、物理、化学、天文等近代自然科学课程，大大推动了西方近代科学技术在中国的传播。
