关于我国建筑业的起源，古人有这样的说法：“上古穴居而野处，后世圣人易以宫室，上栋下宇，以蔽风雨。”至于具体时间和过程，则言之不明。所幸考古事业的发展在一定程度上弥补了这一缺憾。半坡遗址表明，至迟在六七千年以前，人们就已建造起半地穴式房屋，上有以木柱支撑、草泥覆盖的屋顶以蔽风雨，下则“掘地为穴”，供人起居之用。
夏、商、周三代，夯土技术的发展，砖瓦的出现，使得人们有能力建造规模宏大的建筑群落。春秋战国时期，建筑业突飞猛进，主要成就有二：其一，夯土技术和木构方法相结合的高台建筑频频出现，台多方形，以上垒筑，其上多有亭榭，可供登临远眺。其二，以宫室为中心，围以夯土城壁的城市迅速发展。
秦汉一统，建筑技术得到空前的发展。木构建筑无论在结构方法、式样，还是在造型特征上都已初步形成体系。砖石结构建筑也有发展，汉代一度兴起过全部石造建筑。建筑类型上，宫殿、陵墓、城防、水利工程以及民用住宅，各具特色。建筑规模日趋庞大，楼层数已达五层之多，阿房官“东西五百步，南北五十丈，上可以坐万人，下可以建五丈旗”，规模之大空前绝后。当代秦始皇陵的挖掘更是给今人展现了卷帙浩繁的巨幅画卷。
魏晋南北朝以后，我国建筑业中开始融入外域风采，大量佛教建筑以其独特的形态和深厚的底蕴成为建筑百花园中的又一奇葩。在此期间，建筑中开始采用琉璃瓦件，代替以前在灰瓦上涂色的装饰方法，这在中国古代建筑艺术发展中是一大创新。隋唐时期，国力鼎盛，建筑规划设计时不仅使用图样，而且有木制模型，建筑体系已经成熟。宋代建筑方法趋于多样化，建筑构件的标准化也有发展，此时还出现了许多总结经验的建筑学专著，其中以北宋李诫的《营造法式》影响最大。宋代以后，中国古代建筑虽然仍有创新，如布局严整、规模宏伟的都城建筑，设计典雅、精雕细琢的园林艺术以及带有浓郁乡土气息的民间住宅等，但质的突破已十分罕见。建筑程式化定型的发展正是建筑技术停滞不前的原因。
与西方相比，中国古代建筑自成体系，建筑以土木为主要材料，用石很少，以木构架为结构原则，庭院布局严整，趋于格式化。在建筑思想上则深受中国传统文化的影响，建筑布局和规格反映出森严的等级秩序，严禁逾礼而为。建筑被视为匠人之学，为士大夫所轻视，因而在传承和发展中遇到许多困难。不过总体而言，中国古代建筑业取得的成就是巨大的，它不仅是中国文化，也是人类建筑艺术宝库中的一份珍贵遗产。
