在我国古代绘画各科中，山水画是最重要的一个科目，也是影响最大的。
我国山水画的历史可追溯到战国以前，那时人们在生产劳动中，将大川河流的形象广泛用于工艺装饰，于是山水画也随之逐渐崛起，如夏商周铜鼎上的山云纹等。
魏晋六朝尽管山水画有所发展，但绘画中的山水还只是作为人物故事的陪衬出现在画面上的。以表现景物为主的山水画，大约始于隋代展子虔的《游春图》。展子虔笔下，山水成了构图的主体，并且注意到客观物体之间远近、大小、高低的比例关系。它的出现，是山水画成为独立艺术的标志。
到唐朝时，山水画出现了青绿和水墨两种不同的表现手法和审美风格。青绿山水，也就是用矿物质石青、石绿作为主色的山水画，笔法工整，着色浓重，金碧辉煌。代表人物有展子虔和大小李将军（李思训、李昭道父子）等；水墨山水是当时创立的新兴画派，其特点在于以墨的浓淡变化和层次交融来展现大自然的空间深度及韵致，主要代表人物有张桑、王维等。王维将诗的意境熔铸在绘画之中，是和他在创作技法上的创新分不开的。传说他的传世作品有《雪溪图》。
山水画创作的全盛时期是五代和北宋，当时涌现出不少名画家。以他们所处的不同地区，划分为两大画系。北方画派以荆浩、关仝、李成、范宽为代表，作品较多表现出雄壮峭拔的风格。此外，还出现了以泼墨为法，追求“意似”之“简”的米芾、米友仁父子，他们画山画树重在墨法，墨中见笔，以浑然之水墨来写空濛云雾中的烟雨景象，达到“满纸淋漓障犹湿”的境界，开创了山水画创作的新的艺术境界。
元代出现了许多山水画家，其中成就很大的有钱选、赵孟頫、高克恭和“元末四大家”即黄公望、吴镇、倪瓒、王蒙。尤其是元末四大家，他们的水墨写意山水画在题材选择和审美意识上都表现出文人摆脱仕途烦恼，思想孤高，隐逸山林以寻求内心平衡的心态。
明代，初期有以戴进为代表的浙派，明中期则有被称为“吴门四大家”的沈周、文征明、唐寅、仇英，他们打破了以往画家拘守一科的局限，既画山水也画花卉、人物，虽然审美风格各有特点，但总的倾向是注重抒发文人潇散淡逸的意兴，发扬光大了文人画的传统。
清代山水画的代表人物是“四画僧”，即渐江、石溪、八大山人和石涛。他们在艺术创作上的共同特点，是反对当时复古的风气，主张师古而不囿于古，强调“师造化”，即以自然为师。石涛更明确提出“我自用我法”，在艺术上要有自己的创造。
