水墨山水画的开山始祖是王维，据说他诗、书、画、音乐都很擅长，而且还官至尚书左丞。王维的画喜用雪景、剑阁、栈道、晓行、捕鱼等题材，其画以笔墨精湛、渲染见长，具有“重”、“深”的特点。王维的山水画还有一个重要的特色，就是诗和画的有机结合。绘画史一般把他看着是诗画结合的创始者。他流传至今的作品有《王维雪溪图》、《江山雪霁图》等。
王维之后的中晚唐时期，山水画的发展出现了一场“水墨运动”，这样，中国山水画发展到唐代，已经进入了一个自由的新天地。
至五代两宋，是山水画家辈出和山水画派叠现的时代，这些画家继承并发展了南北朝、隋、唐山水画家的优秀传统，把中国山水画推向了前所未有的高峰，形成了五代时期的北派山水和南派山水，北宋时期的中原画派与院体山水画，北宋晚期的“米点山水”与青绿山水，以及南宋四大家为代表的南宋院体山水画。
五代时期，北派山水的代表人物是荆浩和他的学生关仝。荆浩是北方人，曾隐居于太行山，所以他接触的多是北方及太行山的崇山峻岭雄壮的景色。所画山水“上突巍峰，下瞰穷谷”，多作巨壑，其章法布局为中心全景式的布局，而以主峰为主心，用云岫烟霞的断白，衬托出中、前景的全局安排。场面浩大，气势雄伟，空间感很强。据传《匡庐图》就为他的名作。他的弟子关仝则为长安人，师荆浩，却有“青出于蓝”之誉，自成一体。喜作秋山寒林、村居野渡的关、陕一带的风光。其传世之作为《关山行旅图》，画上巨峰高耸，气韵深厚；所画林木，有枝无干，却给人“乱而整，简而有趣”的感觉。
与荆浩、关仝为代表的北方山水画派相对应，南方有以董源和他的弟子巨然为代表的表现江南山水的江南画派，也称为“南派山水”。董源和巨然都是10世纪下半叶活跃在南方的画家，他们生活在长江中下游的环境，不同于旷寂、雄厚、寒冷的北方，而是地势起伏平缓、阳光和煦、温暖湿润的地区。他们体察自然，并以独特的艺术语言加以描绘。在董源的作品里，很难看到险峻奇峭的山峰，所见是平缓连绵的山峦映带无穷、林麓小溪、山村渔舍，全是江南丘陵江湖的动人景色。董源的代表作是描绘潇湘地区风景的画卷《潇湘图》，描绘夏日江南风景的《夏山图》、《龙袖骄民图》等。董源的弟子巨然，成了他画风的最好继承者。其代表作品有《秋山问道图》、《溪山图》和《石壑松风图》等。《秋》表现深谷丛林中，临溪的草舍里，三个隐士正在谈经论道，周围是一片高爽的秋季景色，这也可以反映出画家的身份和心意。
到了北宋，出现了中原画派与院体山水画。中原画派以李顾、范宽为代表，李成因徙居山东营丘，便常以齐鲁原野的自然环境为描绘对象，范宽长期居住在终南山和太华山，他的画也就崇山雄厚、巨石突兀、林木繁茂、气势逼人。李成的作表作有《晴峦萧寺图》和《读碑窠石图》。范宽的作品有《溪山行旅图》、《雪景寒林》、《雪山图》等。
《溪山行旅图》（此图宽一米多，高两米多），画的是一座巨大山峰周围的景象，主体山峰在画面的中央耸立，山顶上树木葱茏，右边是一泻而下的长长的瀑布，隔着迷蒙的水汽，前景是很有层次的山冈，溪流从中间缓缓地流出，隐约看见有一只驼物的骡马队伍款款行来……
