以老庄哲学为核心的诗歌，文学史上习称为“玄言诗”。这种诗由于说理的成分浓厚，以致掩盖了文学的特质，而受到后人严厉的批评。但是，正是在这种枯燥的哲理诗中，孕育了山水诗的萌芽。这主要取决于老庄哲学的基本特点：老庄哲学，尤其《庄子》，是一种超世的哲学，它强调人不仅在世俗的人与人的关系中生活，更重要的是每一个人即每一个精神主体，都是直接面对着宇宙存在的。
随着文学的发展进步，诗歌中抽象说理的成分逐渐减少，哲理隐藏于景物的形象描绘中，真正的山水诗就宣告成立了。这里值得一提的人物是陶渊明。陶诗通常被归类为“田园诗”，但其实田园诗和山水诗是相通的，并且陶诗也有直接描写山水之作。
