根据历史记载，几千年前，黄土高原的水土流失并不严重，大部分地方都生长着茂密的森林和青草，它们像被子一样覆盖在黄土层之上。暴雨下来的时候，树枝树叶挡住了雨水，减弱雨水冲刷地面的力量。同时，森林地面上的枯枝败叶和厚厚的草皮，能像海绵一样吸收水分，使雨水不能满地横流。再加上树根草根能抓住土壤，抵抗冲刷，所以黄土高原还是一个山青水绿的好地方。以后在长期封建统治下，特别是北宋以后，反动统治阶级害怕森林成为农民武装起义的聚集地，同时为了满足建造宫殿等穷奢极欲的需要，大肆砍伐、破坏森林。另一方面，被压迫被剥削的劳动人民为了维持生活，也不得不去开垦坡地。森林被破坏以后，夏季一遇暴雨，表层的肥沃土壤被大量冲走。据计算，坡地上的耕地，平均1亩地每年流失土壤6～8吨；整个黄土高原每年被冲走的泥沙多达13.8亿吨。于是农田越来越瘠薄，产量越来越低，带到下游的泥沙，又成为淤塞江河、引起洪水泛滥的祸根。
针对造成水土流失的原因，黄土高原地区人民采用多种方法制止水土继续流失，以使黄土高原出现新面貌。