土壤中营养元素主要来源于土壤矿物质和土壤有机质，其次来自大气降水、地下水等。
（1）来源于矿物质的养分：土壤矿物质营养的最基本的来源是矿物质风化所释放的养分，由于不同成土母质发育的土壤其矿物组成不同，所以，风化产物中释放的养分种类和数量也不同。例如玄武岩含五氧化二磷0.34％、氧化钾2.0％、氧化钙8.9％、氧化镁6%～8％、氧化铁11.75％，花岗岩含五氧化二磷0.25％、氧化钾2.0％、氧化钙4.6％、氧化铁6.0％，石灰岩含五氧化二磷0.04％、氧化钙42.7％等。
（2）来源于有机质的养分：土壤中养分元素绝大部分是以有机态形式累积和贮藏在土壤中的。它们在土壤中的含量与土壤有机质含量密切相关。由于土壤有机质的分解比岩石矿物风化的速度快，所以由土壤有机质提供的这些养分元素所占比重也较大。因此，土壤有机质含量的多少，直接影响着土壤养分的供给。
在自然条件下，树木、灌木丛、草类和其他植物等的植被、落叶和根部，每年提供大量的有机残体。另外，耕种的大量农作物地上部分和根部，部分仍残留在土壤中，这些物质被土壤微生物分解转化成各种营养成分，贮存在土壤中形成土壤有机质。也就是说，土壤有机质是腐解和合成的动植物残渣的累积物，这类物质由于土壤微生物的活动而不断遭到分解。因此，它是很不稳定的，所以必须通过增施肥料（包括有机、无机物），而不断补充更新，提高土壤养分。
（3）其他来源：由共生或非共生固氮微生物的作用，给土壤提供化合态氮素，也是一种重要养分来源。估计，每年每亩土壤中自生固氮菌的固氮量可达1.3～6.6千克，豆科植物共生固氮量3.3～18.6千克，非豆科植物共生固氮量约0.6～1.1千克。
大气降水也可给土壤带来养分。大气中含有因雷电、光氧化作用产物，工业废气和烟尘等产生的各种硫或氮的氧化物及氨和氯等气体，以及含有钠、镁、钾、钙等物质，它们可以随雨、雪进入土壤中。据估算，每年每亩土地上可得到由大气降水带来的养分约1.6～5.0千克。
上面讲的是土壤养分的主要来源，但是，由于各地自然条件差异很大，土壤中能够累积和贮藏的养分数量是不多的，只能供应各种作物生长发育需要的很少量养分。要想获得更高产量，就必须向土壤中投入一定数量的各种养分，因此，通过人工施肥是土壤养分的重要来源。