土壤有机质主要来源于植物、动物及微生物残体，其中高等植物为主要来源。原始土壤中最早出现在母质中的有机体是微生物。随着生物的进化和成土过程的发展，动、植物残体及其分泌物就成为土壤有机质的基本来源。
在自然土壤中，地面植被残落物和根系是土壤有机质的主要来源，如树木、灌丛、草类及其残落物，每年都向土壤提供大量有机残体。在农业土壤中，土壤有机质的来源较广，主要有作物的根茬、还田的秸秆和翻压绿肥；人畜粪尿、工农副产品的下脚料(如酒糟、亚铵造纸废液等)；城市生活垃圾、污水；土壤微生物、动物(如蚯蚓、昆虫等)的遗体及分泌物；人为施用的各种有机肥料(厩肥、腐殖酸肥料、污泥以及土杂肥等)。其中，耕地土壤中自然植被已不存在，主要来自作物根的分泌物、根茬、枯枝落叶以及人们每年施入的有机肥料(绿肥、堆肥、沤肥和厩肥等)。
进入土壤的有机残体，尽管来源不同，但是从化学角度来看，主要有碳水化合物(包括一些简单的糖类及淀粉、纤维素和半纤维素等多糖类)、含氮化合物(主要为蛋白质)、木质素等物质。此外，还有一些脂溶性物质(如树脂、蜡质等)。
