高尔基原名阿列克塞·马克西莫维奇·彼什科夫，1868年3月28日出生于俄国伏尔加河畔的诺夫哥罗德（今高尔基市），因幼年父母早逝，被寄养在外祖母家。后来，外祖父破产，10岁的他被生活所迫过早地步入了社会，他当过跑堂、搬运工、守夜人、面包师，还曾经做过流浪汉，尝尽了人间的辛苦。虽只上过两年学，但自幼酷爱读书，自学了许多知识。社会底层的生活和丰富的阅历使他对俄国社会有了深刻的认识，也为他日后的创作提供了丰富的素材。
1892年，高尔基用笔名发表了第一篇短篇小说《马卡尔·楚德拉》。1895年2月，他成为《萨马拉报》专栏作家。1896年，在《下诺夫哥罗德报》做编辑。高尔基在早期的作品中塑造了很多流浪汉形象，他们的生活具有浓厚的浪漫主义色彩。他在1901年发表的诗歌作品《海燕》中，把海燕比做俄国无产阶级革命者的化身和胜利的预言家。从那以后，高尔基便投身于革命斗争的洪流中，曾数次被捕。1902年，他写的抨击沙皇专制制度的话剧《底层》大获成功，该剧充分表现了高尔基在戏剧创作上的艺术风格。
1903年，保皇分子将他刺伤，引起全社会尤其是舆论界的公愤。1905年俄国革命时，他参加了布尔什维克党报的出版工作，并加入了党组织。莫斯科起义失败后，他便到欧美宣传革命，筹集经费。
1906年，高尔基来到美国，在那里完成了他最著名的长篇小说《母亲》的创作。小说通过对工人革命者巴维尔母子英雄形象的刻画，成功地描绘了俄国工人阶级从接触马克思主义理论到参加实际斗争中逐渐成长的过程，以及在无产阶级政党领导下工人运动的发展历程。《母亲》被认为是第一部反映社会主义现实主义的作品。以后，他还到过法国、英国、意大利等国。在旅居意大利期间，因受造神论的影响，写出了《忏悔》，因而受到列宁的严肃批评。高尔基早在1905年时就和列宁有了第一次会面，这时列宁更加关注他的思想发展，不断给予他热情的帮助。1913年，沙皇政府大赦政治犯，高尔基返回俄国，随后完成了自传体三部曲的前两部《童年》和《在人间》。十月革命后，高尔基和布尔什维克党发生了分歧，但1918年8月列宁的被刺使他翻然悔悟，及时改正了自己的错误。1923年，高尔基完成了自传体三部曲的最后一部《我的大学》的创作。1925年，他又写了长篇小说《阿尔达莫诺夫家的事业》和他的最后一，部长篇小说《克里姆·萨姆金的一生》。
除了文学创作外，高尔基还积极参加各种社会活动，曾担任过《红色处女地》杂志的编辑，组建了世界文学出版社，还积极倡导和组织撰写国内战争史和工厂史。1934年，他主持了苏联第一次作家代表大会，并当选为苏联作家协会主席。
1936年6月18日，高尔基病逝，享年68岁。