1922年4月19日，埃利希·哈特曼出生于德国符腾堡地区魏斯扎赫城，父亲是第一次世界大战时的军医。战争结束后，为躲避经济危机，于1925年全家离开德国，到中国的长沙开了一家诊所。
1929年，哈特曼随母亲和弟弟一同回国。3年后，老哈特曼也回到德国，在魏尔的俾斯曼大街开了一家诊所，行医谋生。
哈特曼的母亲是对他的飞行生涯产生了重大影响的第一人。哈特曼的母亲是一位富有冒险精神的飞行体育运动爱好者，这对哈特曼产生了巨大的影响。
1933年，希特勒上台，德国掀起了飞行热。希特勒大力支持建立滑翔俱乐部。1936年，哈特曼的母亲在魏尔建立了一个俱乐部，亲任教员，招收青年人学习滑翔飞行。
当时，哈特曼正上中学，他也加入了俱乐部。当他14岁时，已成为一名优秀的滑翔机驾驶员。1937年，他获A级和B级滑翔机驾驶员证书，取得C级后，成为希特勒青年飞行团中的滑翔机教员。
1939年9月1日，第二次世界大战爆发。高中毕业的哈特曼立即报名参加了空军。父亲希望儿子去从事救人生命的事业，而不是去杀人，而且他认为战争会以德国的失败而告终。母亲却支持哈特曼参军。
1940年10月15日，哈特曼加入德国空军第10训练团，驻扎在离东普鲁士的科尼斯堡15公里的新库伦地区。1941年3月，转入柏林加托夫第2空战学校。1941年3月24日，入校不到1个月的哈特曼放了单飞。10月14日，基本飞行训练结束，他转入第布斯特歼击机飞行学校，学习驾驶梅赛施密特公司生产的ME-109式战斗机。
在这里，哈特曼遇到了对他的飞行生涯产生过重要影响的第二个人瞿哈根教官——德国有名的特技飞行能手。教官对哈特曼也特别赏识，他教哈特曼基本战术动作和独自驾驶ME-109的技术，还传授了一些特技飞行的秘诀。
1942年3月，哈特曼顺利结束飞行训练，获驾驶员证章，并晋升为少尉。1942年6月转入空战和射击训练。1942年6月3日，哈特曼驾驶ME-109D型飞机用机枪对拖靶射击50发，命中24发，引起教官和同行的注目。
1942年9月，哈特曼随部队开赴东线战场，加入德国空军第52战斗机联队，参加对苏军作战。