黄克诚是湖南永兴人，参与组织了湘南暴动，到了井冈山之后担任工农革命军第4军12师35团团长。1929年奉命到鄂南游击区，担任红五军第5纵队第8大队政委。1930年5月，第5纵队在湖南平江县长寿街与红五军主力部队胜利会师，黄克诚第一次见到后来成为共和国元帅的红五军军长彭德怀。
会师当天，彭德怀向数千官兵发表了激情洋溢的演讲，这是黄克诚第一次听彭德怀讲话，印象十分深刻。彭德怀个头不高却很结实，一身军装虽有些破旧，但十分整洁，当时才刚刚30出头的彭德怀浑身上下透着英武之气，举手投足十分干脆利索。从此，黄克诚开始在彭德怀麾下征战疆场。
彭德怀不仅举手投足虎虎生威，指挥打仗更是智勇双全。在紧接着的平江战斗中，他指挥红五军团三下五除二就把平江县城给解放了。胜利凯旋，黄克诚高兴得不得了，他边走边想，跟着彭德怀这样的将领不愁打不了胜仗。
彭德怀指挥红五军打完平江县又去攻打修水县城，但这一次有些出师不利。修水县城城墙坚固，城内又有国民党正规部队坚守，不是轻易就能攻下的。担任主攻的第5纵队在夜幕下发起的几次冲锋都被敌人压了下来，纵队领导有些泄气，黄克诚向纵队司令员李灿主动请缨道：“司令员，请容许我带领第8大队再攻一次！”
经征得司令员同意后，黄克诚一声令下，自己手握钢枪背插大刀带头往前冲。黄克诚边冲边开枪，冲到城墙下又攀着云梯“嚓、嚓、嚓”地往上爬。第8大队将士看见大队政委跑在最前面打冲锋，也都纷纷争先恐后地往前冲。
黄克诚眼看着就要爬到城墙上，枪里没了子弹不说，一个敌人正在上面抬云梯，说时迟那时快，他抽出身后的大刀顺着敌人的肩膀就往下劈，敌人一声不响地从城墙上栽了下去，鲜红的血溅得黄克诚满身都是，连眼镜片上都溅上了血。
就这样，黄克诚第一个飞身跃上了修水县城的城墙，第8大队的勇士们接二连三地从黄克诚打开的这个缺口突了上去。
修水县城终于被打开了，军长彭德怀走上城墙，四处询问第一个冲上城墙的戴眼镜的人是谁，第8大队的官兵回答说：“那是我们新来的大队政委黄克诚！”
“打一仗认识一个人，打修水让我们认识了黄克诚。”彭德怀走到黄克诚面前高兴地大声说，但接着又道，“不过，下次可不能第一个往上冲，你是大队政委，不但要英勇杀敌，更重要的是要指挥大家打胜仗。”
对于黄克诚来说，彭老总是他的老首长、老战友，自1930年5月红三军团成立起，绝大部分时间黄克诚在他的领导下战斗、工作。在40多年的岁月中，他们共同闯过了无数惊涛骇浪，越过了无数艰难险阻，共享过无数次胜利的欢乐和幸福。在行军途中，在宿营地里，他们总是谈得无拘无束，十分融洽，有时也争论得面红耳赤，各不相让。然而这并没有丝毫影响他们的感情和彼此的信任，相反地倒加深了相互了解和革命友谊。多年以后，黄克诚仍然说，赫赫有名的彭德怀元帅是对他的一生产生至关重要影响的人物。
在20世纪60年代，黄克诚任山西省副省长时，重游与彭德怀共同战斗过的高平地区，不胜感慨，曾作词一首《江城子·忆彭德怀》，其中写道：“久共患难自难忘。不思量，又思量；山水阻隔，无从话短长……犹得相逢在梦乡，宛当年，上战场。”这首词，满怀激情地回忆了与彭总共同度过的无数个激情岁月。