彭玉麟以“不要官、不要钱、不要命”的“三不要”美名而著称于世。
先说“不要官”。早年投入湘军水师之初，即以“不受官”自许。曾国藩率领湘军镇压太平天国，水师实为其首，而彭玉麟作为水师统帅，可谓战果累累。每次大胜之后，曾国藩总是向清廷出面保奏彭玉麟升官，朝廷也不断以官职来提拔他，但他每次都总是不受命。同治四年（1865年）三月，清廷欲任命彭玉麟为漕运总督。漕运总督在当时是天下第一肥缺，多少人梦寐以求，谋之不得，而彭玉麟却视之如草芥，两次上书请辞，自称“臣以寒士来，愿以寒士归也。”对于彭玉麟固请力辞不愿为官的行为，朝廷很感奇怪，当时官场中人也极不理解，甚至有人出面向朝廷建议，以他不受命、近乎矫情而处分他。
曾国藩闻讯，出面为他说情，他说：“查彭玉麟自咸丰三年（1853年）初入臣营，坚与臣约，不愿为官，嗣后屡经奏保，无不力辞，每除一官，即具禀固请开缺。咸丰十一年（1861年），擢任安徽巡抚，三次疏辞，臣亦代为陈情一次，仰邀允准。此次亲奉恩旨，署漕运总督，该待郎闻命悚惶，专折沥陈。顷来金陵，具述积疾之深，再申开缺之请。臣相处日久，知其勇于大义，淡于浮荣，不愿仕宦，份出至诚，未便强为阻止。”清廷看了曾国藩奏折，才冰释狐疑，准予彭玉麟之所请。人谓求官非易，而彭玉麟却以辞官为难！太平天国和捻军相继失败后，清朝统治又恢复了暂时的宁静。彭玉麟功成告退，向清廷请求辞官回乡补行守孝。清朝看他情恳意切，便同意了他的请求。同治八年（1869年）春，彭玉麟回到衡阳，仍旧居于他发迹前的三间小屋之中。3年后，清廷命他检阅长江水师，又命他进京朝见，任为兵部右侍郎，仍不就职。南归后，自筑一房于衡阳湘江边，名曰“退省庵”，以表达他无意功名利禄的情怀。其后，又先后辞谢两江总督和兵部尚书。当时为人较为苛刻、喜欢议论人的文人王闿运在其日记中说：“雪琴辞官还山，朝命优渥，许其一年一巡长江，江湖二督为供张。雪琴此去，使京中王公知天下有不能以官禄诱动之人，为益于末俗甚大，高曾、左一等矣。”彭玉麟这种屡屡“不要官”的行动，在腐败污浊的封建官僚中，卓然清新，可谓出污泥而不染。
再说“不要钱”。彭玉麟一生不治产业，治军严，律己更严，尽管他位居高位，始终坚持了一条“不要钱”的生活准则。咸丰四年（1854年）冬，彭玉麟率湘军水师配合陆师攻陷了田家镇后，清廷奖励4000两白银，他却转而用于救济家乡。他在给叔父的信中说：“想家乡多苦百姓、苦亲戚，正好将此银子行些方便，亦一乐也。”还要求他叔父从中拿出一些银两在家乡办所学堂，期望为家乡“造就几个人才”。对自己和家人却甚为严苛。当他得知儿子花费2000串铜钱修葺了家中老屋之后，即去信严词斥责：“何以浩费若斯，深为骇叹。”说他一贯将“起屋买田视作仕宦之恶习，己身誓不为之。不料汝并不来信告示于我，遽兴土木；既兴土木之后，又不料汝奢靡若此也。外人不知，谓吾反常，不能实践，则将何颜见人！”其实，他儿子修葺后的老屋也不过是三间土墙瓦屋而已。同治三年（1864年），他曾说过：“顾十余年来，任知府，擢巡抚，由提督，补侍郎，未尝一日居其任。应领收之俸给银两，从未领纳丝毫……未尝营一瓦之覆，一亩之殖以庇妻子。”
彭玉麟是这样说的，也是这样做的。按清朝制度，凡文武官员于正式薪俸之外，由国家另行发给养廉金一份，于离职之日一次发给，以奖官守，并杜绝贪污。据此计算，彭玉麟自咸丰五年至同治元年（1855—1862年），7年之间，应得养廉银21500余两，但他分文不取，全数上交国库充作军饷。彭玉麟考虑到他一个人这样做可能使人怀疑他沽名钓誉，因而又请求曾国藩出面向朝廷说明。曾国藩则说：“查彭玉麟带兵十余年，治军极严，士心畏爱，皆由于廉以率下，不名一钱。今因军饷支绌，愿将养廉银两，悉数报捐，由各该省提充军饷，不敢迎邀议叙，实属淡于荣利，公而忘私。”曾国藩之所言，确不为过。
彭玉麟还“不要命”。他以打仗不怕死闻名于湘军。咸丰四年（1854年），彭玉麟刚刚出山，即率领左营水师参加围攻岳州之战，遭到太平军猛将曾天养的拦击。在激战中，彭玉麟“奋不顾身，右肘中弹，血染襟袖，仍裹创力战”，被誉为“勇略之冠”。次年七月，彭玉麟在移军屯口途中与太平军遭遇，所坐船桅杆被太平军炮火击中，船在江上打转，他并不慌张，旋跃入部将成发祥的舢板中才脱离危险。事后，湖北巡抚胡林翼在奏折中称赞“玉麟忠勇冠军，胆识沉毅，坐舢板督战，被击断其桅，神色不变。”咸丰十年（1860年）五月，曾国藩在向朝廷报告军情时称：“查彭玉麟管带水师，身经数百战，艰险备尝”，并赞扬他“任事勇敢，励志清苦，实有烈士遗风”。
被曾国藩以“烈士遗风”赞许的人只有两个，一个是新宁人江忠源，另一个就是彭玉麟。江忠源早死，而彭玉麟的勇敢不怕死，更为湘军各将领之冠。尤其值得称道的是，光绪九年（1883年），中法战争爆发，法国殖民者侵略越南，矛头直指我国西南，全国上下抗法呼声日益高昂。清廷于5月谕李鸿章去督办广东军务，但李鸿章滞留上海不往，在边疆危机日益严重的情况下，清廷改命彭玉麟为钦差大臣督办广东军务。时年68岁，并已告老家居的彭玉麟，在民族危机严重的关键时刻，不顾年高体弱，慨然应允，立即募兵4000人开赴广东虎门附近驻守。行前他向清廷上书表示：“畏首畏尾，其如外侮日肆，凭陵何哉！臣德薄能鲜，不知兵，尤不谙陆兵，调度水师三十余年，我行我法，唯秉诚实无欺之血忱，不要官，不要钱，不要命。”爱国御侮之情怀，跃然纸上。
最终，彭玉麟凭他严密的军事部署和丰富的作战经验，指挥老部下冯子材等人先后取得镇南关大捷和谅山大捷，赢得了中法战争的胜利。正当彭玉麟准备一鼓作气，趁势收复越南时，却受到了李鸿章等妥协派朝臣的干扰，不能进一步扩大战果。雪帅对此忧愤交加，终于一病不起。
彭玉麟的一生，以其言行基本实践了其“三不要”的诺言。后任湖南巡抚，时任湖北布政使的陈宝箴在悼念他的挽联中写道：“不要钱，不要官，不要命，是生平得力语，万古气节功名都从此。”在与他同时期的封建官员中，诚不可多得。