马本斋出生在一个贫寒的回民之家，小时候常听母亲讲“岳母刺字”、“苏武牧羊”和“花木兰从军”的故事，非常钦佩古代英雄精忠报国的精神。
1937年7月7日，日本军国主义悍然发动了旨在灭亡中国的侵略战争。日寇的野蛮暴行，国民党军队的腐败无能，使马本斋义愤填膺。他再也沉不住气了，乡亲们也纷纷来找他拿主意。马本斋愤激地说：“咱回回有句话，‘对恶狗用棍子，对强盗用刀子’。不抗日，日子设法过，不拉队伍，就没法杀鬼子。”经过马本斋的说服动员，1937年8月30日，一支手持大刀、长矛和鸟枪的庄稼汉组成的抗日武装——回民义勇队在东辛庄的清真寺庄严成立了。在清真寺的古松上，张贴着一张醒目的条幅：“主助俺，伊斯兰，回族男，猛虎胆，专打鬼子保江山。”村上的有志青年纷纷报名，队伍很快发展到几百人。
这支回民抗日武装成立不久，9月中旬就在马本斋的带领下，成功地伏击了日军一辆从河间开往沧州的军用汽车，全部消灭了车上的敌人，并缴获了部分军械。义勇队首战告捷，加强了自己的武装，鼓舞了整个队伍的士气。“回民义勇队”这个响亮的名字，从此很快在华北平原上传开了。
随后，马本斋领导这支队伍不断打击敌人，取得了一次次可喜的成果。同时，他又在斗争的实践中逐渐地认识到：“水浅掀不起大浪”，只依靠回民义勇队孤军奋战，绝不可能战胜强大的敌人，只有将这支队伍汇入共产党领导下的人民战争的汪洋大海之中，才能最终战胜日本侵略者。这时，党组织也正在寻找马本斋。1938年春，河北游击军司令员孟庆山派刘坟同志与马本斋取得了联系。刘坟传达了党组织的意见，希望马本斋率领回民义勇队加入八路军。这正是马本斋梦寐以求的愿望。没过几天，他就率领这支土生土长的回民抗日武装去参加了八路军，踏上了新的征程。出发之前，马本斋向全村父老乡亲立下铮铮誓言：“此去投军，坚定不移。赴汤蹈火，在所不辞。不灭日寇，誓不罢休！”经过长时间艰难的探索，马本斋和他领导的回民义勇队终于走上了真正的革命道路。
1940年初，八路军回民支队发展到两干多人，在马本斋卓越指挥下，取得了一系列战斗胜利。比如康庄战斗，马本斋采用“引蛇出洞，围点打援”的作战方案，全歼日军60余名及一部分伪军，缴获了多门轻重机枪和大炮，而回民支队则无一伤亡。斗争越来越激烈，但回民支队却越战越勇，越战越强大，日联队长山本见用武力征服不了马本斋，就改换手法，抓马本斋的亲属，然后诱降、劝降、逼降。马母被抓了，她痛斥敌人：“狗强盗，别做梦了，我是中国人，我生养的孩子是中国人，我儿子当八路军是我让他去的。劝降？那是妄想！”马母绝食七天，壮烈牺牲。冀中军民闻讯，莫不感动。马本斋抑制住心头的悲痛和怒火，奋笔疾书：“伟大母亲，虽死犹生，儿承母志，继续斗争！”他没有流泪，把仇恨化作无尽的力量，凝聚在杀敌的刀枪上，更加英勇地为祖国、为人民的解放事业而战斗。
由于长期艰苦作战，马本斋积劳成疾，不幸于1944年2月病重去世。
回民支队在去延安的路上，得知司令员病逝的消息，无不失声痛哭。杨得志司令员说：马本斋的死，比泰山还重。他像莽莽昆仑巍然屹立；他像滚滚江河奔流不息，他是我党我军的骄傲。党中央在延安为他举行了追悼会，总参谋长叶剑英高度赞扬了他光辉的斗争经历和卓越的军事指挥才能。毛主席写下了“马本斋同志不死”，周恩来副主席题词“民族英雄，吾党战士”，朱德总司令挽联“壮志难移，汉回各族模范；大节不死，母子两代英雄。”新中国成立后，为了表彰马本斋烈士的功勋，党中央决定将河北省献县东辛庄，命名为“本斋回族自治乡”，将烈士的遗骨迁葬于石家庄华北军区烈士陵园，供后人凭吊瞻仰。马本斋烈士既是回族同胞的光荣，也是祖国母亲的骄傲！