20世纪30年代末、40年代初，在当时甘肃省东北部（今属宁夏回族自治区）的海原、固原一带，爆发了三次声势浩大的反抗国民党暴政、寻求民族解放的回民起义。它震撼着国民党在甘肃的统治，产生了深远的影响。
1938年农历十一月初，在海原县发生辱回事件，成为回民起义的导火线。伪县长贾从城在新修的县志中公开侮辱回民，在“回”字上故意加上“犭”旁。回民看后义愤填膺，联名上告，贾从城非但无悔，反而带领狗腿子到上白崖寻衅，扬言要“血洗”回民。沙沟、白崖一带的回民在马国琳、马银贵、马喜春等领导下，于农历十一月二十五发动起义。他们提出“暴政之下，不做顺民”、“反蒋抗日，寻找民族出路”、“打倒欺回灭教、把回民当狗看的国民党政府”等口号，把矛头直接对准国民党反动政权。各地回民纷纷响应，十多天即聚众8000多人。之后，他们兵分两路，分别攻打隆德和固原两座县城。因敌人早有防备，均未攻克。当马国琳率起义军北归时，在六盘山上套马庄与敌遭遇，歼敌数百名，起义军也有较大伤亡，马国琳左腿中弹，便至偏城休整。
敌第八战区司令朱绍良看到以武力难以消灭起义军，便施以“以回制回”之伎，由回族上层官僚组成“宣抚慰问团”，到三营骗降起义军。由于起义军缺乏经验，相信了敌人的诺言，后来队伍自行解散。没过几天，国民党大军合围而来。马银贵被捕，后在固原惨遭杀害。第一次起义失败了。
1939年农历三月二十日，被国民党抓到兰州去的马国瑞摆脱敌人的监视，回到海原沙沟艾壕湾。经过一段筹划，同马喜春、马思义等于四月十一日发动了第二次武装起义。不久，起义军便发展到4000余人，称为“崇义军”，推举马国瑞为司令。四月十三日晚，起义军向南转移，准备到张家川大麻山一带，凭借茂密的森林与敌周旋。四月十七日晚，在六盘山下和尚铺与敌一个团遭遇，苦战一昼夜，全歼守敌，并缴获了12辆汽车和大量武器弹药。起义军的胜利，吸引了大批回汉族群众前来入伍，部队迅速发展到万余人。之后，他们向泾源黄花川、白面河转移。敌人调集大批兵力设置包围圈，并再次派来由回族上层人士组成的“甘肃省政府代表团”到白面河，进行政治诱降。起义军再次上当，当敌军完成铁壁合围时，一口回绝谈判时的条件，立即用飞机、大炮、机关枪向起义军坚守的阵地狂轰滥炸。激战13昼夜，起义军领导人马国瑞、马喜春等均壮烈牺牲，部队只剩下2000余人。在此危急时刻，腿负重伤的马思义指挥部队趁黑夜分散突围，不久，起义军自行解散。第二次起义又失败了。
第二次起义失败后，国民党反动派对起义回民和当地群众进行疯狂的报复。但是，英雄的海固人民没有屈服，从1940年底开始，马思义、马国琳等即在秘密串联，准备再次起事。
1941年农历四月初八，一伙民团伙同国民党军队窜到上白崖村，架起机枪，准备集体枪杀群众。马思义等闻讯，立即带队赶来，将敌人包围起来。经过战斗，击毙敌团长一名，余敌遁逃。起义军乘胜追击，攻占了沐家营（今西吉县城）。广大群众纷纷加入起义队伍，不久便发展到六七千人，马思义被推举为团长。此时，马国琳也从西吉滩赶来参加起义。为了摆脱敌人的围剿，起义军向张家川转移，沿途有不少汉族群众加入，当部队行至隆德时，已扩大到2万多人。
农历四月二十一日，当起义军行至大麻山时，大批敌人尾追上来。起义军凭借有利地形，伏击敌军，全歼敌一个团，击溃两个团，共歼敌900余人，俘虏100多人，并缴获机枪50多挺，步枪900多支，弹药难计其数。
大麻山之战后，起义军当即回师北上，返回海原南部。敌人又派出代表来诱降，被起义军断然回绝。然而此时敌军围困逼近，起义军处境困难。五月上旬，起义军召开营以上干部会，讨论今后行动方向。马思义力主投奔边区，参加红军，一些人不同意，部队继续北上。五月十二日行至石蛤蟆时，遭到数万敌军包围，激战三昼夜，毙敌数千，终因众寡悬殊，起义军再度陷入困境。马思义团长再次提出投奔边区的主张，得到部分人的赞同。于是，五月下旬马思义便带领部分人奔赴边区。而马国琳却带领2000多人返回海固，后被敌杀害。
马思义带领2000多人于农历六月初六到达边区所属的庙儿掌，来到日夜想念的红色根据地——陕甘宁边区，加入了革命队伍。