非常道马殷有一个很特别的出身，那就是木匠。投军之后，不但连打胜仗，而且开始独霸一方，由此也可以看出，他不是一个一般的“木匠”，他有着自己独特的头脑和本领。
马殷的出身很特别，年轻时做木匠谋生，但在战乱年代，木匠也不好做，他只好和许多人一样投“木”从戎，到了秦宗权的军中，成了秦宗权部将孙儒的一员偏将。
不久后，马殷便随军南下。当时秦宗权和杨行密正在争夺淮南地区，秦宗权派弟弟秦宗衡率领孙儒、刘建峰等将领渡过淮河，攻打广陵（今江苏扬州）。孙儒由于不满秦宗衡的指挥，就将他杀死了，然后自己掌握了军队，继续和杨行密交战。
马殷则跟随刘建峰奉命到其他地方征集粮草，供应大部队。后来，孙儒也阵亡，所部大半被杨行密收编。马殷和其他将领便推举刘建峰为首领，马殷任先锋，一起转战到江西一带，占领了洪州（今江西南昌）、鄂州（今湖北武昌）、潭州（今湖南长沙）等地，占领了湖南的中心地区。唐僖宗封刘建峰为湖南节度使，而马殷为马步军都指挥使。
这时，原来的湖南降将蒋勋向刘建峰要刺史做，被拒绝后便发兵叛乱，马殷奉命前去镇压。在马殷出征的时候刘建峰又出事了。刘看中了一个士卒的美貌妻子，与她通奸，被士卒发动兵变杀死。将士们商量后决定推举行军司马张佶为帅，张佶说自己没有帅才，才能比不过马殷，让大家以马殷为帅。众将同意了，于是便派人到前线去迎回马殷。
马殷当了主帅后，没有辜负张佶的推举，也没有让众将士们失望。一上任便将发动兵变的士卒处死，以肃军纪。然后他派兵征讨各地的割据势力，时间不长便将湖南基本上纳入了自己的统治范围，之后就在湖南建立了自己的一个独立王国。
马殷占据了湖南后，又乘势向外扩张，他将进攻方向定在了广西。发兵前他派人招抚桂州的刘士政，但使臣被刘士政阻止在全义岭前，于是马殷派属将李琼领兵出击。李琼攻陷了全义岭，又占领桂州，俘虏刘士政，这样桂州也为马殷所有了。
紧接着，马殷又将进攻的矛头指向了北面。当时，杨行密派刘存攻打鄂州的杜洪，马殷派秦彦晖领兵支援，因为鄂州是湖南的一个屏障，鄂州一失，湖南也就受到了杨行密的威胁。杜洪阵亡后，刘存便趁机进攻马殷，马殷便沿江布防，埋下伏兵，将刘存杀得大败后，刘存请求讲和。秦彦晖却反对说：“淮人很狡诈，他们这是想麻痹我们，绝不能听信！”马殷便一口回绝了，同时率军水陆夹攻，刘存军队大败，刘存也被杀。此后，岳州（今湖南岳阳）也被马殷占领。
湖南的朗州（今湖南常德）当时被雷彦恭占据，还没有统一，雷彦恭趁人之危，在杨行密攻打杜洪，荆南派重兵相救时，他偷袭了荆南的中心荆州，掠夺之后还把城给烧了。得手后，他又和杨行密一起阻断长江交通，断绝了岭南和北方的联系。马殷和荆南的继承人高季兴联合进攻朗州，几年后终于平定，雷彦恭也最终被马殷俘获。