马殷自称伏波将军马援之后，早年家中困苦，以木匠为业。884年(中和四年)，秦宗权据蔡州(今河南汝南)叛乱，马殷应募从军，成为忠武决胜指挥使孙儒的部下，以勇武闻名军中。887年(光启三年)，秦宗权派其弟秦宗衡与孙儒、刘建峰等人攻打淮南，同杨行密争夺扬州。不久，孙儒与秦宗衡发生内讧，将其杀死，自率兵夺取高邮，驱逐杨行密。891年(大顺二年)，孙儒将杨行密围困在宣州(今安徽宣城)。892年(景福元年)，孙儒命刘建锋与马殷掠夺邻近郡县。不久，孙儒战败被杀，部众大都投靠杨行密。刘建锋、马殷收拢残部七千人，南下前往洪州(今江西南昌)。途中，刘建锋被推举为主帅，马殷为先锋指挥使，行军司马张佶为谋主。刘建锋等人到达江西时，兵马已达十余万。
占据潭州
894年(乾宁元年)，刘建锋等人进入湖南，驻扎在醴陵。潭州刺史邓处讷为了防备刘建锋，派邵州(今湖南邵阳)指挥使蒋勋、邓继崇驻守龙回关(今湖南长沙东)。马殷赶到龙回关，遣使劝降蒋勋。刘建锋命人穿上邵州军的衣甲，打着邵州旗帜，前往潭州(今湖南长沙)。潭州守军没有防备，开门应纳。刘建锋斩杀邓处讷，自称武安军留后。895年(乾宁二年)，唐昭宗任命刘建锋为武安军节度使，马殷为内外马步军都指挥使。不久，蒋勋向刘建锋求取邵州刺史，被拒绝后，便与邓继崇一同起兵攻打湘潭。896年(乾宁三年)，马殷平定蒋勋之乱。