冯迁少年时行事谨慎，有办事才能，州府征召他为从事。北魏神龟年间(518年—520年)，弘农刺史杨钩推荐他担任中兵参军事，后改任定襄县令，不久又任并州水曹参军。冯迁历任各种职务，都以勤勉谨慎而受到赞扬。
北魏孝武帝元修西迁时，冯迁辞掉官职，与直阁将军冯灵豫进入函谷关。跟随孝武帝收复潼关，平定回洛，授官给事中。后来随从宇文泰活捉窦泰，收复弘农，征战沙苑，都立有战功，被任命为都督、龙骧将军、羽林监，封爵独显县伯，食邑六百户。在洛阳之战中，冯迁率先登城攻入敌阵，身受重伤，侥幸得以不死。以战功加授辅国将军、军师都督，进封侯爵。很久之后，冯迁出任广汉郡守。当时蜀地刚刚平定，人心不安，冯迁治理时偏重简要宽恕，百姓生活得以安宁。
西魏恭帝二年(555年)，朝廷加任冯迁为车骑将军、大都督、通直散骑常侍，镇守樊城。不久又被任命为汉东郡守。宇文泰之子北周孝闵帝宇文觉即位后，冯迁担任晋公宇文护府掾，加任车骑大将军、仪同三司，进封为临高县公。不久又升任为宇文护府司隶，授任骠骑大将军、开府仪同三司。
冯迁性格质朴，小心谨慎，虽然身据权要，而从不拿官职压人。又加上他明白干练，善于判断。每次校阅文书，都是孜孜不倦，从早到晚，不肯休息，因此很得宇文护的重用。后来朝廷因冯迁是朝中元老，想使他更加荣耀，就任命他为陕州刺史，进封隆山郡公，食邑增至二千户。
冯迁本来出身寒微，不被当时的人所看重，出任弘农刺史后，只以谦虚恭敬的态度对待别人，没有人怨恨他。冯迁后来入朝历任司隶、工部中大夫、军司马、小司空。从天和年间(566年—572年)以后，冯迁由于年纪渐老，逐渐不受重用。宇文护被北周武帝宇文邕诛杀后，冯迁受到牵连而被罢免官职，并取消爵位。建德末年，冯迁在家中去世，享年七十八岁。