作为北部边防的重臣，谭纶被召回京城，担任了大明朝的国防部长---兵部尚书。
在兵部尚书任上，谭纶又提出了全面清理各地军屯的主张，重新规划军屯土地，随后在明朝各地军镇，军屯土地的清理全面展开，查处不法侵占者多人，明王朝的军备从此焕然一新。当然此举也引起颇多非议，诸多在清丈中利益受损的官员纷纷弹劾谭纶。幸好有张居正支持，才得以无事。公元1577年，积劳成疾的谭纶病逝于任上，享年五十七岁。
值得一提的是，一生艰辛的戎马生涯中，谭论的文化爱好，也从没耽误，不但诗词文学颇多建树，戏曲成就更是骄人，带兵打仗的时候，部队就常带着戏班子，不止为了取乐，更常编演很多带有爱国情怀的戏曲，用来提振士气。这支跟随了他一辈子的戏班子，后来被他带回家乡，更与家乡当地的戏曲风格融合，形成了中国传统戏曲里一大重要流派：宜黄腔。