人民解放军在不断增强军事打击力度的同时，也极力争取胡宗南率部起义。1936年，周恩来就曾以黄埔军校校友身份、徐向前以黄埔一期同学身份，分别致信他停止内战团结抗日。但是，胡宗南赞成抗日，却不赞成共产主义。
熊汇荃(后改名熊向晖)也认为胡宗南可能是夏伯阳式的人物，请示中共中央加速做争取工作。夏伯阳是俄国十月革命后由白军转变为红军的将领，熊汇荃以他比喻胡宗南是进步的国民党军人。但是，在国民党第一、第二次反共高潮中，胡宗南都追随了蒋介石。
1941年夏，中共中央指示熊汇荃，今后的主要任务是搞情报。(熊向晖《我的情报与外交生涯》，中共党史出版社2006年版)再说说熊汇荃的长期潜伏活动——并非没有引起过怀疑。如1937年12月，“湖南青年战地服务团”团长李芳兰，就曾当面质问他是不是共产党员。熊担任机要秘书后，李芳兰又旧事重提，都被他巧妙地顶回去了。
胡宗南的特工部门也曾收到匿名信，检举熊汇荃是“匪谍”，但没有引起胡宗南的重视与追查。熊汇荃能在胡宗南身边潜伏数年之久，除了周恩来部署周密、他本人精明机警外，还有以下几点起了重要作用：
第一，国民党的党政军机关一直没有建立起严格的组织人事制度与政治审查制度。各级人员的任免多凭长官好恶与亲友介绍请托，事前既无严格审查，事后又无认真考核。长官决定的人事任免往往要受个人认识与情感的局限，却又不允许别人提出任何不同意见。
第二，胡宗南个人性格与作风的严重缺陷。胡宗南性格与为人粗豪而不精细，轻率而不谨慎，过分自信。特别是在他事业顺利、官运亨通、手中权力急剧膨胀以后，更是自傲轻狂，独断专行，对部下无警惕之心与审察之道。
第三，个人感情产生了作用。在朝夕相处数年里，胡宗南对熊汇荃无话不谈，无密可保。胡宗南以兄长姿态关心熊汇荃的工作、生活，甚至婚姻。在内战激烈进行之时，还送他去美国学习深造。熊汇荃在晚年回忆文章中，也掩饰不住对胡宗南的这些感激之情。
西北解放战争接近尾声之际，中共中央指示西北局做胡宗南起义工作。1949年10月，中共中央西北局派曾被俘的原国民党军整编第二十四旅旅长张新潜回胡宗南部，向他面交了中共方面呼吁起义的信件及有关文件。胡宗南多年受蒋介石恩宠，无法摆脱同蒋的个人感情。他明确表示不能背叛蒋介石，要做文天祥，愿“为知己者死”。
12月，人民解放军第一野战军经过陕南陇南战役，将胡宗南所部全部赶出西北。胡宗南残部退守西南，很快陷入人民解放军新的包围之中。1950年4月，他带着无限惆怅的心情，率少数随从逃到台湾。
胡宗南到台湾后，蒋介石对他在西北、西南战场的失败颇为恼怒，刚履新的“总统府战略顾问”闲职也遭到弹劾。1951年3月，胡离开国民党政权中枢，到大陈岛组织“江浙反共救国军”，任总指挥，化名秦东昌。其含义为，当年兵败三秦，今日东山再起。然而，梦想未能成真，最后连这个不太像样的官职也被别人挤占去。
1955年9月，蒋介石念他几十年军旅生涯，任命他为澎湖列岛防卫司令官。胡此时已进入60周岁，自知花甲之年担任此职，乃老校长念及门生之情。1959年10月，蒋介石复任命他为“总统府战略顾问”，让他荣居二线，颐养天年。而胡宗南却总觉得天不遂人愿，情绪十分低落。1962年2月，胡宗南在郁郁寡欢中病逝台北，遗下爱妻及尚未成年的二子一女。