1950年，胡宗南逃到台湾后，对亲信说：“ 我就不应该到这里来，还不如在大陆自裁。”这个曾指挥几十万大军的“西北军”，成了身边只有几个亲随的光杆司令。

3月26日，解放军挺进西昌，胡宗南见大势已去，让参谋长罗列代为指挥，他带着西康省主席贺国光及秘书长赵龙文等少数亲信乘飞机逃离。

等西昌的蒋军将领从罗列口中得到消息后，已是几个小时后，众人纷纷气得大骂，随即指挥各自的部队作鸟兽散。

胡宗南到了台湾后，蒋介石并未召见这个“天子第一门生”，手握大权的陈诚，也是反应冷淡。

随着西昌的解放，西南军政长官公署再无存在的必要，被老蒋一纸手令撤销机构，胡宗南的代长官随之免去，仅挂名“战略顾问”。

失去信任的胡宗南很是苦闷，哀叹说，早知是这个结果，他还不如在西昌自裁，省的让人笑话。

不再是“胡长官”的胡宗南，留在台北无事可干，见到昔日的同僚难免尴尬，他便带着妻子叶霞翟搬去了花莲居住。

此时，老蒋为了推卸失败的责任，到处找寻替罪羊，陈果夫、陈立夫兄弟首先被推了出来，陈果夫被免去本兼要职，于一年后病死，陈立夫被迫远走美国。

在陈诚的力主下，老蒋对作战不利的黄埔将领，也进行了惩处，原福州绥靖公署副主任兼第六兵团司令官李延年、七十三军军长李天霞等人相继被抓捕判刑。

若论战败之责，李延年、李天霞比之胡宗南，那就要轻的多了。

在成都解放前夕，胡宗南抛弃几十万大军，乘飞机逃去海南。老蒋几天内寻不到胡宗南的消息，一度以为这个学生被解放军抓了俘虏，等得知胡宗南未经请示，擅自跑去海南后，暴跳如雷，声言要严惩。后在“参谋总长”顾祝同的斡旋下，胡宗南以“戴罪”之身，带着亲随分乘二十架运输机，飞去西昌收拢残兵。

在西昌解放前夕，胡宗明请示老蒋可否撤离，老蒋回电不许他撤退。和胡宗南交好的“参谋次长”郭寄峤向老蒋进言说：“主动送一个大将当俘虏，实为不妥，也影响军心。”

老蒋这才不情愿的同意胡宗南离开，但让他必须先处理完善后，胡宗南哪还顾的上善后，一溜烟就逃走了，将烂摊子留给了心腹罗列。

胡宗南到台湾一个多月后，得到了一个让他震惊的消息：在李梦彪的牵头下，四十多个“监察委员”联名弹劾胡宗南，措辞激烈，甚至有杀胡宗南以定军心之语。

李梦彪是陕西人，在胡宗南任西安绥靖公署主任时，就一度打算弹劾，后经人劝说作罢。这次胡宗南光杆逃回台湾，李梦彪气不打一处来，将之前写好未交的弹劾材料修改一番后，正式递交了出去，其他“监察委员”闻风而动，纷纷响应，计有四十六人联名。

国民党逃台后，“监察委员”不过六十多人，竟有超过七成的人联名弹劾胡宗南，可见声势之大。

李梦彪弹劾胡宗南的材料，洋洋洒洒近万字，详细列举了胡宗南在西安绥靖公署主任、西南长官公署代长官任上的败绩及劣行，并以“庸才”、“丑类”等用语来形容胡宗南。

一时间，胡宗南成为过街老鼠，人人喊打。本来，顾祝同和胡宗南关系不错，多次替他解围，但此时的顾祝同，也是泥菩萨过河自身难保，兼任的“参谋总长”、“陆军总司令”等职务均被免去，仅挂名虚职。

至于陈诚，因派系斗争和胡宗南不和，不落井下石就算好的，怎么可能帮忙。

和胡宗南交好的军政人员及旧部，频频去李梦彪家中当说客，劝说李梦彪取消弹劾，放胡宗南一马。

李梦彪性格直坳，干脆在家门口张贴布告，上述：凡给胡宗南求情者，概不接待。

胡宗南为了免遭惩处，花了数日写了一封自解书递了上去。由于兵败是事实，胡宗南只得采用曲笔，将屡战屡败往“屡败屡战”上引。

老蒋权衡后，还是决定放胡宗南一马，在他的授意下，军法部门针对李梦彪等46名“监察委员”的联名弹劾，给出的答复是：胡宗南历经战斗，虽有败绩，但并未处置乖张，应免议处。

胡宗南尽管在老蒋的袒护下，躲过了一劫，但却失去了信任，不再被重用。蒋军的黄埔一期生中，本以胡宗南地位最高，他是唯一的“中将加上将衔”，肩膀可以挂三颗星。

国民党逃台后，原一级、二级上将纷纷退出现役。上将员额空出后，以胡宗南的资历和“中将加上将衔”的特殊身份，按理说应是首批晋升上将的。然而，黄埔一期将领中，第一个晋升二级上将的，却是长期从事政工、不显山不露水的袁守谦。

1951年，黄埔一期的桂永清、王叔铭先后晋升二级上将，胡宗南依旧靠边站。1953年，从越南带着三万残军船运回到台湾的一期生黄杰，旋即就被晋升为二级上将。

胡宗南是蒋军黄埔一期生中，第一个当军长、军团长、集团军总司令、战区长官乃至绥靖公署主任的，地位不是袁守谦、桂永清、王叔铭、黄杰可比，但形势逆转，此时的他在老蒋心目中的地位大跌。

1955年，在家赋闲数年的胡宗明被老蒋召见，派他去担任“澎湖防守司令部”司令官。为了安抚胡宗南，老蒋在他到任时，同时晋升他为二级上将。

1959年10月，胡宗南调回台北，此后靠边站了，当过他参谋长的罗列，已是“陆军总司令”、二级上将，可谓差距明显。