1962年2月10日，病危的胡宗南对蒋介石说：“台湾真是没有意思。”说完泪流满面，蒋介石听后，脸色难看，一言不发。 1949年12月10日，蒋介石、蒋经国父子乘坐飞机逃离成都。胡宗南送走蒋介石后，对身边的国民党四川省主席王陵基说：“方舟兄，你说我们怎样才能守住成都”。 王陵基说：“守不住，说什么也守不住成都了。你手下还有几十万兵马，进要靠你，退也要靠你，现在我只听你的了”。 胡宗南名义上指挥的部队有好几个兵团，数十万之众，但大都是由新兵和败兵组成的，空有数量，战斗力之差，连胡宗南自己都时常对着亲信发火吐槽。 胡宗南叹了口气，对王陵基说：“我现在已经计穷谋尽，这样吧，我把裴昌会、李文这两支兵马，交给你指挥，由你守好成都，如何”？ 王陵基连连摆手说：“你的部队，我可指挥不动。” 在解放军进逼成都时，胡宗南带着十几个亲信，乘飞机逃离成都，他走的时候，连兵团司令李文、裴昌会、李振等人都没有通知。在得知胡宗南逃走后，他留在四川的残部再无斗志，或起义或投诚，几十万大军顷刻间土崩瓦解。 蒋介石也不知道胡宗南的去向，一连几天联系不上，等联系上后，得知胡宗南的飞机降落在了海口。蒋介石大怒，派顾祝同去查办胡宗南。顾祝同到海口后，吓唬了一番胡宗南，又跑回台北向蒋介石求情。 最后，蒋介石严令胡宗南，带着幕僚和亲信军官，从海口乘坐二十架运输机，飞去西昌。蒋介石给胡宗南的任务是，务必坚守西昌三个月。胡宗南在西昌的日子里，天天掰着手指头算日子，好不容易熬够三个月，解放军也打到了西昌，胡宗南再次抛弃部下，带着几个亲信乘飞机逃离。 到台后，胡宗南受到几十个委员的联名弹劾，蒋介石授意陈诚出面斡旋，最后不了了之。 1951年9月，一个叫“秦东昌”的国民党将领来到大陈岛，解放军这边得知后，翻找资料，却寻不到关于这个“秦东昌”的任何信息。后来才得知，这个“秦东昌”就是胡宗南的化名。 在大陈岛待了不到两年，蒋介石将胡宗南召回，给了他一个“战略顾问委员会”顾问的头衔，并让他去军校进修，曾经指挥几十万大军的“西北王”胡宗南，这时已经57岁了，却成了一个学员。 半年的进修结束后，胡宗南没有等来任用，只得领着薪水，整日在家中闲居，他的脾气也越来越差，时常闷闷不乐。 1955年8月，蒋介石突然召见胡宗南，问他愿不愿意去澎湖任防守司令。胡宗南难得有个职务，当即答应。 为了安抚胡宗南，蒋介石在派他去澎湖的同时，又晋升他为陆军二级上将。胡宗南在大陆时期，是中将加上将衔，并未实授上将。 胡宗南到澎湖上任后，发生了一件事情，在国民党军中传为笑谈。就在胡宗南到任不久，参谋总长彭孟辑到澎湖视察。 彭孟辑的飞机停下后，他刚准备下去，副官报告说：“防守司令胡宗南已经提前迎候彭总长多时。” 听了副官的话后，彭孟辑已经伸出舱门的一只脚缩了回来。彭孟辑此时虽是位高权重的参谋总长，但论资历，他是黄埔五期生。而胡宗南，不仅是黄埔一期生，而且还是蒋军的黄埔生中，第一个当军长、军团长、集团军总司令、战区长官的，因此有“天子第一门生”之称。 彭孟辑当炮兵旅上校旅长的时候，胡宗南已经是第八战区副长官了。所以，长期位居胡宗南之下的彭孟辑，实在是不好意思让胡宗南前来迎接他。 彭孟辑对副官说：“你去告诉胡司令，让他去指挥部等我。” 过了一会，副官回来说：“我劝了，但胡司令死活不同意，非要迎总长你下来。” 就这样，彭孟辑坚持不下去，胡宗南非要迎接。僵持了半天，彭孟辑没辙了，他总不能乘飞机回去吧。于是，彭孟辑走出舱门，抱着等候他的胡宗南，竟然哭出声来。 这件事传到台湾后，成为笑谈，有国民党将领调侃说：“胡宗南在大陆的时候，眼高于顶，当副长官时候，长官朱绍良、蒋鼎文拿他一点办法都没有，这会却惺惺作态。不知道彭孟辑是真哭，还是陪着胡宗南一起演戏。” 1959年，胡宗南被召回了台湾，此后再未担任任何军职，算是彻底告别军界了。而就在这一年，彭孟辑晋升一级上将，对比胡宗南死后才被追晋一级上将，可谓是差距明显。 据胡宗南的家人回忆，由于胡宗南的妻子叶霞翟没有正式工作，一家人主要靠胡宗南的薪水生活，所以晚年的胡宗南，相对蒋鼎文、杨森等敛财有术的在台将领，生活还是比较拮据的。 1961年12月的一天，胡宗南应邀去参加“战略委员会”的临时会议，当他走到二楼时，突然感到很不舒服，只得回家休息。 此后，胡宗南的身体是一天不如一天。1962年2月6日，病重的胡宗南被家人送到台北荣总医院。得知昔日的爱将病危，蒋介石前来台湾，胡宗南泪流满面的说：“这里（台湾）真没意思。” 2月13日傍晚，胡宗南突然变得精神很好，和妻子叶霞翟聊了好久，还吃了一个大苹果。可就在第二天凌晨，胡宗南突然暴死，年67岁。 胡宗南死后，这个被蒋介石冷落多年的昔日心腹，倒也极尽哀荣。在老蒋看来，这个学生能力姑且不说，倒算忠心。
