1938年1月,刘湘在汉口病逝，趁着川军群龙无首，蒋介石任命张群为四川省主席兼保安司令。张群作为四川人，本应顺利就职，然而他的任职，使川军诸将领感到严重威胁，于是全体表示强烈抗议。张群为老乡所拒，使他丢尽了面子。 为了给张群挽回面子，也为了稳定大后方，蒋介石采取迂回策略，于1938年8月任命张群为重庆行营主任，主管西南各省，成为了四川省府的上司；任命四川军阀邓锡侯为川康绥靖公署主任，投靠蒋介石的川军将领王瓒绪为四川省主席。 王瓒绪主川之后，收集四川军人反蒋的信息，整理后上报蒋介石，被川军将领察觉，联名致电蒋介石，历数王瓒绪“祸川”的罪状，蒋介石被迫罢免王瓒绪的省主席职务，干脆自己兼任四川省主席，决定等待时机，将此职过渡给张群。 张群自然了解蒋介石一片苦心，为了顺利接任四川省主席一职，他向蒋介石建议说：“不如组织一个川康经济建设委员会，将川康两省有影响人物都聘请来当委员，借机笼络他们。”蒋介石立刻批准。川康经济建设委员会由蒋介石担任名义上的委员长，实际由张群主持，聘请了两省军政大员90多人，张群还在重庆办了一个川康兴业公司，自任董事长，在这些活动中，张群逐步取得两省要人好感。1940年11月15日，蒋介石明令发表张群出任成都行辕主任兼四川省政府主席，这一次，张群终于得以顺利上任。 在此后的6年里，张群在川省主席位上竭力调节与四川地方军政各界的关系以及四川与西康省的关系，在一定程度上分化了四川军阀的势力。 1946年9月，张群9月赴美治疗颈部肿瘤。1947年4月，蒋介石让张群出任行政院长。蒋之所以用张群，是因为张群未培植多少个人势力，他与蒋介石是结义兄弟，私交数十年，当时蒋介石周围并没有多少让他完全信任能够托付重任的政府官员，陈果夫、陈立夫势力膨胀，目空一切；陈布雷等文人，又不足以担当事关全局的行政要务；只有张群，论资历、经验，论交情，是蒋认为的行政院长的最佳人选。 张群就任后，一度雄心勃勃地提出所谓“经济自助十项计划”，想要在控制物价、稳定币制、清理税则、恢复生产等诸方面有所作为。然而，庞大的军费开支令张群无计可施，他的十个计划全部胎死腹中，张群焦头烂额，疲于应付。 一年后，“行宪”国大召开，蒋介石成了总统。本来蒋介石内定的行政院长人选仍然是张群。不料，立法院在蒋介石提名之后以“假投票”的方式搞了一次“民意测验”，结果何应钦得票最多，而何应钦此时已被蒋介石冷落了两年之久；张群却在CC系、复兴系的立法委员那里碰了钉子，皆不予通过。结果，刚刚主政一年的张群便从行政院长的位子上退了下来，1948年5月被任命为总统资政。 1949年年初，蒋介石在第三次下野之前，任命张群为重庆绥靖公署主任。不久后，重庆绥靖公署撤销，成立西南军政长官公署，张群任该公署长官。 张群对四川军阀刘文辉说：“西南是最后的堡垒，四川是西南的心脏，别的地方可以丢，就是四川不能丢，到必要时将调百万大军来保卫四川。” 尽管嘴上如是说，事实上张群已经在考虑后路。他将四川的征兵由42万减为6.2万人，征粮即停，还释放四川的民盟成员田一平、孙文石、张大昌等21人出狱。 年底，蒋介石眼看成都就要解放，企图利用云南和西康作为负隅顽抗的最后据点。为此，张群多次赴昆明活动。12月初，张群到昆明与云南省主席卢汉会面，在谈话中表示：“总裁准备把机关迁至昆明……” 张群话未说完，立刻被卢汉打断，卢汉说：“云南民穷财尽粮缺，负担不起。”如此直截了当地拒绝，令张群一时窘迫不堪。背地里，张群对卢汉不无抱怨：“真是虎落平阳被犬欺！”12月9日下午，张群再次飞赴昆明，准备安抚卢汉，控制局面。不料，卢汉将准备已久的起义提前举行，张群一下飞机便失去了自由。 当晚，卢汉通电起义。张群被扣后，他注意到卢汉虽限制他自由，但给予他的待遇很高，意识到自己无生命危险，于是，他言辞恳切地给卢汉写了两封信，表示自己与蒋介石的关系极深，无法和卢汉等人一起起义。并称自己无军权，留在昆明无用，希望卢汉念昔日旧交，放其一条出路，他已无心过问政治，打算去香港侨居。 同时，张群要求面见卢汉。卢汉见到信后，派秘书长杨文清前往见张群。杨文清对张群说：“希望张先生和我们一致行动。” 张群略一思索，说：“你们的起义行动我是很同情的。我也知道这是大势所趋，民心所向，国民党的确是无法挽回了。蒋先生过去所作所为，连我也有不满的地方。但是，我和蒋先生的私人关系，你们也是知道的。我不能和你们一致行动。” 在此情况下，卢汉顾及与张群的旧谊，于是决定释放张群，并赠3000元港币做路费。于是，张群登上飞机，向香港飞去，到香港不久，他违背了对卢汉的承诺，还是去了台湾，由于他和蒋介石关系特殊，逃台后，继续受到重用。如果张群不被释放，以他的资历和蒋的关系，是极有可能换回张学良的，这不得不说是一个极大的遗憾。