1947年5月初，汤恩伯在临沂召开军事会议，张灵甫在会上指手画脚，态度倨傲。会后，汤恩伯对黄百韬说：“张师长不听我的，除非让南京的陈总长、顾总司令亲自来指挥。” 两个月前，蒋军将重点进攻山东解放区的45万部队，编为三个兵团，由汤恩伯、欧震、王敬久分任司令官。 蒋军内部派系复杂，高级将领手中若无有力的基本部队，是很难指挥手下的骄兵悍将的。汤恩伯的基本部队13军、85军等都被调去了其他战场，他空有司令官的名头，指挥起来却是很不顺畅。 汤兵团的八支部队中，有两支部队很难驾驭，一支是蒋军“五大主力”之一的整编74师，师长张灵甫骄横跋扈，喜欢自行其是；另一支是第七军，该军是桂系的头号主力，未参与整编，军长李本一善打滑头仗，以保存实力为第一要务。 李本一在公开场合，对汤恩伯表现的倒也恭顺，搞小动作是在背后。相比之下，时常在军事会议上发表不同意见，质疑兵团部作战计划的张灵甫，是最让汤恩伯感到头疼的。 整编83师师长李天霞，和张灵甫矛盾最大，也是最不服气的一人，因为按理来说，他比张灵甫更有资格担任整编74师师长。 在王耀武升调后，74军军长由施中诚接任，可在施中诚之后，却突然成了张灵甫。这个任命，在74军系统内引发不小的争议，尤其是李天霞，牢骚那是相当的大。 李天霞和王耀武是黄埔三期的同学，王耀武当旅长时，李天霞是该旅的主力团长，王耀武升任51师师长后，李天霞是该师的旅长。 淞沪会战中，王耀武的51师和俞济时的58师合编为74军，由俞济时任军长。这时的张灵甫，因“杀妻案”被释放不久，投奔王耀武后，被任命为上校候差员。淞沪会战后期，51师得到一批补充兵员，王耀武组建了一个补充团，让张灵甫当团长，划归李天霞旅。 张灵甫当团长、副旅长、旅长时，李天霞都是他的长官。张灵甫后来升任58师副师长，和李天霞的大力推荐是分不开的。说起来，李天霞在给张灵甫当长官时，并未亏待过这个下属。 1941年9月，第二次长沙会战爆发，战前请了婚假的58师师长廖龄奇，在战斗中途返回。74军在会战中，遭遇日军合围，损失很大，三个师中，以58师减员最多。 战后，薛岳向老蒋状告廖龄奇，说他“临阵脱逃”。老蒋大怒，也不进行军法审判，一纸手令将廖龄奇枪决。 廖龄奇被杀的真实原因，说法不一，但就结果而言，却成就了张灵甫。张灵甫副师长当了不到一年，就再次升任师长。58师的三个团长为廖龄奇抱不平，主动辞职脱离74军系统，闹出不小的风波。74军内部，也流传着“廖龄奇不死，张灵甫难出头”。 在三个人选中，老蒋圈定了张灵甫。老蒋提拔张灵甫，是早有征兆的，在1945年2月，张灵甫进入陆军大学甲级将官班第二期学习。陆大班二期学员中，集团军总司令就有好几个，其余大部分都是军长，剩余的张灵甫等几个副军长、师长，是老蒋特批入学的。 张灵甫在当师长、副军长时，虽跋扈但不明显，自当了军长后，变得目空一切，和昔日的上司、同僚李天霞、余程万等人关系迅速恶化。余程万在张灵甫当军长后，见难以见容，自请调离而去。 张灵甫勃然大怒，直接给汤恩伯打电话，说李天霞能力不足，纵队司令官应由黄百韬担任。不久后，汤恩伯在临沂召开军事会议，张灵甫在汤恩伯宣读完作战计划后，指手画脚的点评一番，气得汤恩伯脸色发白。 会后，汤恩伯叫来黄百韬，让他当第一纵队司令，黄百韬苦笑说：“张师长的部队是全美械，平日根本看不起日械的25师，又怎会听我的指挥呢？” 汤恩伯说：“你要不当，就只能让张灵甫当了，他本就难以指挥，要是当了纵队司令，谁还指挥的动？难道让陈总长、顾总司令亲到临沂坐镇吗？” 黄百韬无奈，只得同意，实际上，无论是张灵甫还是李天霞，谁又听他的呢。 俞济时和王耀武，对张灵甫已有微词，向老蒋建议，将整编74师、整编83师合编为整编74军。至于军长人选，耐人寻味的是，两人推荐的是李天霞。 老蒋同意组建整编74军，但尚未实施，张灵甫就在孟良崮兵败身死了。