1927年，于学忠率旧部投靠奉军。张作霖对其只提了一条要求：你如何对待吴子玉，就要如何对待我。 这一年5月，在北伐军的强大攻势下，吴佩孚节节败退，相继失去两湖地区，最后率残部来到了第九军军长于学忠的驻地邓县(今河南邓州市)。 于学忠是吴佩孚的老部下，因“援鄂战争”中的出色表现，受到吴佩孚的赏识，逐步由炮兵营营长升至军长。此外，二人又同是山东蓬莱老乡，关系非常好，于学忠对这位老长官一直比较敬重。 得知吴佩孚要来，于学忠本人是欢迎的，但是手下这帮人似乎并不乐意，尤其是阎得胜和毛永恩两个师长，他们都担心吴佩孚到此会把北伐军引来。 但于学忠力排众议，坚持不向失势的老长官落井下石，转而带着一众军官在邓县列队欢迎吴大帅。 经过一番商议，吴佩孚和于学忠打算将部队撤至豫东，以缓解粮饷不足之困。但是，调令下达以后，阎得胜、毛永恩两位师长却按兵不动，就连吴佩孚自己的卫队也出现了哗变，拒绝执行命令。 “乱了，全乱了！”吴佩孚顿时方寸大乱，决定带着卫队去投靠四川的杨森、邓锡侯，暂避一时。 见吴佩孚心意已决，于学忠苦苦相劝道：“玉帅，您虽对杨、邓二人有恩，但四川毕竟是他人地盘，仰人鼻息，恐非长久之计啊！” 吴佩孚何尝不明白这个道理？但他现在已经没有选择。正当他犹豫不决的时候，冯玉祥部即将进逼的消息如同一记重锤，彻底击碎了他最后的希望。卫队士兵人心惶惶，一夜之间逃散了大半。看着空荡荡的营地，吴佩孚苦笑着摇了摇头，带着残余的卫队和幕僚共四千余人，向四川方向逃去。 目送着吴佩孚远去的背影，于学忠心中五味杂陈。他召集众将，表明了自己的态度：“我若带着大家继续打下去，让弟兄们白白送命，我于心不忍；可若率部投降，又对不起吴大帅不，如就此解甲归田。”说罢，他交出军长一职，由阎得胜暂代，并将剩余的军饷分发给众人，自己留了几百大洋，便独自返回了蓬莱老家。 不久，第九军余部接受了冯玉祥的改编，但被分散打乱驻守，这引起官兵的普遍不满，部分军官带兵突袭冯军孙连仲部后，将部队拉到了安徽蒙城一带，并派代表去蓬莱见于学忠，希望他重新出山，主持大局。 恰巧，这时奉军也派出代表到蓬莱游说于学忠。张作霖素闻于学忠有勇有谋，且忠于故主，一直对他赞赏有加，欲延揽麾下。 为了给第九军谋个出路，于学忠决定去北平见张作霖。 张作霖和于学忠的于文孚乃是故交，当年同为毅军宋庆的部属，因此见面时对于学忠非常客气，以子侄相称。 于学忠坦言了九军的困境，并表示只要能妥善安置这些兄弟，部队的指挥权可以交给奉军将领。 “贤侄，你有这份心就够了！”张作霖爽朗地笑道，“我张作霖别的不多，就是兵多粮多，不差你这点人。你放心，只要加入我奉军，待遇和我的其他部队一模一样，装备也按照主力军的标准发放，绝不亏待你的兄弟们。” 说到这里，张作霖语气一转，目光如炬地盯着于学忠：“我只要求你一点，如何待吴子玉，就如何待我！” 于学忠心中一震，他明白张作霖这是在考验他的忠诚。他郑重地点了点头，表示自己必将竭尽全力，辅佐张作霖。 不久，于学忠回到蒙城驻地。很快，一纸委任状从北京传来，九军正式改编为奉军第二十军，于学忠担任军长。 张作霖没有食言，坚持让于学忠继续领导九军，并且师团一级的军官也没有安插任何一位奉军将领，全部由于学忠自己自行委任。 随后，直鲁联军总司令张宗昌亲自押送着满满几车军火物资和补给，来到了蒙城。得到补充后的九军战斗力更胜从前，很快成为奉军中一支不可忽视的劲旅。 于学忠也凭借着出色的指挥才能和对张氏父子的忠诚，逐步赢得了信任，在奉军中的地位也越来越高。