1926年10月，北伐军攻克武昌，兵败的吴佩孚带着卫队逃到于学忠军部时，于学忠率领手下六个师长出门迎接，态度一如以往，这让吴佩孚感动不已。

见大势已去的吴佩孚希望于学忠能与他一起入川，依附四川军阀杨森。于学忠说：“四川境内军阀林立，地少人多，养活不了这么多部队。再说官兵们背井离乡，时间久了难免人心思变，怕到时候部队不稳。四川，最好不去。”

吴佩孚觉得于学忠说得也有道理，便说：“这样吧，我只带卫队去四川，你就不要去了。但有一些散落的部队总得有人带。我把这些部队交给你。 ”

于学忠说：“感谢大帅的知遇之恩，只是这仗打得让人伤心，我已决定回蓬莱老家，部队就让别人带吧。 ”

吴佩孚说：“你才36岁，岂可萌生退意？我就把这支队伍交给你了，这些部队非你莫属，别人谁也不给。你能自立最好，如果不能自立，可以投奔张作霖，他和你父亲是故交，但无论如何不能去投奔蒋介石。蒋介石见利忘义，你若投了他，将来我再也不和你见面了。 ”

吴佩孚入川后，于学忠收拢吴佩孚散落的部队，成为直军仅存的一支建制完整的主力，引得各方注目，都想把他收编，一时间，于学忠的驻地说客不断。

最先到来的是唐生智的特使姚荐楠，当姚荐楠说明来意后，于学忠说：“我若要南附，何苦等到今天？ ”接着，蒋介石也派来特使陈公博，一见面，陈公博就夸奖于学忠忠贞能干，蒋介石如何欣赏云云。说罢，陈公博拿出一张蒋介石的委任状，任命于学忠为某军军长。于学忠也不答话，出手把委任状一撕两半，陈公博只得悻悻而去。

事后，于学忠说：“吴大帅入川前叮嘱我，无论如何不能去投蒋介石，像他那种见利忘义之人，我是耻于与之为伍的。 ”

与此同时，张学良也派于学忠曾经的参谋周光烈，带着他的亲笔信来找于学忠，商谈改编之事。

于学忠本来想归隐乡间，但又觉得，自己这么一撒手离开部队，丢下几万人不管，实在对不起吴佩孚的知遇之恩。接到张学良的信后，于学忠想起吴佩孚临走前的叮嘱，便决定去北京，为部队寻找出路。

于学忠到北京后，受到张作霖接见，张作霖很坦率地说：“我和令尊当年都在田庄台宋老帅（宋庆）大营当差，我们相处得很好。你是故人子弟，不是外人。”

于学忠见张作霖态度和蔼，心中顿时石头落地，说：“部队正在向皖北集结，我请求大帅把部队收编过来，我在一旁协助。完事后，我回山东老家，军队尽交大帅统领。”

张作霖说：“我今日并不缺乏这两三师的人，要你过来，是看中你的才能、为人。以后这些部队还是你来带，所有待遇，服装、军饷、军械和奉军都一样。”

于学忠见张作霖真心挽留，大为感动，说：“以后任凭大帅调用。”

张作霖当即爽快地说：“那好，你以后就归张军团长（张学良）指挥。”

第二天，于学忠去北京西单文昌胡同面见张学良。张学良告诉于学忠，奉军的军饷发放有两种方式，一种是按人数实发，一种是由主官包干。一般的军官，喜欢主官包干这种方式，因为发多发少自己说了算，有油水可捞。可于学忠却表示：“我的部队按人数实发。仅这一件事就使张学良对于学忠刮目相看。”

于学忠和张学良的这次见面，虽然没有谈多长时间，但却一见如故，互相欣赏。1928年，于学忠任东北军第1军军长，跻身为东北军骨干将领，他虽然加入较晚，但是凭借着能力和人品，成为张学良的嫡系亲信。

张学良晚年多次对人讲：“我最主要的两个部将，一是于学忠，一是王树常。 ”在90岁寿辰时，张学良还不胜感慨地对在场的故友们说：“我忘不了于学忠，他是我的左右手啊。 ”

1933年，热河失陷，舆论哗然，成为众矢之的的张学良被迫下野出国考察。他把总共26万的东北军整编成四个军。其中万福麟、王以哲、何柱国各率领一个军，总计9万人，余下的17万人全都交由于学忠率领。

出国前，张学良担心多给于学忠部队会引起其他人不满，便召集东北军将领开了一次会。他在会上说：“我走后，你们要好好干，要保存东北军这点实力，作为收复东北的力量。我们不收复东北，对不起大元帅的在天之灵，对不起东北3000万父老乡亲。南京交给我们河北这块地盘，就交给孝侯（于学忠）负责。多给孝侯一些队伍的目的，就是要往他身上压担子，顶住日本人的进攻，保住河北省。 ”

东北军老将很多，为何张学良偏偏把大部分军队交给这个外来的于学忠呢?当时不仅东北军内部有人提出这个问题，就是外人也同样感到惊诧。

张学良出国考察时，遇到杨毓珣，他问张学良：“你出国前对东北军都安置好了吗? ”

张学良回答说：“都安置好了”。

杨毓珣又问：“你对于学忠安置好了吗? ”杨毓珣此话是有深意的，其潜台词就是：你把东北军交给于学忠一个外来人能放心吗?

张学良说：“你不要看错于学忠，他是我最信任的人，将来收拾东北军后事的只有他。 ”于学忠没有辜负张学良的托付，在张学良出国期间，顶住各方压力，为张学良保住了这支部队。