1920年7月，徐树铮派刺客暗杀张作霖，失败后，两人彻底翻脸。一年前，北洋政府任命徐树铮为西北筹边使兼“边防军”总司令，徐树铮上任后在西北积极扩张势力，他的权力比东三省巡阅使还大，这一切，引起了张作霖的不满。 1918年，张作霖就早因徐树铮滥用奉军饷械发展自己势力而与其产生过激烈的冲突。现在徐树铮势力大增，让张作霖忌惮不已。 因此，张作霖决定抛弃过去几次合作过的皖系，而与直系联合共同反对皖系，他们秘密结成八省反皖同盟，准备倒皖，这也就有了张作霖的第一次入关。 1920年5月间，吴佩孚从湖南带兵北上，6月初进驻豫、直各要地；徐树铮也急忙由库伦回京，调动皖军准备作战。直皖之间形势紧张起来。但张作霖却不急于马上用兵，他要坐山观虎斗，以收渔人之利。 1920年6月19日，应总统徐世昌之请，打着“调停时局”的招牌，张作霖带两营卫兵，乘坐架有机枪的列车进入北京。以“调停人”姿态进入北京，接着他暗地里与直系首领，他的儿女亲家曹锟互通声气，南下保定与曹会谈。 在这期间，徐世昌罢免了徐树铮的西北筹边使等官职，徐树铮对此咬牙切齿。他对张作霖、曹琨的勾结，故装不知，还以段祺瑞的名义，邀请张作霖会晤，准备在酒席上下毒手，但是没有成功，被警觉的张作霖给溜走了。随后徐树铮又派姚步瀛等13人的暗杀团，携12万元巨款到奉天暗杀张作霖，也次没有成功。 徐树铮想暗杀张作霖没有结果，但张作霖却要对徐树铮实施反击了。回到奉天后，张作霖立即脱去“和事佬”的外衣，致电徐世昌和段祺瑞，表示要武力调停，并致电曹锟表明和直系合作的态度。张作霖调奉军第二十七、二十八师陆续入关，分布在京津、津浦西路和马厂、军粮城一带，很快，这一带的奉军人数达到7万之多。 7月10日，段祺瑞下令攻击张作霖，12日，曹锟、张作霖联名通电讨段，直皖战争正式爆发。经过几日的激战，皖军大败。19日，段祺瑞自请免除本兼各职。24日，直奉两军陆续开到北京，分别接收了南北苑营房，直皖战争以直奉大胜而告终。 8月4日，张作霖以“胜利者”的姿态，以300名仪仗队为先导再次来到北京，与曹锟共同组成了靳云鹏内阁，并与曹锟、徐世昌、靳云鹏一起召开所谓的“四巨头会议”，曹锟、张作霖二人成为控制北洋政府的中枢。 以后，张作霖还继续扩张自己的势力范围。他一方面派兵占据津、京要地，一方面将自己的势力范围扩展到察哈尔、热河、绥远等地，分别任命张景惠、汲金钝等为察、热两都统，并使得非奉系的绥远都统马福祥归附。 直皖战争后，直奉表面共执北洋政府的要权，但由于各自野心的膨胀，合作没多久，最终又爆发了直奉之间第一次战争。在此次战争中奉军大败，张作霖不得不带着不甘撤回了东北，他的第一次入关到此结束。 但张作霖是不会死心的，回到东北后，他攒足劲头，准备第二次入关，问鼎中原，时机也正慢慢降临。 直系军阀打败奉系张作霖后，拥戴黎元洪任总统，但是很快就将其驱逐，曹琨以贿选成为总统。曹琨能力不足，无法驾驭全局，在就任总统后，直系的军权由吴佩孚控制，直系不少将领资历并不比吴佩孚低，对吴佩孚的专横跋扈表示不满的也大有人在，这些矛盾累积起来，就成了直军致命的软肋。 与此同时，张作霖在东北整军备战的同时，早已着手拟定了对直系作战计划。直系的江苏督军齐燮元与皖系的浙江督军卢永祥为了争夺上海地盘而剑拔弩张，1924年9月3日，江浙战争爆发，虽然卢永祥不敌齐燮元而败北，但此次战争却直接引发了张作霖对直系的用兵。 9月4日，张作霖自任镇威军总司令，于9月15日将所部编为6个军，浩浩荡荡向关内进发。奉军的作战战略是：集结主力于山海关、九门口一线，给予直军以决定性打击。 当时的直军也是一支相当有实力的军队，分三军向奉军进击，这时，吴佩孚气势咄咄逼人，叫嚷道：“我出兵20万，两个月内一定可以平定奉天。” 吴佩孚也不算夸口，张作霖带来的奉军兵力为15万，而吴佩孚可以动用的直军有20万，这还不算那些尚在观望的直系督军承诺要派来的援军。 9月17日，第二次直奉之战正式打响。奉军起初略占上风，但是吴佩孚亲临前线后，双方打了一个势均力敌，但张作霖已经没有多少援军可调，而直系各督军若派来援军，那数量可是不少的。 就在双方战斗激烈之时，直系冯玉祥部从前线突然回师北京，囚禁了总统曹琨。后路被截断，这使得前线直军军心大乱。 吴佩孚发出求援，这时直系各督军见大势已去，纷纷作壁上观，到10月31日，前线的直军官兵除重要将领由秦皇岛乘船逃回天津外，全为奉军所俘。 11月3日，大战之初不可一世的吴佩孚在奉军、冯玉祥部的夹攻下走投无路，只好率残部2000余人，乘船浮海南下，到租界躲避起来，他的“武力统一”的遗梦终于烟消云散。第二次直奉战争以直军大败而告结束。
