1928年6月，攻占北平后，蒋介石约定四个集团军总司令在北平会面，第一集团军总司令是蒋本人，第二集团军总司令冯玉祥，第三集团军总司令阎锡山，第四集团军总司令李宗仁。 蒋、阎、李三人很快就来到了北平，但是冯玉祥则迟迟不动身。这其中是有缘由的，原来在二次北伐收复平津的战役中，冯玉祥部出力最多，阎锡山部出力较少，而战后论功行赏却是阎部最得利， 阎锡山出任平津卫戍总司令，晋军主将商震任河北省主席，而仅以冯的秘书长何其巩任北平市市长，对此冯玉祥极为不满，称病请假疗养。 在南京方面再三催促之下，冯玉祥才勉强成行。起程时以泰山号铁甲车压道，过了保定，冯让专车先行，反叫铁甲车垫后。列车原挂有花车一辆供冯玉祥乘坐，但冯玉祥将花车分配给参谋处乘用，自己则坐在由巩县兵工厂加装钢板的铁篷车上。 铁甲车至丰台时，冯玉祥又下令转向西直门车站驶去。当时大家都集中在北平西车站欢迎冯玉祥，结果都扑了个空，只得又再去西直门。冯玉祥的专车到西直门车站停车以后，过了一会欢迎人员才赶到。 北平方面为冯玉祥选定颐和园为行辕，冯不去，他让随行官兵仍留住在专车之上，本人则率一些卫队和随从人员到西山白云寺孙中山灵前伴灵。在北平期间，冯玉祥的行动神出鬼没，与众不同，令人捉摸不定。阎锡山时任平津卫戍总司令，阎部的张荫梧任北平警备司令，晚间城禁森严。 虽然冯玉祥的专车停在西直门车站，但到了晚上10时城门紧闭，停止出入，非有上级命令不得开城。可见阎、冯彼此之间戒心极大。 冯玉祥到北平的当天晚上，蒋介石见四位集团军总司令均已到齐，于是举行了一场盛大的欢迎宴会，在宴席之上，冯玉祥即席大发议论，大意是：“北伐用了这样长的时间，动员这样大的力量，现平津虽告克复，而东北问题尚未解决，军国大计急待筹商，国人所寄望于我们者至为殷切，岂仅为此谋耶”。 蒋介石听了冯玉祥的发言之后，提议四个总司令和其他重要人员，第二天在汤山开会磋商一切。会上，大家决议东北问题改用和平解决，目前先以裁军入手，与民休养生息。约定在一个月以后，各总司令集会南京，会商编遣大计。但决议尽管决议，沿平汉、平津两铁路干线各站仍有不少部队在大招新兵，培养个人势力。冯玉祥对此深表愤慨，命参谋秘书两处在平、津、保、石各地报纸中收集此类招兵消息的材料，加以整理，以便在将来编遣会议时提出纠正。 到北平之后，冯玉祥即让他的参谋秘书副官们着手筹备在南口旧战场开一大规模的追悼会，以追悼在此战役阵亡的将士。经过积极筹备，追悼会很快举行，当日，蒋介石、李宗仁、阎锡山等人均亲临参加。冯玉祥以阵亡将士的孝男身份，向各位长官来宾道谢，并作沉痛的追述和演讲。不少当年曾经参加此一战役生还的官兵，感动至泣下。 冯玉祥在北平待了不到十天，即返回开封，他并不作去南京的准备，而是轻装简从，跑到西安去巡视。蒋介石知道他在华北军政要职人事安排上曾厚阎而薄冯，引起冯玉祥的不满。而冯部兵员人数在四个集团军中最多，实力雄厚，裁兵问题如得不到冯的合作，很难收到良好的效果，必须挟冯以自重，如冯来则阎锡山不敢不来，李宗仁更不成问题。 于是，蒋介石对冯玉祥许以军政部部长这一重要职务，让冯玉祥的挚友马福祥、驻京代表张之江，送电促贺，冯玉祥这才起身来到南京。冯到南京之后，蒋即分电阎、李，催促两人来南京。阎锡山和李宗仁虽然各怀私意，但是冯玉祥都去了，他们也就不得不去了。 阎锡山原定由铁道乘车南下，开封方面闻讯已筹备欢迎。但阎锡山鉴于徐树铮过去被冯玉祥除掉的前车之鉴，他取消了从开封南下，而选择从天津乘外国轮船到上海，转京沪路到南京。从这里可以看出阎锡山对冯玉祥是戒心十足。 蒋介石鉴于冯玉祥担任了行政院副院长兼军政部部长，恐冷淡了阎锡山，于是又将冯系薛笃弼所担任的内政部部长一职让给阎锡山接充。另又设一卫生部以安置薛笃弼，这让冯、阎暂时都比较满意。 冯玉祥就任军政部部长，当时军政部规模很大，设陆军、海军、航空、兵工、军需五署和总务所。部内组成人员除海军署署长由陈绍宽充任自行组织外，其余人员采取南京与冯部各半为原则，掺杂少数他系人员。 政务次长张群兼兵工署署长（蒋系）、常务次长鹿钟麟（冯系），总务所所长虞典书（冯系）、主任参事马晓军（桂系），陆军署署长曹浩森（冯系）、副署长项雄霄（蒋系），航空署署长熊斌（冯系）、副署长张静愚（蒋系），兵工署副署长徐廷瑷（冯系），军需署署长俞飞鹏（蒋系）、副署长贾玉璋（冯系）。 后来张群调充上海市市长，所遗的政务次长兼兵工署署长一职由陈仪（蒋系）接充。 不过蒋、冯、阎、李之间矛盾重重，尤其是有40万大军的冯玉祥深为蒋所忌惮，各方彼此互不信任，冯玉祥这个军政部长当了几个月之后就辞职北上。
