1925年，馮玉祥的勢(shì)力雖逐步向西北各地?cái)U(kuò)展，但其重心仍在河北北部及平津一帶。一方面，直系吳佩孚軍閥因其發(fā)動(dòng)“首都革命”而垮臺(tái)，一直懷恨在心，伺機(jī)攻馮。另一方面，奉系張作霖勢(shì)力入關(guān)后，依仗其雄厚的軍事力量，把持北京政府大權(quán)，對(duì)馮玉祥部亦多加排擠，逼迫國(guó)民軍退出所駐通州、北宛及南苑等地，讓給奉軍駐扎。不久，奉系張作霖進(jìn)一步圖謀向南發(fā)展，發(fā)動(dòng)對(duì)浙江督軍孫傳芳的戰(zhàn)爭(zhēng)。因戰(zhàn)事失利，張作霖希望馮玉祥援手，但被馮拒絕。奉系遂轉(zhuǎn)而以全力壓迫馮玉祥部，以鞏固北方然后再派兵南下，雙方即在平津一帶展開(kāi)激烈的戰(zhàn)斗。

到1926年初，迫于各方的壓力，馮玉祥不得不宣布下野，并于3月赴蘇聯(lián)考察。馮玉祥下野后，所部繼續(xù)遭奉系張作霖、直系吳佩孚、晉系閻錫山以及直魯聯(lián)軍的圍攻，損失慘重。4月，馮部在鹿鐘麟、張之江、李鳴鐘、宋哲元等的率領(lǐng)下，相繼退出平津地區(qū)。其時(shí)，趙登禹已升任劉郁芬部團(tuán)長(zhǎng)，駐防蘭州。這時(shí)，甘肅亦受到吳佩孚等軍閥部隊(duì)的圍攻，劉郁芬采取收縮兵力，固守蘭州，同時(shí)廣為聯(lián)絡(luò)甘肅地方武裝，固守待援的方針，與進(jìn)攻之?dāng)晨购狻Ｚw登禹率部積極參加作戰(zhàn)，為保全馮玉祥在甘肅的勢(shì)力作出了貢獻(xiàn)。

1926年8月17日，馮玉祥結(jié)束在蘇聯(lián)3個(gè)月的考察，離開(kāi)蘇聯(lián)首都莫斯科回國(guó)。在蘇聯(lián)期間，他深為蘇聯(lián)建設(shè)成就所折服，同時(shí)與國(guó)民黨、共產(chǎn)黨代表多有接觸，對(duì)國(guó)內(nèi)的大革命及北伐表現(xiàn)出很高的熱情。9月16日，馮玉祥偕同蘇聯(lián)顧問(wèn)烏斯曼諾夫及共產(chǎn)黨員劉伯堅(jiān)等抵達(dá)五原(今內(nèi)蒙古包頭市附近)，次日召集所部將領(lǐng)開(kāi)會(huì)，決定成立國(guó)民軍聯(lián)軍，并出任總司令，參加北伐，同日舉行誓師大會(huì)。這就是歷史上著名的“五原誓師”。

此后，馮玉祥在蘇聯(lián)及中國(guó)共產(chǎn)黨的幫助下，迅速整編部隊(duì)，并確定“固甘援陜，聯(lián)晉圖豫”的戰(zhàn)略方針，以圖首先鞏固根據(jù)地，恢復(fù)自己的力量。不久，在馮玉祥派出的援軍到達(dá)后，蘭州之圍被解，甘肅得到平定。