晉懷帝永嘉三年（公元309年），劉淵采納大臣們的建議，遷都平陽(yáng)（今山西臨汾附近），大赦境內(nèi)，改元河瑞。漢軍當(dāng)時(shí)的攻勢(shì)漸漸形成滅晉之勢(shì)。

晉朝內(nèi)部傳出的消息令人失望，由于東海王司馬越獨(dú)攬大權(quán)，他所立的晉懷帝已經(jīng)與他產(chǎn)生了尖銳的矛盾。懷帝多次秘密會(huì)見(jiàn)其親信大臣繆播等人，有除掉司馬越之意。司馬越覺(jué)察到繆播等人的行徑，在宮中發(fā)動(dòng)突然的軍事行動(dòng)，將正與晉懷帝討論密事的繆播等人一并誅殺，同時(shí)斥逐保衛(wèi)皇宮的武將，司馬越與諸官之間形成對(duì)立。（司馬越兵權(quán)在握，而所謂的皇帝的親信大臣們又尚未得到可以信賴的寸兵一卒，一旦有變故，沒(méi)有實(shí)權(quán)的皇帝只能在一邊偷偷流眼淚。權(quán)臣之難以對(duì)付，眾多的例子可以做上一個(gè)最好的注腳。但所謂對(duì)內(nèi)可以靠自己的權(quán)術(shù)，對(duì)外則得靠真正的軍事實(shí)力和軍事才能，而實(shí)力與才能顯然不可能靠動(dòng)點(diǎn)小聰明就改變，這就是司馬越與曹孟德、司馬懿之輩的最大的差距。）

晉左積弩將軍朱誕痛恨司馬越的倒行逆施，失望之下叛降劉淵，并向劉淵陳述了洛陽(yáng)防守的弱點(diǎn)，勸劉淵出兵攻打晉都洛陽(yáng)。劉淵本有此意，當(dāng)即以朱誕為前鋒都督，為漢軍開(kāi)路，以平晉大將軍劉景為大都督，向洛陽(yáng)方向進(jìn)發(fā)。漢軍很快攻克黎陽(yáng)、延津等地，并擊敗晉車(chē)騎將軍王堪，劉景在延津附近將晉朝的三萬(wàn)百姓沉入黃河。

劉淵聞聽(tīng)這個(gè)消息，勃然大怒，說(shuō)：“劉景有何顏面回來(lái)見(jiàn)朕？更何況天理豈能容他！我要除掉的，司馬氏罷了，百姓何罪？”立刻將劉景降為平虜將軍。

（此時(shí)的劉淵再次顯示出他重視漢政權(quán)對(duì)晉朝百姓的影響，可見(jiàn)其欲匡扶天下之心。比起他的那些接班人，以及十六國(guó)中不少只知窮兵黷武，屠戮生靈的統(tǒng)治者，這點(diǎn)已經(jīng)很不容易了。）

在東線戰(zhàn)場(chǎng)，即冀州一帶，石勒先后攻陷了冀州郡縣壁壘百余個(gè)，兵力增至十余萬(wàn)人。

石勒的軍事勝利不僅影響了周?chē)闹T胡部落，也影響了不少報(bào)國(guó)無(wú)門(mén)的晉朝漢人士族。趙郡人張賓，就是個(gè)相當(dāng)有才華的低級(jí)士人，他自嘆世風(fēng)日下，難逢明主，總是對(duì)他的兄弟們說(shuō)：“我自以為才智謀略不比張子房差，可惜我卻遇不到我的漢高祖啊。”

石勒大軍席卷河北大地，張賓興奮地對(duì)親人們說(shuō)：“我見(jiàn)過(guò)的當(dāng)今為將者多了，唯獨(dú)這位石勒將軍可與之共成大事?！彼⒓刺釀?lái)到石勒軍中，大叫著要見(jiàn)石勒。起初石勒并未覺(jué)得此人有何特殊之處，但經(jīng)過(guò)接觸以后，終于意識(shí)到張賓確有獨(dú)到的見(jiàn)解，漸漸開(kāi)始重用他。

當(dāng)時(shí)來(lái)投奔石勒的士人越來(lái)越多，石勒認(rèn)識(shí)到自己欲成大事，必須依靠這些在晉朝不得志的士人的幫助，他以張賓為謀主，加上不少低級(jí)士族，別立一營(yíng)，號(hào)為“君子營(yíng)”，為他出謀劃策。石勒對(duì)漢人的利用，有甚于劉淵。同時(shí)，主要聚居在并州的羯人更是積極投奔石勒，石勒借助其在冀州一帶的成功極大地增強(qiáng)了自己的實(shí)力。

連戰(zhàn)連勝之后，這年八月，劉淵正式發(fā)動(dòng)對(duì)洛陽(yáng)的總攻勢(shì)。他派楚王劉聰與晉叛將王彌攻打壺關(guān)，并以石勒為前鋒都督。漢軍在擊敗了并州刺史劉琨的軍隊(duì)之后，很快逼近洛陽(yáng)，東海王司馬越派平北將軍曹武和將軍宋抽、彭默等出兵抵抗，均被漢將劉聰擊敗。劉聰長(zhǎng)驅(qū)直下宜陽(yáng)，平昌公司馬模派將軍淳于定、呂默等從長(zhǎng)安方面出發(fā)前往抵抗。兩軍戰(zhàn)于宜陽(yáng)，淳于定等又被擊敗。

眼看洛陽(yáng)危急，弘農(nóng)太守垣延獻(xiàn)詐降計(jì)投奔劉聰，而連勝的劉聰此時(shí)也有些頭腦發(fā)昏，竟不設(shè)防。垣延對(duì)漢軍發(fā)動(dòng)夜間突然襲擊，劉聰大敗而還，漢軍進(jìn)攻洛陽(yáng)的第一次戰(zhàn)爭(zhēng)以晉軍大勝結(jié)束。這場(chǎng)戰(zhàn)爭(zhēng)的失敗顯然給急于滅晉的劉淵當(dāng)頭一棒，劉淵穿著素服迎接劉聰?shù)臄≤姟?/p>

這年冬天，劉淵不甘心失敗，以舉國(guó)之兵力，令劉聰、王彌、劉曜、劉景等率精騎兵五萬(wàn)為前鋒，以其岳父大司空呼延翼率步兵、騎兵為后繼，向洛陽(yáng)發(fā)動(dòng)突然襲擊。一時(shí)間晉軍猝不及防，在河南被漢軍擊敗，但漢軍顯然未從幾個(gè)月前的第一次慘敗中完全恢復(fù)過(guò)來(lái)，晉護(hù)軍賈胤等率勇士千余人夜攻劉聰軍，兩軍戰(zhàn)于大夏門(mén)，劉聰軍潰散。劉聰轉(zhuǎn)而向南，駐軍于洛水，進(jìn)而屯軍于洛陽(yáng)宣陽(yáng)門(mén)之外，此時(shí)呼延翼被部下殺死，其部下兵士潰散。

劉淵得到老丈人被害的消息，自覺(jué)暫時(shí)難勝晉軍，就下令劉聰還師。劉聰認(rèn)為晉軍勢(shì)弱，不可輕退，請(qǐng)求留下來(lái)繼續(xù)攻打洛陽(yáng)，劉淵總算同意了他的請(qǐng)求。但劉聰取勝的信心也開(kāi)始動(dòng)搖，他竟然自己一個(gè)人跑到中岳嵩山，去禱告天神，將留守大營(yíng)的任務(wù)交給了部下劉厲和呼延朗。

司馬越乘著漢軍主帥在外的空虛之際，采納了參軍孫詢的建議，令部將孫誨等率精兵三千人自宣陽(yáng)門(mén)出擊漢軍，漢軍大敗，呼延朗被陣斬，劉厲無(wú)奈之下投水自殺。

劉聰?shù)貌坏教焐竦谋Ｓ?，從嵩山下?lái)，只能垂頭面對(duì)殘兵敗將，王彌對(duì)他說(shuō)：“當(dāng)前我軍失利，洛陽(yáng)城守備更加堅(jiān)固，我們的糧草也支撐不了多少時(shí)間了，殿下不如率部退回平陽(yáng)，徐徐圖之?！眲⒙斝南氘?dāng)初提出留下與晉軍決戰(zhàn)的正是自己，如今若是就這么退兵未免顏面掃地，而且還有可能被治罪，因此踟躇不定。

在平陽(yáng)觀望戰(zhàn)事的劉淵得到戰(zhàn)敗的消息，也失望之極，身邊一個(gè)卜卦的大臣宣于修之進(jìn)言：“攻克洛陽(yáng)，歲在辛未（指兩年后的公元311年）；現(xiàn)在晉軍氣盛，大軍不歸，必將潰敗?！眲Y也明白心急吃不成熱豆腐，只好將劉聰?shù)能婈?duì)召回。