東漢后期，北方和西方的民族就已經(jīng)開始了向黃河流域的遷徙。造成諸族內(nèi)遷的原因現(xiàn)在歷史學(xué)家還說不太清楚。

但據(jù)竺可楨的研究，自西漢以后，東亞氣候由暖轉(zhuǎn)冷，氣溫逐年降低。東漢以后直至隋唐，是中國歷史上持續(xù)時(shí)間最長的寒冷期，而這恰恰與中國歷史上的大分裂時(shí)期是相吻合的。當(dāng)氣溫降到最低點(diǎn)的時(shí)候，甚至淮河在冬季都結(jié)有存冰。在如此的氣候條件下，北方高緯度的草原地區(qū)以及西部的高原山地，必然變得更加不適宜人類居住。就草原上的游牧經(jīng)濟(jì)而言，低溫引起的草場質(zhì)量下降，載畜量降低，導(dǎo)致游牧經(jīng)濟(jì)滑坡，無法為草原民族提供足夠的給養(yǎng)，這可能是北方和西方民族大規(guī)模向黃河流域遷徙的重要原因之一。

最早遷入中原地區(qū)的是戰(zhàn)敗后投降的南匈奴，還有作為東胡后裔的烏桓人和鮮卑人。

烏桓、鮮卑的最早居住地都在大興安嶺，其南下的歷程甚至可以回溯至公元前。公元1世紀(jì)，北匈奴西遷之后，鮮卑人進(jìn)入蒙古草原，草原各部遂統(tǒng)一于鮮卑人的旗幟之下，至2世紀(jì)中后期，鮮卑人曾在檀石槐的領(lǐng)導(dǎo)下，建立了東起遼東半島、西達(dá)敦煌的龐大部族聯(lián)盟。與此同時(shí)，西部發(fā)展起來的氐族和羌族也成為東漢帝國西部邊境地區(qū)最難解決的問題。但是，東漢帝國的存在，一方面是阻止各族大規(guī)模進(jìn)入黃河流域的屏障；另一方面，帝國尚可以對(duì)遷入其境內(nèi)的各族進(jìn)行有效的控制，因此，北方的秩序尚基本可以維持穩(wěn)定。

隨著東漢帝國的崩潰，阻礙各族內(nèi)遷的屏障不復(fù)存在了，各族開始大量進(jìn)入黃河流域，在中原地區(qū)與漢族雜居。當(dāng)“八王之亂”摧毀了西晉的統(tǒng)治基礎(chǔ)之后，甚至在中原地區(qū)，王朝也不再具有控制內(nèi)遷各族的力量，最終，是匈奴人劉淵建立的前趙政權(quán)滅亡了西晉。

以匈奴人為榜樣，鮮卑、羯、氐、羌也都先后在黃河流域建立起本民族的政權(quán)，因此習(xí)慣上將此五個(gè)民族稱為“五胡”。“胡”曾經(jīng)用來指匈奴人，后來也指北方草原民族，到這個(gè)時(shí)候，已經(jīng)演變?yōu)閷?duì)所有少數(shù)民族的泛指了。

雖然歷史學(xué)家習(xí)慣上稱此時(shí)期為“五胡十六國”時(shí)期，但此時(shí)期北方存在過的割據(jù)政權(quán)不止16個(gè)，各主要割據(jù)勢(shì)力情況見下表。