始月氏居敦煌、祁連間，及為匈奴所敗，乃遠去，過宛，西擊大夏而臣之，遂都媯水北，為王庭。其余小眾不能去者，保南山羌，號小月氏。
　　
　　上述文字見于《史記·大宛列傳》，這大概是提及“敦煌”這個地名的最早文獻記錄之一。
　　
　　這段話的大意是，最初月氏這個民族居住在敦煌和祁連山之間，即河西地區(qū)。后來被匈奴打敗，經過宛（今烏茲別克斯坦共和國費爾干納），降服西面的大夏（位于阿富汗北部的部族）在媯水以北定都稱王。其余沒有逃出來的小部族，占領了祁連山羌族的土地，稱為小月氏。
　　
　　那么，原本是敦煌主人的月氏，是什么時候被匈奴趕走的呢？
　　
　　關于戰(zhàn)國時代的匈奴，《史記》中有如下記載：
　　
　　東胡強而月氏盛。
　　
　　不勝秦，北徙。
　　
　　這說明當時的匈奴并不怎么強大。秦朝滅亡時，中國內地大亂，秦朝的守軍撤走，匈奴終于有了喘息的機會。
　　
　　從冒頓單于的時代起，匈奴才變得強盛起來。單于是匈奴王的稱呼，冒頓是頭曼單于的長子，也是太子。頭曼單于寵愛愛妃所生之子，將冒頓送到月氏當人質。人質基本上是由較弱的一方向較強的一方送出，作為服從的證據(jù)。因此，我們可以認為當時月氏比匈奴強大。
　　
　　頭曼單于將冒頓送到月氏當人質，卻又對月氏發(fā)動了攻擊。這表明，即使對方將太子殺死也在所不惜--不，也許頭曼其實是想借刀殺人。因為如果要把愛妃的兒子扶正，必須先將太子鏟除。
　　
　　勇敢的冒頓偷了月氏的名馬，逃了回來，然后弒父自立。冒頓單于首先向東出兵，擊敗東胡之后，又攻擊西邊的月氏，使其大敗而逃。
　　
　　漢文帝四年（前176），冒頓單于送書至漢，開頭之語句咄咄逼人：
　　
　　天所立匈奴大單于敬問皇帝無恙。
　　
　　信中還敘述了匈奴的近況：
　　
　　以天之福，吏卒良，馬力強，以夷滅月氏，盡斬殺降下定之。樓蘭、烏孫、呼揭及其旁二十六國皆已為匈奴。
　　
　　信中提到了敗退月氏，既然是近況描述，大概是近幾年的事情。
　　
　　就這樣，在公元前176年前后，敦煌附近一帶都成了匈奴的地盤。
　　
　　關于月氏被匈奴趕走、逃到今阿富汗境內的事，存在兩種說法。一說是月氏敗走以后，進入了他國領土；另一說則認為，月氏只是遷移到了本國領土的西部。根據(jù)后一種說法，月氏所占據(jù)的版圖很大，包括了河西地區(qū)到絲綢之路全境。
　　
　　后一種說法的其中一個根據(jù)是，月氏既然強大到能將匈奴單于的太子作為人質，那么應該不只是占有敦煌及河西地區(qū)。也就是說，由于包括敦煌在內的河西地區(qū)是公認的“貧瘠之地”，只是占有這片土地的政權，不可能有多強大。
　　
　　敦煌原來也是這么不受重視的地方。
　　
　　于是，在公元前176年前后，這里便成了匈奴的領土。而到了漢武帝的時候，才將匈奴從這里趕跑。漢武帝的時代人才輩出，衛(wèi)青、霍去病、李陵等名將在征討匈奴的戰(zhàn)場上大顯身手。
　　
　　擊退匈奴之后，漢朝設立了河西四郡，作為經略西域、對匈奴作戰(zhàn)的基地。
　　
　　據(jù)《漢書·武帝本紀》記載，元狩二年（前121），匈奴的渾邪王降漢，漢朝在千里河西設置武威、酒泉兩郡；元鼎六年（前111），在此基礎上又分設張掖、敦煌二郡。而《漢書·地理志》中的記載略有不同，張掖、酒泉兩郡為太初元年（前104）所設，武威郡為太初四年（前101）所設，敦煌則在后元元年（前88）從酒泉分離出來單獨設郡。
　　
　　總之，從公元前1世紀左右起，包括敦煌在內的河西地區(qū)納入了漢朝版圖。