仁壽四年（604）七月，隋文帝逝世，其子隋煬帝繼位。術(shù)士章仇太翼對煬帝說："陛下是木命，國都長安（今陜西省西安市）地處雍州,是屬于金的西部地區(qū)的要沖，金克木，不利，不可久居。民間流傳著'修治洛陽還晉家'的讖語，陛下以前是晉王，正好應(yīng)驗。"煬帝認(rèn)為很有道理，便在十一月巡幸洛陽，下詔營建東京。然而這道詔令卻披露了這樣的情況：早在二十多年前，文帝剛剛建立隋朝，就萌動過創(chuàng)建東京的意圖，只是由于條件限制，及身未能付諸實踐。那么，煬帝營建東京，實際上不過是在完成先父的遺愿。

　　文帝楊堅祖籍弘農(nóng)郡華陰縣（今陜西省華陰市），漢族，祖上幾代自北魏時起擔(dān)任過地方或中央的軍政職務(wù)。北魏分裂為東魏、西魏，又嬗變?yōu)楸饼R、北周，分別以鄴城（今河北省臨漳縣）和長安為都城，在北方處于東西對峙狀態(tài)，與南朝并存。北周建德六年（577），周武帝滅掉北齊，統(tǒng)一了北方。楊堅時任大將軍，率軍作戰(zhàn)，立有軍功。第二年，武帝逝世，周宣帝繼位。為了加強對新征服區(qū)的控制，大成元年（579），宣帝巡幸洛陽，下詔以洛陽為東京，設(shè)置六府官，征發(fā)關(guān)東諸州兵士修治洛陽宮。以前被北齊遷至鄴城的熹平石經(jīng)和三體石經(jīng)，這時由北周重新運回洛陽。宣帝還詔令河陽、幽州、相州、豫州、亳州、青州、徐州七總管，一律接受東京六府的管轄。

　　大象二年（580）五月，宣帝死。周靜帝只有八歲，不能親理政事。楊堅作為宣帝的岳父，被拜為左大丞相，假黃鉞，統(tǒng)領(lǐng)百官，處理朝政。國喪期間，大赦天下，洛陽宮的修建活動停了下來。不久，相州（治所在今河北省臨漳縣）總管尉遲迥為防止楊堅篡奪北周政權(quán)，發(fā)動了武裝斗爭，山東、湖北起而響應(yīng)。在鎮(zhèn)壓叛亂的過程中，楊堅以長子楊勇為洛州總管、東京小冢宰，統(tǒng)領(lǐng)北齊故地。

　　開皇元年（581），隋文帝終于建隋代周。他作為關(guān)隴軍事貴族的代表，依然把都城設(shè)置在關(guān)中地區(qū)。長安故城自西漢建都以來，已經(jīng)經(jīng)歷八百年，屢經(jīng)戰(zhàn)亂，破壞很大，而且規(guī)模狹小，井水咸澀，不宜居住。文帝于是在其東南修建了新都大興城，仍稱長安。楊勇被立為太子，召回京師，鎮(zhèn)守洛陽的任務(wù)由楊勇的岳父少冢宰元孝矩替代。東京官因而廢除，依然稱為洛陽，降為一般性城市。

　　開皇二年（582），文帝總結(jié)出北周同姓諸王微弱而亡國的歷史教訓(xùn)，決定由自己的幾個兒子分別據(jù)守各地區(qū)的重鎮(zhèn)，代表中央在當(dāng)?shù)匦惺菇y(tǒng)治。于是，他在洛陽設(shè)置河南道行臺，以第三子秦王楊俊為該行臺尚書令兼洛州刺史，統(tǒng)領(lǐng)關(guān)東兵；次子晉王楊廣為河北道行臺（治并州，今山西省太原市）尚書令；四子蜀王楊秀為西南道行臺（治益州，今四川省成都市）尚書令。這幾個王都還是十余歲的少年，不足以分臨方面，文帝因而選拔一些精明能干的官員充當(dāng)他們的僚佐。這幾個地點中，洛陽由于其重要的地理位置和傳統(tǒng)的都城地位，所受到的重視程度遠(yuǎn)在其余幾處之上。開皇四年（584），關(guān)中遭災(zāi)，文帝來洛陽，度過了青黃不接的冬春兩季。開皇六年（586），他派太子楊勇鎮(zhèn)守洛陽，把楊俊換到山南道行臺（治襄州，今湖北省襄樊市）任尚書令，后來又把楊廣調(diào)到淮南行臺（治壽春，今安徽省壽縣）任尚書令。這樣部署，目的在于平定江南，統(tǒng)一中國，因而開皇九年（589）滅陳后，楊廣撤回，淮南行臺予以廢除。

　　開皇十四年（594）關(guān)中大旱，文帝率領(lǐng)百官和民眾又來洛陽就食。文帝北登邙山，陳朝亡國君主陳叔寶偕從侍宴。酒酣耳熱之際，陳叔寶眺望四周，賦詩歌頌道："日月光天德，山河壯帝居。"煬帝楊廣是通過奪嫡當(dāng)上太子并進而當(dāng)上皇帝的，這引起了他的小弟漢王楊諒的極度不滿。楊諒以并州總管的身份駐守太原，統(tǒng)轄著崤山（在今河南省陜縣）以東黃河以北52州之地，遂于煬帝登基之際發(fā)動武裝叛亂。在平定叛亂的過程中，煬帝看到上述山東地區(qū)戰(zhàn)火彌漫，很多州縣不復(fù)由國家控制，而京師僻處關(guān)中，鞭長莫及；并州降戶遷至河南，國家需要像周遷殷人那樣，在當(dāng)?shù)卦O(shè)立據(jù)點，加以監(jiān)督；特別是平定江南后，統(tǒng)治區(qū)擴大到嶺南一帶，長安作為唯一的都城，已經(jīng)不再適應(yīng)形勢的需要了。煬帝認(rèn)為洛陽自古以來便多次作為帝都，三河（黃河、洛河、伊河）環(huán)帶，四塞堅固，水陸線路，四通八達(dá)，遠(yuǎn)近均衡，是最理想的建都處所。西漢高祖劉邦曾感嘆自己到過很多地方，只發(fā)現(xiàn)洛陽最好。盡管如此，古代一些帝王卻未能建都于洛陽，無非或由于國家分裂，或由于經(jīng)費不足。而現(xiàn)在條件已經(jīng)具備，應(yīng)該營建東京。這樣，煬帝就在關(guān)隴軍事貴族把長安作為全國政治、軍事中心的前提下，要把洛陽經(jīng)營成東方的政治、軍事中心，以加強對關(guān)東地區(qū)的控制。為了確保洛陽的安全，煬帝這次巡幸洛陽，還下令征調(diào)數(shù)十萬丁男開掘長塹。這道長塹從蒲州龍門縣（今山西省河津縣）經(jīng)長平郡（治今山西省晉城縣）東北，東接汲郡（治今河南省?？h西），從臨清關(guān)（在今河南省新鄉(xiāng)縣）南跨黃河，經(jīng)過浚儀（今河南省開封市）、襄城郡（治今河南省汝州市），抵達(dá)上洛郡（治今陜西省商州市）。沿著長塹，遍設(shè)關(guān)防。這樣，環(huán)繞著洛陽，出現(xiàn)了一道人工屏障，形成拱衛(wèi)態(tài)勢，彌補了自然條件的不足。

　　大業(yè)元年（605）三月，煬帝詔令尚書令楊素、納言楊達(dá)和將作大匠宇文愷負(fù)責(zé)營建東京。宇文愷是杰出的建筑師和工程師，擔(dān)任具體的規(guī)劃、組織工作。由于洛陽漢魏故城屢遭戰(zhàn)亂破壞，新城址確定在其西18里洛河、伊河匯合地帶。每月役使民工筑城多達(dá)二百萬人。江南的奇材異石源源不斷地運至洛陽。運輸極其艱辛。宮殿所用的大梁巨柱，須從豫章郡（治今江西省南昌市）采集大樹，運來加工。一棵大樹兩千人才能拖得動，如果用木輪車運送，便會摩擦起火，改用鐵輪車，運一二里鐵輪便壞，只好由數(shù)百人尾隨，專門供應(yīng)鐵輪，因而一天不過運送二三十里。一棵大樹運到洛陽，不算沿途食宿費用和鐵輪車成本，僅腳力一項，即花費數(shù)十萬工。民工勞累不堪，一半人累死在運輸途中。大業(yè)二年（606）正月，東京建成。這座規(guī)模宏偉的都市，周圍五十多里，由宮城、皇城、外郭城三部分組成。宮城是宮殿所在地，在都城的西北角?；食鞘侵醒胙檬鸬乃诘?，北接宮城，南臨洛河。外郭城的主要成分是里坊，分布在洛河南北兩邊，是居民區(qū)。每坊約一里見方，故稱為里坊或里，共有132坊。此外，外郭城還有含嘉倉城、三個市場、苑囿等等。為了充實人口，附近居民以及天下富商、工藝戶數(shù)萬家，都奉詔安置到城內(nèi)居住。四月，煬帝舉行了類似后代落成典禮的儀式。他從江都（今江蘇省揚州市）返回，到伊闕（龍門）后由儀仗隊簇?fù)?，自己乘坐六匹駿馬駕引的法駕，百官千乘萬騎，魚貫隨從，浩浩蕩蕩進入城中。然后，煬帝站在皇城南面的端門門樓上，向普天下宣布大赦，免除百姓當(dāng)年的租賦。宇文愷因筑城有功，進位為開府儀同三司。

　　大業(yè)五年（609）正月，東京改稱為東都。