隋朝是我国继西汉、东汉及两晋南北朝以后另一个统一的王朝。西晋结束后，北方是十六国此起彼伏、相互攻战的局面，大多是少数民族占统治地位的政权。南方是偏安一隅的东晋王朝。此后是南北朝时期，南、北分裂而治。北方先是北魏一度统一，接着分裂为东魏、西魏，之后东、西魏又分别为北齐、北周所取代。而南朝则没有像北朝那样出现分裂，而是像走马灯似的出现一个接替一个、延续都不长的宋、齐、粱、陈4个政权。
到北周大象元年（公元579年），8岁的幼帝初立。当时担任宰相掌握全国军政大权的杨坚在亲信的支持下成为北周的摄政，这遭到北周各地支持者的反对。在一个个反对者被消灭以后，杨坚遂于公元581年以所谓的“禅让”方式黄袍加身，登上宝座，建立国号为隋的王朝。
经过几年的准备，隋于开皇八年（公元588年）出兵灭陈。沉醉于“歌舞升平”的陈后主，在刚过完除夕的那个清晨被擒而投降。杨坚遂将南北朝对峙分裂长达272年的中国重新统一起来。
隋通过政变取代北周获得政权，并仍以北周首都长安为都。统一了中国以后，隋感到长安原是统一的西汉王朝之都，在其以后约600年间，只作为几个分裂政权的首都且时间不长，时遭破坏，时而修建，呈残垣破败之象；再加上面积小、北城墙受渭河影响已无余地，重建花费亦大。因此，曾考虑到迁都问题。
由于隋王朝的统治集团基础仍在关中，国家初立，关东地方反对力量刚刚平息，但陈朝的势力在江南仍有影响，所以，杨坚于取代北周的第二年（公元582年），下诏修建新都大兴城。大兴城位于西汉长安城东南，龙首原之南，地势开阔。大兴城于583年初步建成，正式迁都于此。大兴城比西汉长安城（周长25公里）大10.5公里。宫城居北，宫城南为皇城，是政府机关集中区；其余为居民区，城内有东、西两市。
隋文帝杨坚虽然以长安为都，修建了大兴城，但关东原为北齐之地，江南为南朝之地，原来都是分裂政权势力盘踞之地，这些地方多远离首都，又并不稳定，如不加强控制，有重新分裂独立的可能。再加上长安地少人多，人均土地下降，粮食供应紧张，不时需关东漕运接济。杨坚去世后，次子杨广（即隋炀帝）即位。杨广曾分管过河北、淮南，并领兵伐陈夺取江南之地，对这些地方的情况比较了解，深知长安区位偏西对控制东南的不利之处。
所以，在其即位后的第二年（公元606年），立即营建东都洛阳，称为新都。在营建东都的同时，着手征调大批民工开挖南、北大运河，以加强北方、南方与京都的政治、经济联系。因此，隋王朝就形成京师（大兴城）、东都（洛阳）的两京制。待东都建成后，隋炀帝于大业五年（公元609年）迁都洛阳。从此，他几乎就不在长安逗留。
