三国分裂的政权被曹魏的司马氏所取代，我国又重新出现统一，称为西晋。但仅50年后，北方出现大混乱，周边少数民族纷纷进入，出现民族大迁移、大混合，政权重新纷立。东晋控制江南，以建康为都。维持近百年的东晋义为南朝的宋、齐、梁、陈所继立，首都仍在建康。
西晋开国之君司马炎以曹魏当年逼汉献帝禅让的办法逼曹奂交出政权，登上宝座，成为西晋新王朝的君主。当时，蜀汉新亡不到两年，东吴仍在江东，而曹魏所建的洛阳亦只有45年，西晋即以洛阳为其都城。西晋建立后15年，经过充分准备，派出六路大军，结果在上游四川“王浚楼船下益州，金陵王气黯然收”的情况下，东吴孙皓举手投降，中国又重新回到统一。
司马炎死后，白痴儿子继位，太后与皇后争权，各自利用司马家族，结果造成16年之久的“八王之乱”，使西晋王朝深受其害，衰败不堪。社会矛盾的加剧，激发了当时人居黄河流域的各个少数民族纷纷举兵割据建立政权。首先是匈奴人刘渊率先在山西举兵反晋，先后攻入洛阳、长安，致使西晋于公元316年灭亡。
西晋亡于匈奴族的刘渊，人们“思晋之心犹在”。虽然黄河流域已群雄纷争，但江南地区的西晋地方政权依然存在。晋宗室的琅讶王司马睿，已控制荆、扬二州，在北方与南方士族的支持下，称帝重建晋室，以其所在地建康为都。
建康即东吴时的建业，在东吴亡后的36年又成为新的东晋王朝的首都。东晋控制的是长江流域以南地区，北面大体以淮河为界，并一度占有巴蜀，形势强于东吴。由于北方多是少数民族政权，南迁的人多支持东晋政权。结果使东晋政权延续了103年。
东晋以后，在长江以南相继出现宋、齐、梁、陈4个政权，它们都是以建康为都。其原因在于建康是长江下游一个中心，是上连荆州，北连淮北，下控江东的一个跨地域的重要区位。长江水域宽阔、水流湍急，对北方人来说，无异于是一道天然防线，而对南方人来说，则是上下水运的通道。相比之下，其区位要比中游的荆州优越。
其次，南朝相继政权多是地方军人掌握京畿军事大权，控制朝政以后，通过“禅让”办法取而代之。不须用军事进攻办法，原首都没有破坏，无须改换他处。所以南朝尽管“乱哄哄你方唱罢我登场”的政治更替不断，但登场的“舞台”却不变，都在建康。
