赵匡胤深知，五代时期之所以朝代更替频繁、“皇帝”多如牛毛，根本原因在于臣属权力过重，特别是那些封疆大吏和重兵首领，他们倚仗着手中的兵权及财权对皇帝进行要挟，进而取而代之。另一个主要原因就是皇帝不能收拢前朝重臣的人心。为确保江山永固，赵匡胤君臣对外藩内臣实施了一系列政策。
首先是对于那些与自己一同出生入死的武将们，赵匡胤既不愿意把他们杀掉，也不愿意继续留在身边。谁知道哪天重演“陈桥兵变”呢？于是他就演出了一场“杯酒释兵权”的好戏。免去了石守信、高怀德、王审琦、张令铎、罗彦环等人的禁军职务，让他们到地方州郡去做节度使。这就是著名的“杯酒释兵权”。
其次，赵匡胤接着又做出废除荆湖地区“支郡”的决定。他宣布新征服地区仍保留节度使，但节度使驻地以外的州郡“直属京师”，“支郡”被取消了。随着南方诸国逐渐被平定，罢除“支郡”的范围也越来越大，到宋太宗时，全国范围内都废除了支郡制度。
同时，赵匡胤逐步向这些地方派遣文臣出任“知州”，以取代原来掌管州务的防御使等武将。在很短的时间里，赵匡胤就选派出上百名文臣，分治原为各大藩所辖的支郡，最终形成了宋代的“以文臣知州事”的制度。
乾德元年(963)，赵匡胤又订立了两项限制州郡长官权力过重的措施。首先是“三岁一易”，使“知州”“知县”在一地任职以三年为限，不得久任。乾德三年(965)，北海军知军杨光美任职已满三年，由于其为政清廉，颇得百姓爱戴，当地有数百人赴京守在宫门口请愿，要求留杨光美继续在北海任职。赵匡胤先是下诏劝他们散去，无效后采取断然措施，“笞（鞭笞）其为首者”，将请愿者赶走。
再次，赵匡胤还创立了一套监察制度，即在州郡设立通判。通判名义上与知州共同判理政务，其地位略低于知州，但事实上由于其负有监督州郡长官的特殊使命（故通判又称监州、监郡），知州往往还要怵其三分。所以有宋一代，州郡长官与通判不和的问题一直存在，但通判监察地方长官对其正确动用权力也颇有震慑作
用。
最后，收缴财权，宰相站议。行政权力集中到中央后，赵匡胤又对地方财政确立了新的统治政策——“制其钱谷”，即收夺地方上的财权。乾德二年(964)，赵匡胤发布了一道十分重要的诏令，要求各州除留有必要的经费外，其余财赋中属于货币的部分应全部辇送到京城，不得无故占留。次年三月，又一次重中了这道诏令。随着钱币的集中，中央政府对其余财物的控制也逐步加紧。
在调整和确立中央与地方关系的同时，赵匡胤对君臣关系也进行了调整。宰相是封建社会的“百官之领袖”，处于一人之下、万人之上的地位。赵匡胤即位后，宰相奏事仍沿旧制，但为了突出皇帝的权威，赵匡胤废除了宰相与皇帝议事时均“坐而论道”的制度，自此，宰相在皇帝面前毕恭毕敬地站着奏事成为定制。宰相的地位也大大降低了。
