我国封建时代的早期，地方行政机构主要是郡和县。郡，原是春秋末年各诸侯国设置在边区的地方行政机关，地位本低于县，后来边地辖区不断扩大，始成为县上机构。
秦在孝公死后，才有郡的设置，由郡守，郡尉分统民、军二政。统一全国后，就将全国分为36郡，后扩增至40余。
汉初在中央政权直接控制的关中地区，置有15郡，在削弱了诸侯王国势力后，方始将郡推向了全国。
郡守(景帝后改称太守)权力很大，举凡一郡的民、财、法渚事务皆为其所掌。且太守往往代行郡尉之职，统率军队。太守之下的佐官，有由中央任用的丞和长史，还有太守自署的别驾、主簿，功曹，议曹，贼曹、决曹、督邮等。
魏晋南北朝时期，地方上州权最重，一州刺史统有数郡，而且刺史大多兼任军职，统率州，郡军队。这时的刺史多带有“都督诸州军事”， “监诸州军事”， “督诸州军事”名号，这就意味着他们不但有权管理本州民政，而且还有权管理数州军政。
这样，就决定了刺史们多配备有两套办事班子，一是民政这一头的别驾从事史，治中从事史、祭酒从事史，主簿等等，二是军政一头的长史，从事中郎、司马、录事参军，主簿等等。所有这些僚属例由刺史们自行选用。刺史统一方军政大权，其势太重，中央无力相抗。王敦、桓温等皆以一地之长，对中央颐指气使，好象是太上皇。南朝各代都是外有强敌，内有强臣，焦头烂额，难保朝夕之安。
隋唐地方行政体制改变了东汉末年以来的州、郡、县三级制，并省州，郡而成州，县两级制。这时的州就是汉时的郡。普通州的长官称刺史，副职称别驾，长史、司马，其下有司功、司仓、司户，司兵、司法、司士六个参军事、录事参军事负责纠正各曹职事。司马、参军等职往往为贬宫所居，永贞革新失败后，柳宗元，刘禹锡等八个中坚分子一齐被贬往边州任司马，史称为“八司马”。
首都、陪都置牧以为长。李唐王朝在长安置雍州牧，东都洛阳置洛州牧，发迹之地太原置并州牧，皆以皇子充任。但这些亲王并不莅任视事，常常是副职长史代行职事，唐玄宗时制度又变，将雍、洛，并三州分别改为京兆，河南，太原三府，仍置牧以总之，长史改称府尹总理府务，加置少尹为之助，其下还有司录参军事、功曹、仓曹，户曹、兵曹、法曹，士曹六个参军事为之僚佐，以理众事。
宋代仍以州辖县，州长称知x x州事，简称知州。同时，与州平级的机构还有府，军，监。军，一般设在边区和要地。监，多设在产盐、铸钱、矿冶等地，似乎有点经济专区的味道。府，则设在首都、陪都。宋有四京：东京开封府，西京河南府(洛阳)，南京应天府(河南归德)，北京大名府(河北大名)。并以知府兼留守为之长。黑脸包公即曾居开封府之位，在这儿惩治了奸人，抚慰了平民。宋室南渡之后，建都临安(浙江杭州)，即以临安府知府为京师大尹。
