在商周时期，宗法制的根本原则决定了天子具有国家最高统治权，随之也掌握最高司法权。重大案件或诸侯之间的纠纷，都由天子裁决。中央设司寇及其他官员来辅佐天子处理司法。西周时地方还有乡士、遂士等掌握司法。法官一般都由贵族担任。
秦朝没有独立的审判机关，朝廷、郡、县三级行政机关就是三级法院。在中央，皇帝是最高审判官，作为“九卿”之一的廷尉，则是专职的最高司法官。地方郡、县的审判官就是郡县的行政长官。
汉朝的司法制度在秦朝的基础上有所发展，比之秦朝更加完善。两汉的司法机关，在中央由皇帝、远相、御史大夫和廷尉组成，在地方则由封国、州、郡、县长官组成。丞相、彻史大夫作为最高行政长官，都有参与司法决断的权力。廷尉则既是中央司法机关名称，又是最高专职司法长官，一方面审理皇帝下达的诏狱，同时审理地方上面的疑狱。
在地方，封国享有相对独立的审判权，由内史典狱。州是地方最高行政机关掌有审判权，同时也是郡县上诉机关。郡设郡守，是一审的上诉审级。县设县令，为初审机关。由中央和地方司法机构的设置可知，汉时审判可分为四级，但各级并无案件审理上的分工，这是汉司法制度尚不完善的表现。
魏晋时期的司法机关基本上沿用汉制，在中央由廷尉、御使、申书三部分组成，廷尉是最高审判机关的长官，御使是中央监察机手，尚书是司法行政长官。
南北朝时，北齐将廷尉扩大为大理寺，为专门审核刑案的官署，内设多级机构，分工较细，使中央司法机关趋于完备。在地方，由行政长官兼理狱讼，一般是由县今先作判决，后经郡太守，如郡太守不能断决，送州刺史，最后送廷尉。
唐朝中央以大理寺、刑部为司法机关，御史台也参与司法。大理寺是最高审判机关，负责审理中央百官犯罪及京师徒刑以上案件。对流罪的判决，须送刑部复核。死罪的判决则须奏请皇帝批准。刑部是中央司法行政机关，负责复核大理寺及州、县上报案件。
御史台是中央监察机关，在司法方面主要是监督大理寺和刑部的司法审判活动。唐朝对大案、疑案常由大理寺、刑部和御史台的长官会同审理，称“三司推事”。地方司法仍由州、县行政机关兼理。县以下乡官如里正、坊正、村正，对有关婚姻、土地等民事案件也有一定审判权。
宋朝在司法制度上有了相当完备的发展，而皇帝对司法权的直接控制也得到进一步加强。中央司法机构由大理寺、刑部、审刑院罗成：审刑院的主要职能是复核大理寺裁断的案件，凡上奏案件，须先送审刑院备案，才交付大理寺、刑部断复，而后还要经审刑院详议，最后由皇帝裁决，这实际上是代表皇帝加强对司法审判的控制。
