城隍神最早的雏形，大约是出于《周礼》的记载。据说，《周礼》曾记道，蜡祭八神之一，就有水庸神。水，指隍；庸，指城。水庸，即城隍。对此，《陔余从考》卷十五分析：“水则隍，庸则城也。”这就证实了水庸神是最早的城隍神的说法。
古代的国家，一般的都是城市国家。城墙对一个国家的安全，十分重要。仅有城墙，还是不够的。城墙之外，必须有护城壕。护城壕里，还必须贮满池水。因此，城隍神就具有了保家卫国的特殊意义。有了城隍神的保佑，城池就可以固若金汤。城隍神的崇拜，也就顺理成章了。
见于记载的最旱的城隍神，是三国吴国赤乌二年(239年)所建的芜湖城的城隍。《北齐书-慕容俨传》也有郢城城隍的记载。唐朝以后，经济发达，城市林立，郡县城市都拥有各自的城隍，建立各自的城隍庙。唐朝的文豪，如张说、韩愈、杜牧，都曾虔诚地撰写过祭城隍文，以祈祷城隍的保佑。到了宋朝，城隍的信仰，已经遍布全国。各地都把有功于当地的名人，作为自己的城隍。如苏州的城隍是春申君，杭州的城隍是文天祥。名人成为人们心目中的神了。后唐时期，城隍的地位又升高了。后唐清泰元年(934年)城隍被封为王，级别有了很大的提高。
到了明朝，城隍得到了殊遇。明太祖朱元璋对城隍有着特别的感情。朱元璋出生在安徽濠州（今安徽风阳县东）一个赤贫的农民家庭。16岁就出家于皇寺当了一个小和尚。但是，寺庙也养活不了他，他只得出外去化缘，讨口饭吃。这样的云游生活，他过了三年。三年的漂泊生活，各地城隍庙成了他的栖息地。
因此，朱元璋当上了皇帝后，对城隍庙情有独钟。朱元璋下令，晋封京师的城隍为帝，同人间的皇帝同等对待。晋封开封、东和等几个大城市的城隍为王，职同正一品，同三公和左右丞相平级。又封府、县的城隍为公、侯。并旨命各地重建城隍庙，其规格要同当地的官府衙门一样。这样，各地就有了阳、阴两套衙门。
现在西安的城隍庙，就是明太祖朱元璋洪武年间修建的，雄伟壮丽，蔚为大观，呈一时之盛。大殿正中是城隍神，两旁分列判官、牛头、马面、黑白无常等鬼卒，面目狰狞，阴森恐怖，展现了阴间的一角。
