先秦典籍中有的提到孔子诛杀少正卯，有的则没有记载。这样，孔子是否诛杀少正卯，成了后世聚讼疑问。
《荀子•宥坐》曰：“孔子为鲁摄相，朝七日，而诛少正卯。门人进问曰：‘夫少正卯，鲁之闻人也，夫子为政而始（先）诛之，得无失乎？’孔子曰：‘居！吾语女（汝）其故。人有恶者五，而盗窃不与焉：一曰心达而险，二曰行辟而坚，三曰言伪而辩，四曰记丑而博，五曰顺非而泽。此五者有一于人，则不免于君子之诛，而少正卯兼而有之……不可不诛也。”司马迁《史记•孔子世家》云：“（鲁）定公十四年，孔子年五十六，由大司寇行摄相事……于是诛鲁大夫乱政者少正卯。”也就是说，孔子在鲁国由司寇代行宰相职务才七天，就杀死当时鲁国的大夫少正卯，理由是少正卯兼有五种恶行，并且在家里聚众成群，鼓吹邪说，哗众取宠，已是小人中的雄杰，所以非杀不可。后来的《尹文子》、《说苑》、《孔子家语》等书，都引用《荀子》的说法，认为孔子杀了少正卯。
然而，南宋朱熹认为，孔子并没有杀少正卯。此说一出，许多学者表示赞同。其主要理由是：一、诸子百家著作中寓言居多，不足为信。成书早于《荀子》的《左传》、《国语》、《论语》、《孟子》等，都没有提到这件事，而且《左传》、《国语》往往对孔子有所诬罔，也不提此事，可见历史上没有孔子诛杀少正卯之事。
二、孔子代行宰相职务才七天，以一个大夫的身份去杀掉另一个大夫，这是不可能做到的。
三、孔子提倡仁，坚决反对轻易杀人，当鲁大夫提出“杀无遘以就有道”的想法时，孔子表示反对。杀少正卯一事，与孔子的一贯思想不相吻合。
上述两说各自成理，流传至今。
