众所周知，佛教分为很多流派，在中国影响最深远的是“禅宗”，传说达摩祖师在少林寺面壁9年，根据佛法创建的佛教的这个宗派，达摩祖师被后人尊为禅宗东土初祖，少林寺自然就成了“禅宗祖庭”。
传说菩提达摩不辞艰辛，从南天竺国渡海来到东土，他首先到了金陵，1月之后来到永宁寺，看到那里九级浮屠“金盘炫日，光照云表；宝铎含风，响出天外；歌咏赞叹，实是神功”，他说自己活了150岁，周游这么多国家，没有见过像永宁寺这样精美的寺院，真是极尽佛的境界。于是，达摩口唱南无，合掌赞美不停。离开永宁寺后，达摩来到几十里外的嵩山少林寺，并且落脚于此，在这里终日面壁，悟出了广大的佛法。
现在人们通称的少林寺是寺院的中心部分，总占地面积约3万多平方米，它沿山坡而建。寺内现存有山门、客堂、达摩亭、白衣殿、地藏殿及千佛殿等。千佛殿内有明代五百罗汉朝毗卢壁域。寺旁有塔220余座的塔林，还有初祖庵、二祖庵，以及附近的唐法如塔、同光塔、五代法华塔、元代缘公塔等。
中华人民共和国建立以后，特别是二十世纪八十年代政府颁布新的宗教政策以来，随着国家的开放政策和全球多元文化时代的到来，少林寺继承和发扬自己独特的优良传统，先后恢复禅堂，每年举行精进禅七。收集整理古籍善本，少林寺藏经阁已被国家列为全国古籍重点保护单位，并整理出版《中国佛教医药全书》、《中华武藏》等多部著作。
文革结束后，少林寺修缮重建，现存建筑当中包括著名的大雄宝殿、达摩面壁石等均属仿古重建建筑，但一些地方如古代练武场、塔林及部分石刻仍属于古代的原物遗存。
