少林寺创建于北魏太和十九年(公元495年)，乃北魏孝文帝元宏为安顿印度僧人跋陀而建，“净供法衣，取给公府”。跋陀可算是少林寺的开山祖师。

　　北魏孝昌三年(公元527年)，南天竺高僧菩提达摩从海路抵广州，最后寓止少林寺，面壁九年，首传禅宗，被尊为中国禅宗初祖，少林寺也被尊为禅宗祖庭。

　　北周建得三年(公元574年)5月27日，武帝废佛，少林寺被毁。大象年间(公元589-581年)，北周静帝恢复佛教，流亡外地的少林寺僧众又回到少林寺，少林寺复兴，并改名为陟岵寺。隋文帝崇尚佛教，仍改回少林寺之名，赐田百顷。

　　历经动乱的少林僧人们意识到在这个动乱的年代，单是依靠佛祖的保佑和帝王的赏识是不足以保护自己的，惟有自食其力、以武强身，只有自己才能保护自己。

　　也许佛祖真的听到了僧人们的祷告，由于隋炀帝杨广穷兵黩武、横征暴敛，导致民不聊生，各地人民纷纷起义。公元619年，东都洛阳的王世充废掉了自立为帝的隋越王杨侗，自立为“大郑皇帝”，建元“开明”。而隋朝的太原留守李渊也在儿子李世民等人的支持下于617年起兵反隋，并得到突厥的援助。次年五月，李渊称帝，国号“大唐”，年号“武德”，李世民被封为秦王。李渊先占据关中大部，然后又东下攻击王世充。天下英雄逐鹿中原。

　　当时少林寺地处王世充的势力范围。王世充把柏谷屯改为擐州，令侄子王仁则驻守在那里。这柏谷屯在少林寺西北约二十五公里处，是隋朝开皇年间隋文帝杨坚赐给少林寺的。王仁则占据了柏谷屯，少林寺的僧众也就断绝了斋粮的来源，生活越来越困难。

　　武德四年(公元621年)三月，唐军大举包围洛阳，在轩辕关下，李世民和王世充的部队展开了激战。这轩辕关位于太室山和少室山的阙口处，是洛阳通往东南许昌、南阳方向的咽喉要道。王仁则所守的擐州城即柏谷屯，地形险要，是扼守十八盘的战略要地，易守难攻。李世民夺下十八盘后，又攻打擐州城，但久攻不下。

　　少林寺寺主志操眼光远大，他审时度势，认为李渊深得民心，必将一统天下，而王世充、王仁则之流残暴如虎狼，难成大事。于是，他与众僧商议，要协助秦王李世民夺取擐州城，众僧早就不满王仁则欺压百姓的恶行，当即一拍即合。经过谋划，一群少林僧人潜入城内，买通了守城军官赵孝宰;另一群少林僧人则埋伏在城外，待机而动。四月廿七日这天，少林僧人里应外合，杀入擐州城。武艺高强的昙宗等人擒住王仁则，赵孝宰等人打开城门，唐军与少林僧人一拥而人，夺取了擐州城。

　　三天后，秦王李世民派上柱国李安远亲至少林寺慰问，并接见了立功的十三位僧人。这十三位僧人分别是上座善护、寺主志操、都维那惠场、大将军僧昙宗、普惠、明嵩、灵宪、普胜、智守、道广、智兴、僧满、僧丰。李安远还宣读了李世民的亲笔信。李世民手书原件，后由唐玄宗交一行禅师转送少林寺，刻于石碑之上，立于少林寺内。

　　同年五月，秦王李世民俘虏了窦建德，王世充出城投降，唐军占领洛阳。

　　自唐初至开元年间(公元618年-714年)，在唐朝诸帝的护持下，少林寺进行了大规模的扩建，“妙楼香阁，俯映为林，金刹宝铃，上摇清汉”，楼台殿阁凡五千余间，僧徒达两千余人。一时高僧云集，帝王游幸，文人忘返。少林寺作为唐朝王家大寺，被誉为“天下第一名刹”。

　　少林得到国家的扶持，自然日益壮大，而围绕着少林为主的武林体系也渐渐建立起来。可以说，中国的武林历史也正是从这个时候开始，所以后来才有“天下武功出少林”的说法。

　　但是作为中原武林的领导者，少林也有自己的烦恼。

　　首先是来自天竺的一批和尚，刚来之时还只是谈经论道，后来不知为何竟打起少林的主意。宣称中华佛学出自天竺，少林寺自然也应该由天竺人来当住持，少林众僧当然不会答应，这帮天竺和尚就找了少林附近的一所破庙常住下来，不时骚扰一番，令方丈颇为头疼。

　　其次就是那批来自东洋的武士，他们明取暗夺，目标只有一个，那就是少林藏经阁的武学秘诀。

　　然而，还有第三股势力也盯上了少林，那就是被赶到西域去的明教。他们不但撺掇天竺僧来掌管少林，而且还向东洋武士说少林寺藏有天下大部分的武学秘笈，更是自己出动人手，时不时到少林捣乱一番。目的是为了能够分散少林精力，使之腾不出手来与自己为敌。