少林寺创建于北魏孝文帝太和十九年公元四九五年)。
当时，天竺僧人跋陀由西域来到中原，得到虔信佛学的孝文帝的礼敬。
跋陀游历中原时，见嵩山很象一朵莲花，便有意在花中立寺，孝文帝遂在少室山建造少林寺供养跋陀。
后来又过三十余年，南天竺僧人菩提达摩来到少林寺，广罗弟子，传授禅宗，成为中国佛教禅宗的开山祖师。
少林派，素来被称为武林第一门派，号称中原武林的泰山北斗。少林寺僧众习武源远流长。
南北朝时，后魏孝文帝大和年间(公元四七七年-公元四九九年)，达摩大师从梁国北来，面壁于嵩山少林寺，历时九年而功成，遂传易筋、洗髓二经，创立少林武术。唐代李靖又写了易筋经序。
历史上，在达摩以前，北朝寺院的练武风气就已形成。少林武术的发扬光大，始于隋唐之际的一件大事。
隋朝未年，天下大乱，秦王李世民与郑帝王世充作战，少林武僧应邀相助，活捉王仁则，逼降王世充，这就是著名的“十三棍僧救唐王”，
李世民即位后对少林寺大加赏赐，少林寺再度兴旺起来，少林武术也开始繁荣发达，逐渐成为中原武林第一门派。
大宋开国之君赵匡胤与少林寺的渊源也是颇深的，赵匡胤出生在洛阳夹马营一个军人之家，他父亲是一名将军。
赵匡胤自幼便在军营中长大，耳濡目染，潜移默化的喜欢上舞刀弄棒的武术，梦想成为武林高手；军营里的将士们，都很喜欢这个聪明的小孩，闲来无事，总要点拨一二。
赵匡胤天资聪颖，一学就会，久而久之，习得一身好本事。慢慢的他觉得只在军营里练习武术，满足不了成为武林高手的欲望，后来他就求学于少林。
学习武术是一个修习的过程，更不用说是在少林寺中学武。赵匡胤在少林学习拳法，从一开始的练动作，到后来组合动作的身法，从初级到出神入化的过程，慢慢体悟到里面的禅学、佛学的博大文化。
赵匡胤在少林寺中，不仅创作了著名的“太祖长拳三十六式”，而且对乱世中的生活哲理开始积淀，这对于他以后夺取皇位并守得住皇位有至关重要的作用。
赵匡胤身在古寺，却看得到暴君酷吏大小统治者在连番角逐，使得中原大地兵荒马乱，民不聊生。他发誓有朝一日一定给天下百姓一个安定的乐土；
赵匡胤在21岁那年，离开少林寺，寻找