Pierwsze ślady Kempo w Indiach pochodzą już sprzed 5 tys. lat. Kempo ma bardzo ciekawą i dynamiczną historię rozwoju. Dzięki kontaktom z Buddyzmem, przekazywaniu swej wiedzy innym kulturom i przyjmowaniu elementów z innych walk bez broni, Kempo stopniowo rozwijało się aż do obecnej formy. W czasie gdy powstawał Buddyzm, indyjskie Kempo było już zorganizowaną dokładnie określoną Sztuką Walki. Chociaż Buddyzm i Sztuka Walki wydaja się niezgodne, a nawet sprzeczne, mimo to jednak początkowe założenie Buddyzmu kładły szczególny nacisk zarówno na siłę jak i na miłość bliźniego e tworzeniu idealnego świata. Chociaż Buddyzm został przeniesiony do Chin prawdopodobnie przez dynastię hanów (25-250) to jednak na terenie chin istniało już Kempo.

XXVIII Patriarcha Buddyzmu Daruma postanowił przenieść go do Chin na początki VI w. Daruma dostał się na dwór Liang Wu Ti, króla jednego z królestw. Ale Liang Wu Ti nioe rozumiał Darumy, który najchętniej wygłaszał kazania. Wygnany z tego królestwa daruma postanowił udać się do państwa Wei i zatrzymał się tam w klasztorze Shaolin. Nauki Buddyzmu w klasztorze nazywały się Ch’ian lub po japońsku – Zen.

Na samym początku Kempo nie było jednak Sztuką Wojenną, ale było traktowane tak jak Zazen (rozmysśanie) metoda jednoczenia umysłu i ciała. Buddyzm rozpowszechniony przez Darumę w Chinach cenił jednakowo Zazen i Kempo. Kempo nie zostało wymyślone przez mnichów do obrony świątyń, jak często błędnie powtarzano. Dopiero później Kempo stało się bardziej efektywne niż Zazen, które poierało się jedynie na ćwiczeniach duchowych. W początkowych stadiach rozwoju Kempo ćwiczone w Schaolin nie miało nazwy. Czasem było nazywane Nalo-jan, czasem jako Arohan. W późniejszych latach nazwane było J-jisnin.

Chociaż istnieją wątpliwości co do autentyczności i działalności Darumy, to potwierdzają to malowidła na ścianach świątyni Shaolin, przedstawiające pomalowanych na czarno mnichów, prawdopodobnie Hindusów, oraz prawdopodobnie mnichów chińskich ćwiczących Kempo.

Kempo w Shaolin było początkowo trzymane w tajemnicy, udostępniane tym, którzy wierzyli w Buddę i dostali się do klasztoru. Z czasem Kempo udoskonaliło się, zostało uznane za niebezpieczną broń w rękach ludzi którzy ja posiadali i znali jej prawdziwe znaczenie. Późniejsi władcy prześladowali mnichów i burzyli świątynie. W tych czasach wszelka broń była zakazana. Mnisi uczyli Kempo, aby można było bronić się przed bandytami i skorumpowanymi urzędnikami rządowymi. Stopniowo Kempo rozprzestrzeniło się po całych Chinach. Nie nazwane wtedy jeszcze Shaolin Kempo, występowało pod różnymi nazwami w zależności od części kraju. W końcu klasztor został zburzony i odbudowany podczas panowania dynastii Sui (589-618), ale nie ma żadnych dowodów, ze Kempo powróciło do swojej nowej siedziby. Liczba mnichów klasztoru zwiększyła się bardzo szybko, w czasie panowania dynastii T”ang (618-907),ale nie wiadomo, czy trenowali oni Kempo.

Od czasów Sanga, aż do czasu dynastii Ch’ing (1662-1912) Kempo przeżywało swój złoty wiek. Stało się w tym czasie narodową techniką walki. W 1280 roku 100 tys. ludzi znających Kempo wystąpiło przeciwko mongolskiej dynastii Yuan a w 1620 r. powstanie w prowincji Szechwen prowadzone było przez ludzi znających Kempo. Kempo znane było do czasów dynastii Ch’ing (1662-1912) tzn. aż do początku XX w. Ta ostatnia dynastia wydała wiele edyktów przeciwko Kempo, ale pomimo trudności i nacisku rządu sztuka ta nigdy nie straciła swojej pierwotnej siły.

Forma chińskiego Kempo została przeniesiona do Japonii w okresie Kamury (1192-1333). Później po każdym powstaniu czy zmianie dynastii w Chinach, mnisi szukając schronienia w Japonii przynosili ze sobą różne rodzaje Kempo, które wrosło w sztukę wojenną Japończyków. Obecnie Shaolin Kempo, a w Japonii Shorinji Kempo posiadają tę samą historię. Shorinji Kempo zostało prowadzone przez Doshin So, który przez II wojną był w Chinach, gdzie studiował tajniki Kempo. W Pekinie Doshin So uczył się w szkole Wen Lanshi , szkole, której techniki koncentrują się na Embu. Po ukończeniu szkoły Doshin So stał się następcą Wen Lanshi.

Porażka Japonii w II wojnie światowej stała się przyczyną ponownej „inwazji” chińskiego Kempo na wyspy.

Doshin So założył główne biuro Shorinji Kempo w prefekturze Kogewa na wyspie Shikoku. Do tej pory Kempo jest obrządkiem, który jest oficjalnie zarejestrowany.