Il décide de pratiquer le jujitsu pour développer son corps.

Il commence à l’étudier en 1877 et en apprend alors les premiers rudiments. Très appliqué, persévérant et soucieux des techniques, il maîtrise rapidement plusieurs styles de jujitsu, dont ceux de l’école (koryū) Tenjin Shin’yō-ryū avec Hachinosuke Fukuda puis Masamoto Iso et de l’école Kitō-ryū avec Tsunetoshi Iikubo. Il conserve les points forts de ces deux écoles et étudie « les autres écoles pour compléter les éléments qui leur manquaient ».

Pour enrichir son étude, il récupére les manuscrits des samouraïs, à partir desquels il développera le principe fondamental qu’il étendra par la suite : Seirioku Zenyo, c’est-à-dire, un minimum d’énergie pour une efficacité maximale.

C’est en 1882 qu’il fonde le Kōdōkan, « bâtiment pour l’enseignement de la voie », dans le petit temple Eishoji, dans le quartier de Shitaya (aujourd’hui Taitō (Tokyo)) . Neuf élèves le fréquentent alors. Il y élabore le premier art martial moderne dont l’objectif n’est plus de combattre victorieusement ni de se combattre soi-même mais d’élever l’homme pour servir l’humanité. C’est ainsi qu’il créa le Jūdō Kōdōkan en 1882, une année seulement après avoir obtenu son diplôme de l’université impériale de Tokyo dans différentes spécialités. Il n’a que vingt-deux ans.

Kanō désire adapter le jujitsu à la nouvelle ère. Le jujitsu est une technique de combat à mains nues utilisée par les samouraïs sur le champ de bataille : sa seule vocation est de mettre, vite et bien, un attaquant hors d’état de nuire. Kano cherche à le transformer en un moyen d’éducation du corps et de l’esprit « adapté à l’éducation de toute une nation ». Il renomme sa discipline de Ju-Jutsu (technique/art de la souplesse) à Ju-Do (voie de la souplesse), et fonde ainsi ce qui est probablement le premier budō moderne. D’autres maîtres suivront en effet son exemple, transformant leur art de « technique » en « voie ».

Le terme « souplesse » est à prendre au sens de « non-résistance » ou « adaptation ». Le principe est de ne pas chercher à résister à ce que veut faire le partenaire / adversaire mais de céder afin d’utiliser cette force pour soi. Ce principe aurait été inspiré par l’observation de la végétation sous la neige, en constatant que « c’est en pliant que la souple branche de cerisier se débarrasse de l’adversaire hivernal dont le poids brise les branches rigides ».