Moins d'un an plus tard, après avoir contracté le béribéri, Morihei dût quitter Tokyo et retourna dans sa ville natale de Tanabe pour se soigner.

Cette même année, il épousa Hatsu Itokawa (née en 1881), une parente éloignée qu'il connaissait depuis son enfance.

Tirant les enseignements de son aventure de Tokyo, le jeune Morihei s'était rendu compte qu'il n'était pas fait pour le commerce. Epris d'aventures il décide, en 1903,de s'engager dans l'armée, qui recrutait pour répondre au besoin.

D'abord on le refusa car il était trop petit. Mortifié, Morihei attacha un lourd poids à ses jambes et se suspendit à une branche d'arbre durant des heures afin d'allonger sa colonne vertébrale. Finalement on l'accepta et il fut enrolé dans le 37e régiment de la quatrième division d'Osaka.

Sa grande habileté dans les arts martiaux se révéla lors des entraînements à la baïonnette au cours desquels il se révéla être un soldat fort habile, on lui donna alors le surnom de "Dieu des soldats" à cause de cette grande habileté au maniement de la baïonnette et au Juken-Jutsu et pour sa détermination au travail et sa grande honnêteté.

En 1904 il fut envoyé au front lors de la guerre Russo-Japonaise et revint avec le grade de sergent.