Segundo alguns historiadores o Jiu-jitsu ou “arte suave”, nasceu na Índia e era praticado por monges budistas. Preocupados com a autodefesa, os monges desenvolveram uma técnica baseada nos princípios do equilíbrio, do sistema de articulação do corpo e das alavancas, evitando o uso da força e de armas. Com a expansão do budismo o jiu-jitsu percorreu o Sudeste asiático, a China e, finalmente, chegou ao Japão, onde desenvolveu-se e popularizou-se.
A partir do final do século XIX, alguns mestres de jiu-jitsu migraram do Japão para outros Continentes, vivendo do ensino da arte marcial e das lutas que realizavam.
Esai Maeda Koma, conhecido como Conde Koma, foi um deles. Depois de viajar com sua trupe lutando em vários países da Europa e das Américas, chegou ao Brasil em 1915 e se fixou em Belém do Pará, no ano seguinte, onde conheceu Gastão Gracie. Pai de oito filhos, cinco homens e três mulheres, Gastão tornou-se um entusiasta do jiu-jitsu e levou o mais velho, Carlos, para aprender a luta com o japonês.
Franzino por natureza, aos 15 anos, Carlos Gracie encontrou no jiu-jitsu um meio de realização pessoal. Aos 19, se transferiu para o Rio de Janeiro com a família e adoptou a profissão de lutador e professor dessa arte marcial. Viajou para Belo Horizonte e depois para São Paulo, dando aulas e vencendo adversários bem mais fortes fisicamente. Em 1925, voltou ao Rio e abriu a primeira Academia Gracie de Jiu-Jitsu. Convidou seus irmãos Oswaldo e Gastão para assessorá-lo e assumiu a criação dos menores George, com 14 anos, e Hélio com 12.
Desde então, Carlos passou a transmitir seus conhecimentos aos irmãos, adequando e aperfeiçoando a técnica à compleição física franzina característica de sua família.