Fondé en 1930, le Canon Yaoundé va être rapidement mis en évidence dans un championnat régional, mais ce championnat n'a pas un caractère officiel puisque le Cameroun était encore sous tutelle de la France.
Le Canon Yaoundé remporte enfin son premier titre national en 1970. L'irrésistible montée en puissance est alors lancée. Dès la saison suivante, le Canon s'adjuge, pour sa première participation, la Coupe d'Afrique des clubs champions en dominant en demi-finale, l'ASEC Abidjan puis en finale, l'Asante Kotoko. Le club s'installe ainsi parmi les grands d'Afrique. Et logiquement les recruteurs et autres superviseurs européens viennent régulièrement dans la capitale camerounaise à la recherche de la perle rare.