Dans ce quartier du XVe arrondissement, la population s'accroît fortement au début du XXe siècle, rendant nécessaire la construction d'un édifice religieux. L'architecte Émile Brunet (1872-1952) est chargé des travaux. Il optera pour le style roman pour la façade et byzantin pour l'intérieur. La première pierre en est posée en 1924. L'église est achevée en 1934. Construite après les lois de 1905, l'édifice est financé par le clergé et les fidèles. Il est dédié à saint Léon en hommage au cardinal Léon Amette et à Léon Thélier, époux de la principale donatrice.
L'architecte utilise le béton armé et le ciment (matériaux qui deviennent traditionnels dans les églises de Paris), le tout recouvert de briques polychromes. L'intérêt est double : la structure est allégée ; le coût de construction, diminué.
Parmi les églises modernes de Paris, Saint-Léon se révèle être l'une des plus lumineuses et des plus harmonieuses. Avec des chapelles ornées de statues d'Henri Bouchard (1875-1960) et des mosaïques imposantes, mais qui n'envahissent pas tout l'intérieur, l'édifice offre un très bel équilibre artistique axé sur l'harmonie des formes et des couleurs, l'élégance romano-byzantine et une certaine sobriété dans l'utilisation des éléments d'ornementation.