Le film parle d'une famille nommée Banks qui vit à Londres en 1910. Les membres de la famille sont George Banks - un homme sérieux qui travaille à la banque, Winifred Banks - une femme active dans le domaine des droits des femmes (quelqu'un ou quelque chose qui est en action) et leurs enfants Jane et Michael.
George Banks s'occupe de son travail dans la banque tandis que Winifred s'occupe de ses activités en faveur des droits de la femme. Tous deux ne consacrent presque jamais de temps (à être fortement impliqués dans quelque chose et à donner beaucoup de temps pour cela) à leurs enfants, mais les gardent plutôt chez différentes nounous. Lorsque l'une des nounous, Katie, quitte son emploi, M. Banks se met à la recherche d'une autre nounou. Le soir, les enfants écrivent à leur père une lettre qui décrit le type de nounou qu'ils veulent, mais il déchire ensuite la lettre et la jette dans le feu et écrit pour lui-même le type de nounou qu'il veut, quelqu'un de sérieux et d'organisé.
De nombreuses nourrices viennent à la maison pour être choisies comme nounou mais le vent fort les emporte toutes. Au même moment, les enfants qui regardent par la fenêtre voient une femme qui vole dans leur maison, elle s'appelle Mary Poppins et c'est le genre de nounou que les enfants voulaient vraiment. Avec sa magie et son amour, elle prend soin des enfants et les emmène dans des aventures spéciales. Au début, M. Banks n'aime pas la façon dont elle s'occupe des enfants, mais plus tard dans le film, elle réussit (elle est capable de faire quelque chose, surtout quelque chose de difficile) à créer un lien entre lui et les enfants et à rendre la famille Banks à nouveau heureuse.