Nils Holgersson est un petit garçon qui ne pense qu'à dormir, manger et jouer de mauvais tours. Il vit dans la ferme de ses parents en Scanie, dans le Sud du pays. Il aime particulièrement persécuter les animaux, tels que les oies. Un dimanche où ses parents l'ont laissé seul à la maison pour aller au temple, il rencontre un tomte (un lutin) qui, pour le punir de sa méchanceté, le rétrécit, ce qui lui donne la capacité de parler avec les animaux. Au même moment, un jars (nommé Martin dans la traduction française) de la ferme décide d'accompagner un groupe d'oies sauvages dirigé par Akka de Kebnekaise dans leur voyage à travers la Suède. Dans sa tentative pour le retenir, Nils s'envole avec lui.

Il traverse ainsi la Suède, visitant ses provinces. Le roman, qui compte cinquante-cinq chapitres, est l'occasion de découvrir les caractéristiques naturelles, les ressources économiques et les contes et légendes des lieux qu'il traverse, ce qui occasionne de nombreuses sous-intrigues.

Tout au long du roman, Nils et les oies sont poursuivis inlassablement par le renard Smirre qui cherche à les dévorer. Nils, quant à lui, se demande comment faire pour lever la malédiction lancée par le tomte. Le garçon s'améliore ainsi peu à peu au fil du voyage, des rencontres et des épreuves qu'il doit traverser.