La découverte de l'électron par J. J. Thomson a été le premier signe que l'atome avait une structure interne. Au début du XXe siècle, le modèle accepté de l'atome était celui du "plum pudding" de J. J. Thomson, dans lequel l'atome était une grosse boule chargée positivement dans laquelle étaient incorporés de petits électrons chargés négativement. Au tournant du siècle, les physiciens avaient également découvert trois types de rayonnements provenant des atomes, qu'ils ont nommés rayonnements alpha, bêta et gamma. Des expériences menées en 1911 par Lise Meitner et Otto Hahn, et par James Chadwick en 1914 ont permis de découvrir que le spectre de décroissance bêta était continu plutôt que discret. En d'autres termes, les électrons étaient éjectés de l'atome avec une gamme d'énergies, plutôt que les quantités discrètes d'énergies observées dans les désintégrations gamma et alpha. C'était un problème pour la physique nucléaire à l'époque, car cela indiquait que l'énergie n'était pas conservée dans ces désintégrations. Le problème a conduit plus tard à la découverte du neutrino (voir ci-dessous).
En 1906, Ernest Rutherford a publié "Radiation of the α Particle from Radium in passing through Matter". Geiger a développé ce travail dans une communication à la Royal Society avec des expériences que lui et Rutherford avaient faites en faisant passer des particules de α à travers l'air, du papier d'aluminium et du papier d'or. D'autres travaux ont été publiés en 1909 par Geiger et Marsden, et d'autres travaux plus approfondis ont été publiés en 1910 par Geiger. En 1911-2, Rutherford s'est présenté devant la Royal Society pour expliquer les expériences et proposer la nouvelle théorie du noyau atomique telle que nous la comprenons aujourd'hui.
À peu près à la même époque (1909), Ernest Rutherford a réalisé une expérience remarquable dans laquelle Hans Geiger et Ernest Marsden, sous sa supervision, ont tiré des particules alpha (noyaux d'hélium) sur une fine pellicule de feuille d'or. Le modèle du plum-pudding prévoyait que les particules alpha devaient sortir de la feuille avec leurs trajectoires au plus légèrement courbées. Il a été choqué de découvrir que quelques particules étaient dispersées à travers de grands angles, voire complètement en arrière dans certains cas. Cette découverte, qui a commencé par l'analyse des données de Rutherford en 1911, a finalement conduit au modèle de l'atome de Rutherford, dans lequel l'atome a un noyau très petit et très dense composé de particules lourdes chargées positivement avec des électrons incorporés afin d'équilibrer la charge. Par exemple, dans ce modèle, l'azote 14 était constitué d'un noyau avec 14 protons et 7 électrons, et le noyau était entouré de 7 autres électrons en orbite.
Le modèle de Rutherford fonctionnait assez bien jusqu'à ce que des études sur le spin nucléaire soient menées par Franco Rasetti au California Institute of Technology en 1929. En 1925, on savait que les protons et les électrons avaient un spin de 1/2, et dans le modèle Rutherford de l'azote 14, les 14 protons et six des électrons auraient dû s'associer pour annuler le spin de l'autre, et le dernier électron aurait dû quitter le noyau avec un spin de 1/2. Rasetti a cependant découvert que l'azote 14 a un spin de un.
En 1930, Wolfgang Pauli n'a pas pu assister à une réunion à Tübingen et a envoyé à la place une lettre célèbre avec l'introduction classique "Chers Radioactifs, Mesdames et Messieurs". Dans sa lettre, Pauli suggérait qu'il y avait peut-être une troisième particule dans le noyau qu'il appelait "neutron". Il suggérait qu'il était très léger (plus léger qu'un électron), qu'il n'avait pas de charge et qu'il n'interagissait pas facilement avec la matière (c'est pourquoi il n'avait pas encore été détecté). Cette solution désespérée a permis de résoudre à la fois le problème de la conservation de l'énergie et celui du spin de l'azote 14, le premier parce que le "neutron" de Pauli emportait l'énergie supplémentaire et le second parce qu'un "neutron" supplémentaire s'associait à l'électron dans le noyau de l'azote 14 pour lui donner un spin. Le "neutron" de Pauli a été rebaptisé "neutrino" (petit neutre en italien) par Enrico Fermi en 1931, et après une trentaine d'années, il a finalement été démontré qu'un neutrino est réellement émis lors de la désintégration bêta.
En 1932, Chadwick a réalisé que les radiations observées par Walther Bothe, Herbert L. Becker, Irène et Frédéric Joliot-Curie étaient en fait dues à une particule massive qu'il a appelée le neutron. La même année, Dmitri Ivanenko a suggéré que les neutrons étaient en fait des particules de spin 1/2 et que le noyau contenait des neutrons et qu'il n'y avait pas d'électrons dedans, et Francis Perrin a suggéré que les neutrinos n'étaient pas des particules nucléaires mais étaient créés lors de la désintégration bêta. Pour couronner l'année, Fermi a soumis à Nature une théorie du neutrino (que la rédaction a rejetée car trop éloignée de la réalité). Fermi a continué à travailler sur sa théorie et a publié un article en 1934 qui a placé le neutrino sur une base théorique solide. La même année, Hideki Yukawa propose la première théorie significative de la force forte pour expliquer comment le noyau tient ensemble.
Avec les papiers de Fermi et Yukawa, le modèle moderne de l'atome était complet. Le centre de l'atome contient une boule serrée de neutrons et de protons, qui est maintenue ensemble par la forte force nucléaire. Les noyaux instables peuvent subir une désintégration alpha, dans laquelle ils émettent un noyau d'hélium énergétique, ou une désintégration bêta, dans laquelle ils éjectent un électron (ou un positon). Après une de ces désintégrations, le noyau résultant peut être laissé dans un état excité, et dans ce cas, il se désintègre jusqu'à son état fondamental en émettant des photons de haute énergie (désintégration gamma).
L'étude des forces nucléaires fortes et faibles a conduit les physiciens à faire entrer en collision des noyaux et des électrons à des énergies toujours plus élevées. Cette recherche est devenue la science de la physique des particules, dont la plus importante est le modèle standard de la physique des particules qui unifie les forces fortes, faibles et électromagnétiques.