Broom a d'abord été connu pour son étude des reptiles ressemblant aux mammifères. Après la découverte par Raymond Dart de l'enfant Taung, un bébé australopithèque, l'intérêt de Broom pour la paléoanthropologie s'est accru. La carrière de Broom semblait terminée et il s'enfonçait dans la pauvreté, lorsque Dart écrivit à Jan Smuts à propos de la situation. Smuts fait pression sur le gouvernement sud-africain, et parvient à obtenir un poste pour Broom. En 1934, il rejoint le personnel du musée du Transvaal à Pretoria en tant qu'assistant en paléontologie.
Dans les années qui ont suivi, John T. Robinson et lui ont fait une série de découvertes spectaculaires, dont des fragments de six hominidés à Sterkfontein, qu'ils ont appelés Plesianthropus transvaalensis, mais qui a ensuite été classé comme un Australopithecus africanus adulte, ainsi que d'autres découvertes sur des sites à Kromdraai et Swartkrans.
En 1937, Broom a fait sa plus célèbre découverte de Paranthropus robustus. Ces découvertes ont contribué à étayer les revendications de Dart sur l'espèce Taung.
Le reste de la carrière de Broom a été consacré à l'exploration de ces sites et à l'interprétation des nombreux restes d'hominidés primitifs qui y ont été découverts. Pour son volume, The South Africa fossil ape-men, the Australopithecinae, dans lequel il propose la sous-famille des Australopithecinae, Broom a reçu la médaille Daniel Giraud Elliot de l'Académie nationale des sciences en 1946. Il a continué d'écrire jusqu'à la fin. Peu avant sa mort, il termine une monographie sur les Australopithèques et en fait la remarque à son neveu :
"C'est fini... et moi aussi".