Le jeu se déroule dans le même monde fictif que le reste de la série Halo. Une grande partie du jeu se déroule dans le futur, en 2552, soit dans plus de 500 ans. Dans l'histoire, les humains se sont développés plus vite que la lumière et vivent maintenant sur de nombreuses planètes et lunes du système solaire. Lors de la première tentative de l'humanité pour construire une colonie sur une planète autour d'une autre étoile, ils ont rencontré l'Alliance des extraterrestres. Ce pacte a déclaré une guerre religieuse à l'humanité. Au début de Halo 2, les humains perdent la guerre et la Convention vient de découvrir la Terre.
Le halo du titre du jeu est le nom d'une série de planètes "construites" par une mystérieuse race appelée les Précurseurs bien avant le jeu. Les Halos sont la dernière défense contre une autre race extraterrestre connue sous le nom de Déluge. Le Déluge veut utiliser tous les êtres vivants de la galaxie pour se nourrir. Les Halo sont en fait des super-armes géantes qui, lorsqu'elles sont activées, tuent toute vie dans la galaxie. C'est la seule façon d'arrêter le Déluge, de les affamer en tuant toute leur nourriture. Le Covenant n'en est pas conscient et tente de tirer des Halos dans le cadre d'une fausse prophétie religieuse. Dans le premier jeu Halo, Halo : Combat Evolved, les humains et le Master Chief parviennent à empêcher le Covenant de tirer sur l'un des Halos. Ils détruisent également l'un d'entre eux dans le processus. Juste avant le début de Halo 2, l'alliance découvre un autre Halo qui ne peut être obtenu que par un portail trouvé près de la Terre.
Plot
Le jeu s'ouvre sur la torture d'un extraterrestre, le chef des Elites. Il est torturé par l'alliance parce qu'il n'a pas réussi à empêcher le Maître Chef de détruire le premier Halo du jeu original. Le commandant des Elites est marqué au fer rouge par le chef des Brutes, une autre partie de l'Alliance. Le joueur prend alors le contrôle de Master Chief, à bord d'un vaisseau spatial en orbite autour de la Terre lorsque l'énorme flotte de la Convention arrive. La Convention est venue prendre le portail qui lui permettra d'accéder au nouveau Halo pour pouvoir le faire feu. La Convention monte à bord du vaisseau à bord duquel se trouve le joueur et tente de poser des bombes pour le mettre hors d'état de nuire, ainsi que les autres vaisseaux de la flotte humaine. Le joueur doit se battre à travers les forces de la Convention pour neutraliser les bombes. Une fois cela fait, le vaisseau humain s'en va, en suivant le vaisseau amiral de la Convention qui vient de passer. Pendant ce temps, dans la scène de coupe, nous voyons l'ancien commandant d'élite se transformer en guerrier religieux connu sous le nom d'Arbitre pour compenser son échec à arrêter le Master Chief dans le Halo original.
Dans une autre scène de coupe, un navire humain avec à son bord le Master Chief, Johnson et Cortana, suit le navire de l'alliance à travers le portail vers la nouvelle Halo. Le joueur doit maintenant prendre le contrôle de Chief alors qu'il se bat pour empêcher le Covenant de tirer sur l'anneau. Finalement, le joueur tue le Prophète du regret, un chef de la Convention, et empêche le Halo de tirer. Malheureusement, avant que le joueur ne puisse récupérer l'Index, le contrôle de tir du Halo, ils sont capturés par le chef du Déluge, connu sous le nom de Gravemind. Dans une scène de coupe, nous voyons le nouvel Arbitre envoyé au Halo pour récupérer l'Index avant que le chef ne puisse le détruire. Mais lorsqu'il arrive, lui et ses partisans sont trahis et leurs anciens alliés commencent à attaquer. Ici, le joueur doit contrôler Arbiter et ses partisans alors qu'ils tentent d'échapper à la trahison et à l'embuscade. L'Arbitre est finalement capturé par l'Esprit du Grave et rencontre le Maître Chef. Les deux hommes se libèrent de Gravemind, dont les partisans du déluge ont maintenant pris le contrôle d'un énorme vaisseau de la Convention appelé High Charity. L'Arbitre et le Chef, à nouveau contrôlés par le joueur, font la course jusqu'au contrôle du Halo pour empêcher la Convention de tirer une dernière fois sur l'anneau. Ils réussissent à arrêter le Covenant, mais le Prophète de la Vérité, le dernier de leurs chefs, s'échappe à bord d'un vaisseau spatial indemne. Cortana, la compagne de l'IA des chefs, reste sur le Halo, promettant de le détruire si jamais un des Covenant revient. Le chef et l'Arbitre se séparent. Le chef se cache sur un vaisseau de la Convention en fuite et l'Arbitre et ses disciples retournent à la Haute Charité pour tenter de la sauver du déluge.