En 1936, Indiana Jones tente de retrouver l'idole d'or dans la jungle du Pérou. Son guide, Sapito, le trahit et tente de s'emparer de l'idole, mais il est tué dans un des pièges. Après être sorti du temple, Jones trouve son rival Belloq et une douzaine d'autochtones tenant des lances. Jones abandonne l'idole et court vers son avion.
Alors qu'il enseigne au Marshall College, l'armée américaine vient le voir et lui dit que les nazis essaient de trouver l'Arche d'alliance. Jones veut la trouver en premier, alors il se rend dans un bar au Népal. Son ancien professeur, Abner Ravenwood, essayait de trouver l'Arche et a la tête du Bâton de Râ, une pièce importante qui est nécessaire pour la trouver. Sa fille, Marion, tient maintenant le bar d'Abner et elle le frappe au visage parce qu'ils ont eu une histoire d'amour et qu'il s'est enfui. Elle l'accompagne cependant après que le nazi Toht et ses amis aient essayé de récupérer la pièce eux-mêmes.
Jones et Ravenwood s'envolent pour le Caire et recrutent un homme nommé Sallah pour l'aider. Ils commencent à creuser dans la zone où ils pensent qu'elle se trouve. Les nazis capturent Ravenwood et font croire à Jones qu'elle est morte. Sallah et Jones font quelques calculs et se rendent compte que les nazis creusent dans la mauvaise zone parce que leur personnel est trop long. Jones trouve le bon endroit et commence à creuser, le trouvant dans un endroit appelé le Puits des âmes. Cependant, Belloq revient, soulève l'arche et y jette Ravenwood. Ils s'échappent.
Après une bataille, Jones récupère l'Arche. Sallah la met sur un navire, mais les nazis à bord d'un U-boot interceptent le navire et le fouillent. Jones s'échappe. Il prend alors une grosse arme appelée Panzerschreck et menace de faire exploser l'Arche alors qu'elle est en train d'être chargée sur une île. Belloq appelle Jones au bluff, et Jones baisse son arme. Lui et Marion sont alors ligotés alors que Belloq et les nazis testent la puissance de l'Arche en l'ouvrant. Les esprits à l'intérieur tuent tout le monde. Jones et Marion ferment les yeux et échappent à la colère des esprits.
A la fin du film, le gouvernement place l'Arche dans un entrepôt. L'armée dit à Jones qu'ils l'étudient, mais Jones ne les croit pas. Marion essaie de le réconforter en lui disant qu'elle lui offrira un verre.