En 539 avant J.-C., l'Empire néo-babylonien est tombé aux mains de Cyrus le Grand, roi de Perse, lors de la bataille d'Opis. Les murs de Babylone étaient très hauts et très épais. La seule façon d'entrer dans la ville était par l'une de ses nombreuses portes. L'Euphrate coulait à côté des murailles et Cyrus décida d'utiliser le fleuve pour entrer dans la ville. Les troupes de Cyrus détournèrent le fleuve Euphrate. Le niveau du fleuve a alors baissé, permettant aux soldats d'entrer dans la ville.
Les Babyloniens avaient organisé une fête ce soir-là. L'armée perse s'est emparée de la plus grande partie de la ville avant que les Babyloniens ne se rendent compte que les Perses étaient entrés dans la ville. Le récit a été rapporté par Hérodote, et est également mentionné dans la Bible hébraïque. Cyrus a revendiqué la ville en franchissant les portes de Babylone avec peu ou pas de résistance de la part des Babyloniens ivres.
Cyrus a ensuite publié un décret permettant aux gens, y compris aux Juifs, de retourner sur leur propre terre. Ceci est mentionné dans l'Ancien Testament. Il a permis la reconstruction du temple des Juifs à Jérusalem.
Sous Cyrus et le roi persan suivant Darius le Grand, Babylone est devenue la capitale du 9ème Satrapy (Babylone au sud et Athura au nord). C'était un centre d'apprentissage et de progrès scientifique. Dans la Perse achéménide, les arts babyloniens de l'astronomie et des mathématiques ont été revitalisés. Les érudits babyloniens dressent des cartes des constellations. La ville était la capitale administrative de l'Empire perse. Cet empire était le plus puissant du monde connu à l'époque. De nombreuses découvertes archéologiques importantes ont été faites qui améliorent notre compréhension de cette époque.
Les premiers rois perses avaient essayé de conserver les cérémonies religieuses de Mardouk. Sous le règne de Darius III, la surimposition et les nombreuses guerres avaient entraîné une détérioration des principaux sanctuaires et canaux de Babylone, et la désintégration de la région. Malgré trois rébellions en 522 avant J.-C., 521 avant J.-C. et 482 avant J.-C., le pays et la ville de Babylone sont restés sous la domination perse pendant deux siècles. En 331 avant J.-C., Alexandre le Grand prit le pouvoir. Sous l'empire parthe, Babylone a continué à se rétrécir et à perdre de l'importance.