La prison a été construite en 1876. Au début, elle n'était utilisée que pour les soldats, mais après 1919, elle a également été utilisée pour les détenus civils. Elle pouvait accueillir jusqu'à 600 détenus à l'époque.
Au lendemain de l'incendie du Reichstag en 1933, des opposants à Hitler et des journalistes tels qu'Egon Kisch et Carl von Ossietzky y ont été placés en détention préventive. La prison de Spandau est devenue une sorte de prédécesseur des camps de concentration nazis. Elle était censée être contrôlée par le ministère de la Justice de la Prusse, mais la Gestapo torturait et maltraitait ses détenus, comme le rappelle Egon Erwin Kisch dans ses souvenirs de la prison de Spandau. À la fin de 1933, les premiers camps de concentration nazis avaient été construits (à Dachau, Osthofen, Oranienburg, Sonnenburg, Lichtenburg et les camps de marais autour d'Esterwegen). Tous les prisonniers restants en "détention préventive" dans les prisons d'État ont été transférés dans ces camps de concentration.
Après la Seconde Guerre mondiale, il a été exploité par les autorités des quatre puissances pour héberger les criminels de guerre nazis condamnés à l'emprisonnement lors des procès de Nuremberg.
Seuls sept prisonniers y furent finalement emprisonnés. Ils arrivèrent de Nuremberg le 18 juillet 1947 :
- Rudolf Hess - purgeant une peine de prison à vie (mort en 1987)
- Walther Funk - purgeant une peine de prison à vie (libéré le 16 mai 1957)
- Erich Raeder - purgeant une peine de prison à vie (libéré en 1955)
- Albert Speer - purgeant une peine de 20 ans (libéré en 1966)
- Baldur von Schirach - purgeant une peine de 20 ans (libéré en 1966)
- Konstantin von Neurath - purgeant une peine de 15 ans (libéré en 1954)
- Karl Dönitz - purgeant une peine de 10 ans (libéré en 1956)
Sur les sept, quatre seulement ont purgé la totalité de leur peine ; les trois autres, Neurath, Raeder et Funk, ont été libérés plus tôt pour des raisons de santé. Entre 1966 et 1987, Rudolf Hess était le seul détenu de la prison de Spandau. Son seul compagnon était le directeur, Eugene K. Bird, qui est devenu un ami proche. Bird a écrit un livre sur l'emprisonnement de Hess, intitulé L'homme le plus seul au monde.
Spandau était l'une des deux seules organisations des Quatre Puissances à continuer à fonctionner après l'effondrement du Conseil de contrôle allié ; l'autre étant le Centre de sécurité aérienne de Berlin. Les quatre puissances occupantes de Berlin allaient alterner le contrôle de la prison sur une base mensuelle, chacune ayant la responsabilité d'un total de trois mois sur l'année.
La prison a été démolie en 1987, en grande partie pour l'empêcher de devenir un sanctuaire néo-nazi, après la mort du dernier prisonnier restant, Rudolf Hess, qui avait été le seul occupant de la prison après la libération de Speer et von Schirach en 1966. Le site a été transformé en un parking et un centre commercial NAAFI, appelé The Britannia Centre Spandau et surnommé Hessco's d'après une chaîne de supermarchés britannique appelée "TESCO". Tous les matériaux de la prison démolie ont été réduits en poudre et déversés dans la mer du Nord ou enterrés dans l'ancienne RAF Gatow.
En 2006, un supermarché Kaiser's, ALDI et un magasin d'électronique grand public Media Markt ont occupé les anciens terrains de la prison. Fin 2008, Media Markt a quitté le principal complexe commercial.