Vanaf de bouw in 1919 werd de gevangenis gebruikt voor zogenaamde kleine criminelen. In mei 1940 werden Duitse krijgsgevangenen (als vermeende ("vijfde colonne") er opgesloten.

Na de capitulatie van Nederland werd het Scheveningse huis van bewaring door de Duitsers ingericht als strafgevangenis. In eerste instantie werd het gebruikt om verzetsmensen op te sluiten en te verhoren. De eerste groep verzetsmensen die er werd opgesloten waren begin 1941 leden van de Geuzengroep. Daarna kwam er op 2 april 1941 een groot aantal leden van de Stijkelgroep en vanaf begin juni 1941 een nog groter aantal communisten. Uit deze beginperiode dateert het bekende versje In deze bajes zit geen gajes, maar Hollands glorie potverdorie. Joodse gevangenen werden door leden van de WA en de Duitse bewakers ernstig mishandeld. Communisten werden tijdens de verhoren vaak gemarteld door de Sicherheitsdienst en leden van de Haagse gemeentepolitie, omdat ze zo moeilijk tot spreken te krijgen waren. Er zijn verschillende mensen doodgemarteld of vermoord in het Oranjehotel, zoals Pieter Philippus van den Berg (communist) op 29 augustus 1940, Ko Boezeman (De Geuzen) op 9 januari 1941 en Herman Holstege (communist) op 2 september 1941. Het diende ook als verzamelplaats van Joodse Hagenaars die op transport naar Duitsland werden gesteld. Later kwamen nog veel meer van verzetsactiviteiten verdachte Nederlanders in deze gevangenis terecht. Toen kreeg ze ook de bijnaam 'Oranjehotel'. Er zijn 215 ter dood veroordeelden vanuit het Oranjehotel ter fusillering naar de Waalsdorpervlakte gebracht. In totaal hebben zo'n 28.000 mensen vastgezeten in het Oranjehotel.

Na de oorlog werden er weer veel politieke gevangenen ondergebracht: nu echter van de andere partij. Veel NSB-ers, waaronder Anton Mussert, werden opgesloten in Scheveningen. Ook komt Ernst Knorr hier terug, nu niet als verhoorder maar als gevangene.

Aan de kant van de Van Alkemadelaan is een kleine poort in de buitenmuur. Hier werden de ter dood veroordeelden naar buiten gelaten, om aan de overkant op de Waalsdorpervlakte te worden geëxecuteerd.
Naast het poortje is in 1949 een plaquette geplaatst ter nagedachtenis aan allen die hier weggevoerd werden. De tekst op de plaquette is van oud-gevangene Anthonie Donker en luidt:

1940 - 1945
GEDENK HUN LAATSTE GANG
DOOR DEZE LAGE POORT,
HUN LEVEN
VOOR VRIJHEID EN VOOR RECHT GEGEVEN.
ZET HUN STRIJD VOORT.