È sotto il regno di filippo Augusto, nel XII secolo, che il palazzo prenderà il nome di Conciergerie a causa del suo governatore che si chiama così ed il cui ruolo è di svolgere le funzioni di polizia e di giustizia a Parigi.
Alla fine del XIV secolo sarà trasformato in prigione. La storia del palazzo si completerà tragicamente per i re della Francia poiché è qui che il terrore rivoluzionario fu più violento, e che furono rinchiusi Maria Antoinetta ed i suoi figli.
Ad oggi la prigione che ha accolto i prigionieri fra i più famosi del regno della Francia si visita tutti i giorni dell'anno. Si possono scoprire con stupore le alte cantine incurvate di stile gotico e gli interni affasciananti di storia e architettura.