Zostało powołane przez Przełożonego Starszeństwa Żydów 20 października 1940 r., prawdopodobnie z polecenia władz niemieckich. Pierwszym naczelnikiem więzienia (Vorsteher das Zentralgefängnises) został Salomon Hercberg, pełniący tę funkcję do 13 marca 1942 r., kiedy to aresztowała go niemiecka Policja Kryminalna i natychmiast został deportowany z getta. W okresie od 13 marca do 19 kwietnia 1942 r. funkcję naczelnika pełnił tymczasowo kierownik IV Rewiru Służby Porządkowej   Salomon Gepner. Następnie więzieniem kierowali wspólnie prokurator dr Isidor Schletter i aspirant Stanisław Król; tego drugiego po śmierci zastąpił 20 grudnia 1942 r. inż. Julian Grossbart, na którego miejsce 5 kwietnia 1943 r. został powołany Josef Kohl (Koll).

Formalnie nadzór nad więzieniem pełnił przewodniczący Sądu Stanisław Jakobson oraz naczelny prokurator  dr Meir Ber Kitz. W kwietniu 1943 r. kompetencje tych dwóch instytucji w materii nadzoru zostały ograniczone na rzecz Służby Porządkowej.

Siedziba więzienia mieściła się na Marysinie przy ul. Czarnieckiego 14 i była odgrodzona od ulicy oraz pobliskich posesji murem, a miejscami parkanem wysokości 2,5 m, zwieńczonym drutem kolczastym. Do więzienia prowadziły dwa wejścia przeznaczone dla pieszych (furta w murze) oraz główna brama wjazdowa od ul. Czarnieckiego strzeżone przez wartowników. Kompleks składał się z co najmniej czternastu budynków, w tym czterech murowanych. W jego ramach funkcjonowały Oddział I, gdzie przetrzymywano osadzonych, oraz Oddział II (tzw. szary domek), w którym osadzani byli młodociani skazani. Niekiedy w dokumentacji pojawia się również informacją o Oddziale IV, brak jednak wiedzy o jego przeznaczeniu. Na terenie więzienia znajdowały się izba chorych, łaźnia, kotłownia, kuchnia, szkoła dla nieletnich więźniów, kuchnia, izolatka i magazyn  żywności. Więzienie posiadało swój sekretariat, a także pomieszczenie przeznaczone do celów religijnych.

Załoga więzienia składała się ze stałej grupy funkcjonariuszy (rekrutowanych ze Służby Porządkowej) oraz czasowo delegowanych do tego zadania członków tej formacji policyjnej. W momencie uruchomienia więzienia załoga liczyła 29 osób. Zgodnie ze stanem z listopada 1941 r. liczba ta wzrosła do 65 osób. W kwietniu 1942 r. w związku z zakończeniem kolejnej akcji deportacyjnej i niewielką liczbą aresztantów stan załogi zmniejszono do 35 osób. W połowie 1943 r. jej liczebność ponownie wzrosła – do 63 strażników, a w czerwcu 1944 r. osiągnięto poziom 154 zatrudnionych. Załoga pełniła służbę w systemie trzyzmianowym, kontrolując m.in. posterunki wejściowe i kancelarię więzienną. Funkcjonariusze nadzorowali również pracę więźniów w getcie oraz wyładunek i załadunek ludzi i towarów na stacji Radegast. Dodatkowo załoga więzienna brała udział w łapankach dokonywanych na terenie getta. Ich celem było osadzenie w areszcie ukrywających się przestępców bądź – w późniejszym okresie – zapewnienie odpowiedniej liczby osób w transportach do obozów pracy czy zagłady.

Pierwsi więźniowie trafili do więzienia 18 listopada 1940 r. Osadzeni byli nazywani haftlingami (więźniami), które to słowo, pochodzące z języka niemieckiego, wyparło całkowicie słowo „aresztant”. Nosili oni berety z czerwonym lampasem oraz żółte opaski na lewym ramieniu. Obydwa elementy stroju dodatkowo opatrzone były napisem „Häftling des Ältesten der Juden”. Służyły one wyróżnieniu więźniów w trakcie prac wykonywanych poza więzieniem, m.in. na cmentarzu żydowskim, przy wywożeniu fekaliów, rozładunku lub załadunku towarów na bocznicy kolejowej Radegast oraz w resortach pracy. Wykonywane obowiązki, warunki sanitarne oraz głodowe racje żywnościowe wpływały na pogorszenie się stanu zdrowotnego więźniów. Jedynie w pierwszym roku istnienia więzienia zmarło w nim 13 osób, a jedna z więźniarek popełniła samobójstwo. Prokuratura sądu gettowego po przeprowadzeniu dochodzenia ujawniła 8 kwietnia 1941 r. liczbę nieprawidłowości w funkcjonowaniu więzieniami, w tym przyjmowanie przez załogę łapówek, poniżanie i bicie osadzonych oraz stosowanie względem nich tortur. Wskutek tego postępowania funkcję naczelnika rozdzielono na dwie osoby, z których jedną oddelegowano z urzędu prokuratorskiego.

Więzienie pełniło funkcję miejsca odosobnienia dla osób skazanych przez gettowy wymiar sprawiedliwości. W pierwszym roku istnienia placówki przeszło przez nią 2321 osób, w tym 240 kobiet. W tym samym okresie znalazło się w nim również 331 osób, w tym 81 kobiet (części z nich bez wyroków), na bezpośrednie polecenie Mordechaja Chaima Rumkowskiego. Odrębną grupę więźniów stanowiło grono osadzonych na rozkaz tajnej policji niemieckiej, w pierwszym roku było to 59 osób, w tym 19 kobiet, bądź Policji Kryminalnej – w analogicznym czasie 129 osób, w tym 26 kobiet. Aresztanci władz niemieckich nie podlegali okresowym zwolnieniom (np. w związku ze świętami żydowskimi) ani amnestii. Przeciętnie w jednym momencie w więzieniu przebywało ok. 200 osób. Placówka stanowiła też przejściowy punkt zborny dla osób skierowanych do transportów do obozów pracy przymusowej (bądź powracających z pracy poza gettem). W okresach prowadzonych akcji deportacyjnych od stycznia do maja 1942 r. oraz w okresie likwidacji getta latem 1944 r. więzienie pełniło również funkcję miejsca koncentracji dla osób wywożonych do obozów zagłady.

Współcześnie nie istnieją jakiekolwiek zabudowania po dawnym więzieniu, które rozebrano w okresie powojennym w związku z budową osiedla mieszkaniowego.