Po zlikwidowaniu FUKR w marcu 1944 r. Przełożony Starszeństwa powołał swego brata do Biura Przełożonego Starszeństwa Żydów, gdzie razem z M. Rosenblattem i kilku byłymi urzędnikami zlikwidowanej FUKR pracował w bezpośredniej bliskości Prezesa. Referat kierowany przez Rumkowskiego zajmował się głównie kontrolowaniem dodatkowych przydziałów zupy oraz dodatkowych przydziałów żywności, które zostały wprowadzone przez Prezesa w końcu kwietnia 1944 r. zamiast różnych talonów B.
Z żoną Heleną mieszkał przed wojną przy ul. Kilińskiego 105, natomiast w getcie przy ul. Łagiewnickiej 34 oraz 63. Posiadał również mieszkanie na Marysinie.
W sierpniu 1944 r. wywieziony z żoną i bratem do obozu w Auschwitz i tam zamordowany.