В лагере Юнгфернхоф Йосеф Карлебах не изменял своим идеалам. Как мог, он проводил уроки для школьников, доставал свечи для Хануки, находил теплые слова для прощальных молитв. 26 марта 1942 года Карлебах, его жена Лотта, дочери Рут (15 лет), Ноэми (14 лет) и Сара (13 лет) были расстреляны в лесу под Ригой. Спасся лишь маленький Соломон, которого смогли укрыть люди.