Józef Elsner był przedsiębiorcą budowlanym. Mieszkał w Krakowie, przy ulicy Długiej 27 i tam też prowadził biuro swojej firmy „Zakłady Wapienne J. Elsner”, zlokalizowanej w Zabierzowie. Jego pierwsza żona była Żydówką. Po wybuchu wojny pomógł jej, a także wielu innym osobom żydowskiego pochodzenia.
Pomocy udzielał, zatrudniając Żydów w swoim zakładzie budowlanym. Zgodnie z niemieckimi rozporządzeniami, organizował pracownikom Arbeitskarte, czyli oficjalne zaświadczenie pracy, a tym, którzy mieszkali w getcie krakowskim, także przepustki umożliwiające opuszczanie dzielnicy zamkniętej. Dokumenty te mogły ochronić w trakcie łapanki lub przed deportacją do obozu zagłady. Jedynie część z przyjętych do pracy osób była rzeczywiście odpowiednio wykwalifikowana.
Inżynier Tadeusz Jeleński, znajomy Elsnera jeszcze sprzed wojny, w trakcie jego powojennego procesu zeznawał: „Uważam go za człowieka, który w bezczelnie odważny sposób wykorzystywał sytuację w czasie okupacji, dla ochrony swoich pracowników i polskich współobywateli przed szykanami władz niemieckich”. Jednym z zatrudnionych w przedsiębiorstwie Żydów był Edmund Kusmer. Przychodził do fabryki z getta krakowskiego. Mężczyzna zginął w trakcie akcji likwidacyjnej tej dzielnicy, przeprowadzonej w marcu 1943 roku. Jego żona Laura oraz córka trafiły do niemieckiego obozu pracy Płaszów, dokąd Elsner dostarczał im lekarstwa i inną pomoc materialną.
Szczególną opiekę Elsner roztoczył nad pierwszą żoną, którą ukrywał w swoim mieszkaniu do końca okupacji. Paulina Taubenschlagowa, jedna z ocalałych z Zagłady Żydówek z Krakowa, wspominała: „Cieszył się zawsze opinią człowieka prawego, dobrego, szlachetnego i wielkiego patrioty polskiego. W czasie okupacji nie szczędził środków pomocy ludziom prześladowanym przez okupanta. Chronił do ostatniej chwili życia żonę swoją przed gestapowcami, którzy chcieli ją zabić jako Żydówkę. Wszystkim było wiadomo, jaką walkę staczał ob. Elsner w obronie jej życia”. Choć wcześniej nie znali się dobrze, pomagał materialnie i moralnie także synowi Pauliny Taubenschlagowej, który ukrywał się w Krakowie. „W Elsnerze znalazłem nie tylko przyjaciela ale i ojca”, opisał Józefa w jednym z listów do matki.
Józef pomagał też innym ukrywającym się po tzw. aryjskiej stronie w Krakowie: Edwardowi Frydlenderowi czy córkom Adeli Ehrlich, które przez krótki czas u niego mieszkały. Pomagał znaleźć Żydom schronienie, dostarczał jedzenie, a także przechowywał powierzony mu majątek (np. meble osób przesiedlonych z Krakowa w 1941 roku i kosztowności Sydonii Freundlich), który po zakończeniu okupacji zwrócił.
Po wojnie Elsner, jako właściciel fabryki, był podejrzany o współpracę z Niemcami i sądzony z tzw. dekretu sierpniowego (Dekret z dnia 31 sierpnia 1944 roku o wymiarze kary dla faszystowsko-hitlerowskich zbrodniarzy winnych zabójstw i znęcania się nad ludnością cywilną i jeńcami oraz dla zdrajców Narodu Polskiego). Mimo wielu pozytywnych świadectw złożonych przez osoby, którym w czasie okupacji pomagał, zarówno Polaków, jak i Żydów, nie doczekał się rehabilitacji. Zmarł zamęczony w więzieniu w 1951 roku.
1 września 1992 r. Józef Elsner został uhonorowany tytułem Sprawiedliwego wśród Narodów Świata.