Urodził się 27 listopada 1897 r. w Warszawie. Nie miał łatwego dzieciństwa: najpierw zmarło jego rodzeństwo, następnie ojciec. Matka po śmierci męża przeniosła się w strony rodzinne do Nowego Miasta nad Pilicą. Dziadek Józefa Ludwik brał udział w powstaniu styczniowym i został zesłany na Syberię. Za szczery i otwarty patriotyzm Józef zapłacił wysoka cenę – wyrzucono go ze szkoły. Do żadnej w zaborze rosyjskim nie mógł się już dostać. Z pomocą przyszli oo. kapucyni, którzy pomogli 14-letniemu chłopcu i umieścili w szkole księży salezjanów w Oświęcimiu w zaborze austriackim. 15 sierpnia 1917 r. Jarzębowski został przyjęty do mariańskiego nowicjatu w Warszawie na Bielanach. Po złożeniu ślubów młody zakonnik najpierw zdobył maturę, a następnie uczęszczał na wykłady w seminarium warszawskim. Do wybuchu II wojny światowej pracował jako wychowawca w mariańskim gimnazjum na Bielanach.

We wrześniu 1939 r. opuszczając, na rozkaz władz zakonnych, Warszawę trafił do Wilna, gdzie spotkał bł. ks. Michała Sopoćkę, spowiednika św. s. Faustyny Kowalskiej.

Cudem wydostał się parokrotnie z rąk bolszewików, pokonując swój „szlak nadziei” przez Syberię do Władywostoku, skąd dotarł do Japonii. W końcu maja 1941 r. otrzymał wizę amerykańską i udał się do swoich współbraci zakonnych do Waszyngtonu. Po dwóch latach pobytu w Stanach Zjednoczonych wyjechał do Meksyku, aby zająć się wychowaniem polskich sierot. Spędził kolejnych siedem lat w Santa Rosa i Tlalpan. W 1950 r. opuścił Meksyk i wkrótce wyjechał do Anglii. Tam zajął się organizowaniem mariańskiej posługi duszpasterskiej wśród polskich emigrantów. Zmarł 13 września 1964 r. w Szwajcarii podczas rekolekcji.

Zachowany dziennik księdza jest świadectwem trudnej drogi, jaką przebył. Jednak ostatnie jego słowa są pięknym świadectwem wiary i poświęcenia:

Jednym słowem piękne jest życie; piękne, bo Bóg jest dobry, piękne, bo jest cierpienie dla Boga i piękne bo są dusze, które Go miłują więcej i hojniej ode mnie, a są też dusze, z którymi się wspólnie bić w piersi, by wzywać obfitego Jego Miłosierdzia.