Conrad, Józef Teodor Konrad Korzeniowski adıyla Ukrayna'nın Berdychiv (eski adı Berdyczów) adlı şehrinde, son derece yurtsever bir Polonyalı asil ailede (Nałęcz hanedanı soyundan) doğdu.
Conrad'ın bir yazar (en çok milliyetçi tragedyalarıyla tanınır) ve Fransızca ile İngilizce çevirmeni olan babası, Çarlık Rusya'ya karşı 1863 isyanlarına destek veren eylemleri nedeniyle Varşova'da Rus yetkililerce tutuklanmış ve Sibirya'ya sürülmüştü. Annesi veremden 1865'de, babası da dört sene sonra Krakov'da vefat etti; böylece Conrad on bir yaşında öksüz kalmış oldu.Ebeveynlerinin ölümünü takiben, Krakov'da yaşayan dayısı Tadeusz Bobrowski'nin himayesine verildi.