Joseph Kalinowski lahir 1 September 1835 di Vilna, Lithuania dan berasal dari keluarga bangsawan katolik yang saleh. Ayahnya bernama Andrew Kalinowski dan ibunya bernama Josepha Poionska Kalinowski. Sejak kecil Joseph dididik dengan sangat baik secara akademik maupun secara rohani di rumahnya sampai berusia 9 tahun. Kemudian, ia melanjutkan pendidikan ditempat dimana ayahnya bekerja sebagai guru matematika. Tahun 1850, Joseph lulus dengan nilai yang sempurna. Disisi lain, Joseph pun sudah merasakan panggilan untuk menjadi imam. Tetapi, ayahnya ingin Joseph menyelesaikan kuliahnya terlebih dahulu.
Pada tahun 1851 Joseph kemudian memilih Institut Agronomi di Hory-Horki. Di sana ia belajar tentang ilmu kimia, pertanian dan perkembang-biakan lebah dan tahun 1853 Joseph pun segera beralih ke Akademi Teknik Militer Rusia Nicholayev di St. Petersburg. Tahun 1856 Joseph lulus dan menyandang pangkat letnan. Walaupun sibuk didunia militer, Joseph masih menyempatkan waktunya untuk mengajar sekolah minggu Katolik.
Dimasa revolusi dan pemberontakan, Joseph menjalani masa hukuman dengan berjalan kaki dan sampai di pertambangan Usolje-Sibirskoje tanggal 15 April 1864. Ia tinggal di sana sampai tahun 1868. Ia kemudian dikirim ke Irkutsk dekat danau Bajkal di daerah perbatasan Mongolia. Di sinilah ia kemudian mengalami perubahan yang sangat besar dalam imannya. Joseph yang senantiasa mewarnai hidupnya dengan doa terus-menerus dan membawa dampak yang baik bagi sesama tawanan di sana. Lambat laun, panggilannya untuk menjadi imam semakin subur dan kuat.
Paggilannya semakin kuat lagi saat ia berkunjung ke Paris untuk menjadi seorang guru. Disana ia bertemu dengan imam Karmel Tak Berkasut, Augustine Mary dari Sakramen Mahakudus. Maka untuk menjawab panggilannya, pada tanggal 15 Juli 1877 Joseph pergi ke Graz untuk menjalani masa novisiat. Saat itu Joseph berusia 42 tahun dan pada tanggal 26 November 1877 ia mendapatkan nama biara yaitu Rafael dari St.Joseph Kalinowski. Kemudian, Rafael ditahbiskan menjadi imam 15 Januari 1882 oleh Uskup Krakow Albin Dunajewski.
Tahun 1883 Rafael menjadi pimpinan biara di Czerna. Selain itu ia juga menjadi anggota dewan propinsi dan pimpinan bagi para suster Karmel tak Berkasut dari biara di Krakow Wesola. Rafael sangat sabar dan bijaksana saat memberikan sakramen tobat kepada para suster Karmel yang ia layani, sehingga ia diberi julukan “Martir Pengakuan Dosa”. Rafael yang begitu bersemangat dalam pengabdian dan pelayanannya itu kemudian juga mendirikan biara-biara Karmel untuk para suster. Atas segala usahanya, pada tahun 1884 sebuah biara Karmel Teresian berdiri di Przemysl dan pada tahun 1888 di Ukraina. Rafael juga mendirikan sebuah biara baru di Wadowice tahun 1892. Selain itu, ia juga membangun sebuah gereja, pusat spiritualitas dan juga menjadi sebuah seminari yang membantu mengembangkan panggilan bagi para kaum muda.
Pada tahun 1904 atas perintah dari superiornya, Rafael mulai menulis riwayat hidupnya. Tanggal 15 November 1907 di Wadowice, Rafael Kalinowski meninggal dunia karena sakit TBC. Ia meninggal dalam keadaan damai dan tenang. Berita tentang kematiannya itu dengan cepat tersebar di mana-mana dan ribuan orang datang untuk menghormati Rafael Kalinowski. Jenazahnya kemudian dipindahkan ke makam biara di Czerna, Krakow.
Rafael Kalinowski divenerasi 11 Oktober 1980 dengan sebutan “Decree of Heroic Virtues”, beatifikasi 22 Juni 1983 dan kanonisasi 17 November 1991 oleh Paus Yohanes Paulus II.