Yohanes lahir pada tanggal 13 Maret 1599 di Drient, Brabant, Belgia. Ayahnya bekerja sebagai tukang sepatu dan ibunya sering sakit-sakitan. Sejak kecil, Yohanes bergabung dengan teman-temannya untuk memainkan kisah-kisah dari Alkitab.
Diusia 13 tahun, Yohanes sudah memiliki keinginan untuk menjadi imam. Tetapi ayahnya ingin Yohanes melanjutkan usahanya sebagai tukang sepatu. Lambat laun, ayahnya pun luluh dan mengizinkan Yohanes untuk menjadi pesuruh pastoran dan akhirnya Yohanes bisa mengikuti pelajaran di seminari.
Selang 3 tahun kemudian, tepat diusia 16 tahun Yohanes bergabung dengan Serikat Yesus. Ia berdoa, belajar dengan tekun dan mempunyai semangat dalam memainkan peran drama religius. Semasa hidupnya, Yohanes tidak melakukan hal-hal yang besar, namun ia melakukan hal-hal kecil dengan baik dan tulus. Ia memiliki semboyan, “Berilah perhatian besar pada hal-hal kecil.”
Ketika ia jatuh sakit, tidak ada dokter yang bisa mengetahui penyakitnya. Namun, Yohanes tetap riang gembira dan akhirnya ia wafat 12 Agustus 1621 di Roma, Italia diusia 22 tahun. Setelah kematiannya, dilaporkan banyak mujizat yang terjadi dimakamnya. Kebaikan, kesopanan dan kesetiaannya menjadi bagian penting dalam kekudusannya.
Setelah meneliti banyaknya mujizat terjadi lewat perantaraan Yohanes Berchmans, 2.5 abad kemudian, ia dibeatifikasi 28 Mei 1865 oleh Paus Pius IX dan dikanonisasi 15 Januari 1888 oleh Paus Leo XIII.