Karolus lahir 2 Oktober 1538 di kastil megah Aron Novara, Italia. Ayahnya adalah seorang Count of Arona bernama Gilberto Borromeo dan ibunya bernama Margherita de’ Medici. Sejak kecil, ia sudah bercita-cita ingin menjadi seorang biarawan. Selama bersekolah, Karolus adalah seorang yang lamban, tidak lancar berbicara tetapi sangat tekun, sehingga ia memperoleh kemajuan yang membanggakan.
Di Usianya 22 tahun, pamannya yang bernama Paus Pius IV, memanggilnya untuk suatu tugas di Roma. Tanggal 31 Januari 1560, Karolus diangkat sebagai kardinal dan pada 7 Februari 1560 ia ditunjuk menjadi Administrator Keuskupan Milan. Ia ditahbiskan menjadi diakon pada 21 Desember 1560 dan ditahbiskan menjadi imam pada tanggal 4 September 1563. Lalu, Karolus juga ditahbiskan menjadi uskup pada 7 Desember 1563. Selain itu, ia juga menjabat sebagai Sekretaris Negara Vatikan dan menjadi anggota Kuria Romana. Tugas utamanya adalah mengurus permasalahan gereja yang paling penting, diantaranya adalah Kontra-Reformasi, dimana ia bertanggung jawab untuk reformasi internal gereja yang signifikan dalam tubuh Gereja Katolik, termasuk pendirian seminari-seminari untuk meningkatkan mutu pendidikan para imam.
Di Milan, Uskup Karolus menjadi teladan umatnya dan menyumbangkan sejumlah uang untuk para kaum miskin. Peraturan-peraturan yang dibuatnya dengan bijaksana, lemah lembut dan penuh kasih sayang serta teladan hidupnya yang mengagumkan, telah menjadikan keuskupannya teladan Reformasi Gereja. Setiap kata-kata yang diucapkannya itu sangat berwibawa dan membawa pengaruh yang besar bagi semua orang.
Ketika Milan dilanda wabah yang ganas, Uskup Karolus bersama kelompok yang dia didirikan, membagikan makanan bagi mereka yang kelaparan. Ia bahkan mendirikan altar di jalan agar orang-orang yang sakit dan sekarat dapat ikut ambil bagian dalam Perayaan Ekaristi lewat jendela rumah mereka.
Uskup Karolus meninggal dunia 3 November 1584 di usianya yang ke 46 tahun. Kemudian, ia dibeatifikasi tahun 1602 oleh Paus Klemens VIII dan dikanonisasi 1 November 1610 oleh Paus Paulus V.
