Arsenius lahir sekitar tahun 350 di Roma, Italia dan berasal dari sebuah keluarga senator Romawi yang beragama Kristen. Ia mendapatkan pendidikan yang baik dalam ilmu retorika dan filsafat. Selain itu, ia juga menguasai bahasa Latin dan Yunani. Setelah orang tuanya meninggal dunia, Arsenius memberikan semua kekayaannya kepada orang miskin dan menjalani hidup sebagai seorang pertapa. Arsenius dikenal karena kebenaran dan kebijaksanaannya.
Kemudian, Arsenius ditahbiskan menjadi diakon oleh Paus Damasus I dan diutus untuk menjadi pengajar bagi putra-putra dari kaisar Bizantium yang bernama Theodosius I pada tahun 383. Arsenius terpilih karena ia menguasai literatur Yunani dan ia pun tiba di Konstantinopel, serta mengajar disana selama 11 tahun.
Suatu hari, ketika Theodosius mengunjungi anak-anaknya di tempat belajar mereka, Theodosius mendapati mereka sedang duduk, sementara Arsenius berbicara dengan mereka sambil berdiri. Hal ini tidak dapat ditolerir olehnya, dan ia meminta Arsenius untuk duduk dan murid-muridnya berdiri. Setibanya di istana, Arsenius diberi tempat tinggal yang megah. Selama Arsenius tinggal di istana kaisar, Tuhan memberinya rahmat di hadapan semua orang, sehingga Arsenius dicintai banyak orang. Arsenius menjalani kehidupan yang mewah di istana, tetapi ia mulai merasakan kecenderungan untuk meninggalkan dunia.
Lalu, Arsenius meninggalkan Konstantinopel dan menuju ke Aleksandria untuk melarikan diri ke padang gurun. Disana, Arsenius bertemu dengan seorang pemimpin dari para biarawan Scetis yang bernama Santo Makarius Agung. Arsenius juga bertemu dengan Santo Makarius Agung yang merekomendasikan dirinya untuk bertemu dengan Santo Yohanes si Kerdil untuk mendampinginya.
Sekitar tahun 400, ia bergabung dengan biarawan gurun di Scetis, Mesir dan ketika Santo Yohanes si Kerdil mengadakan perjamuan makan, ia tidak memperhatikan Arsenius yang sedang berdiri dan mempersilakan yang lain untuk duduk. Ketika perjamuan hampir selesai, Santo Yohanes si Kerdil melemparkan roti ke hadapannya dan mempersilakan Arsenius untuk memakannya apabila ia mau, Arsenius dengan lemah lembut mengambil roti itu dan memakannya sambil duduk di lantai. Merasa senang dengan kerendahan hati Arsenius, Santo Yohanes si Kerdil terus membimbing dan membina Arsenius menjadi seorang biarawan.
Pada tahun 434, Arsenius diusir karena serangan terjadi pada biara dan pertapaan di sana oleh suku Mazi. Lalu, Arsenius pindah ke Troe, dan menghabiskan beberapa waktu di pulau Canopus. Disana ia menghabiskan 15 tahun hidupnya dengan mengembara di padang gurun sebelum kembali ke Troe dan meninggal dunia pada tahun 445 diusia sekitar 95 tahun.
Selama 55 tahun hidup menyendiri, ia selalu berpakaian sederhana sebagai bentuk penghukuman atas dirinya sendiri terhadap kesia-siaannya di dunia. Arsenius mencari keheningan agar bisa menemukan Yesus, sambil tetap memberikan bimbingan rohani dan menyembuhkan berbagai penyakit, bagi mereka yang mencarinya. Arsenius adalah seorang yang terkenal sangat pendiam dan sering berdiam diri, seperti yang dibuktikan oleh pepatahnya: “Berkali-kali saya bertobat karena telah berbicara, tetapi tidak pernah saya bertobat karena telah berdiam diri.”
