Gregorius lahir pada tahun 669 di Roma, Italia dan berasal dari keluarga bangsawan. Ayahnya bernama Marcellus dan ibunya bernama Honesta. Sejak masih muda, Gregorius telah terlibat dalam urusan gereja. Pada masa kepausan Paus Sergius I, Gregorius bekerja di istana kepausan sebagai bendahara. Kemudian, ia ditugaskan sebagai pustakawan pertama di Tahkta Suci.
Lalu, pada masa kepausan Konstantinus, Gregorius dipilih menjadi sekretaris kepausan. Saat Paus Konstantinus wafat pada 9 Mei 715, Gregorius pun ditahbiskan menjadi Paus yang ke 89 pada tanggal 19 Mei 715. Paus Gregorius melakukan banyak hal yang luar biasa untuk memajukan misi gereja.
Ditahun 716, atas permintaan Raja Theodorus, Paus Gregorius mengirim sebuah degelasi misionaris ke Bavaria untuk menyebarkan ajaran Kristiani dan mendirikan keuskupan disana. Ada 2 Uskup yang telah ia tahbiskan, diantaranya adalah Uskup Santo Corbinianus sebagai Uskup Freising Bavaria dan Uskup Bonafisius sebagai Uskup Jerman pada tahun 722. Kedua uskup inilah yang juga membantu karya Paus Gregorius sampai berhasil membawa semakin banyak lagi orang untuk percaya kepada Tuhan.
Dibalik kesuksesannya, Paus Gregorius juga mengalami tantangan ketika kaum Lombardia datang untuk menguasai Hongaria, Austria dan Italia Utara. Ia membantu secara finansial kepada Raja Yohanes I dari Naples, sehingga Raja Yohanes I berhasil mengusir kaum Lambordia itu dari kawasannya. Ditahun 725, Paus Gregorius juga membantu orang-orang Venesia untuk mengusir kaum Lambordia dari Ravenna. Selain itu, Paus Gregorius juga harus menghadapi konflik dalam gereja yaitu Iconoclasm, dimana adanya hasutan dari kaum muslim yang melarang penghormatan pada gambar-gambar kudus. Konflik ini pun semakin menyebar dengan adanya dukungan dari Kaisar Leo III. Paus Gregorius berusaha membujuk Kaisar Leo III lewat sepucuk surat, agar Kaisar tidak ikut campur masalah gereja dan hanya fokus pada urusan negara.
Ketika terjadi Pertempuran Toulouse antara pasukan muslim dan pasukan Kristen ditahun 721, Paus Gregorius mengirim 3 keranjang roti yang telah diberkati kepada Raja Eudes Agung. Sebelum berperang, Raja Eudes Agung membagi-bagikan roti tersebut kepada semua pasukannya. Pasukan Kristen pun akhirnya memenangi pertempuran Toulouse itu dan tidak ada satupun pasukan yang terluka atau terbunuh.
Paus Gregorius tutup usia 11 Februari 731 dan dimakamkan di Basilika Santo Petrus, Roma.
