Zarasai 1387–1795 m. buvo Vilniaus vyskupo valda. 1508 m. minima bažnyčia. 1522 m. patvirtinta Zarasų altarijos rundacija. Klebonui 1530 m. dovanotas palivarkas ir 12 valstiečių kiemų. 1610 m. pastatyta nauja medinė bažnyčia. 1655 m. sudegė, iki 1674 m. atstatyta.
1702 m. sudegė klebonija su bažnyčios archyvu. Nuo 1777 m. minima parapinė mokykla. Sena medinė bažnyčia buvo begriūvanti, todėl 1837 m. joje uždraustos pamaldos. Pastatyta laikina stoginė buvo neišvaizdi. Vyskupas Motiejus Valančius 1851 m. įsakė ją nugriauti ir pastatyti kitą laikiną bažnyčią.
Upytės apskrities matininkas Fiodorovas 1837 m. parengė mūrinės bažnyčios projektą, bet jį reikėjo perdaryti. Caras jo vardu pavadinto apskrities miesto (Zarasai 1836–1918 m. oficialiai vadinti Novoaleksandovsku) bažnyčios statybai leido skirti paskolą. 1840 m. paimta 4000, 1843 m. – 6000 rublių. Iš bažnyčios skirtų medžiagų klebonas Aleksandras Stanevičius pastatė malūną ir alaus daryklą. Išmūrijus bažnyčios pamatus ir 3 sienas iki langų, 1844 m. darbai sustojo, nes pritrūko lėšų. 1849 m. parengtas naujas bažnyčios projektas. Paaiškėjo, kad bažnyčia pradėta statyti iš netinkamų plytų.
1862 m. bažnyčia pastatyta. Joje 1869 m. atsirado 12 plyšių. Sienų trūkinėjimo priežastis 1874 m. nustatinėjo architektas Ustinas Golinevičius. Klebono Prano Stašausko rūpesčiu bažnyčia 1878 m. suremontuota: mediniai pamatai pakeisti mūriniais, suveržtos sienos ir bokštai, užtaisyti plyšiai, išdažytas vidus. 1906 m. bažnyčią konsekravo vyskupas Gasparas Cirtautas. Už palankumą 1863 m. sukilėliams klebonai J. Narkevičius ir Mykolas Skorupskis (pastarasis bažnyčioje panaikino lietuviškas giesmes ir lietuviškus pamokslus) ištremti į Sibirą. Klebonas kanauninkas Juozas Mazūras 1935 m. bažnyčią suremontavo ir nudažė.
1941 m. birželio 24 d. raudonarmiečiai apšaudė bažnyčią ir sužalojo jos bokštą. Klebonas Stasys Baltrimas suimtas ir išvežtas; dingo be žinios. 1941–1945 m. klebonavęs Jonas Nagulevičius (1900–1992) suremontavo bažnyčią, atstatė ūkinius trobesius, pastatė prieglaudą. Klebonas Stanislovas Krištanaitis (1912–1980) 1950–1956 m. kalintas.