Triobiuose (taip tada vadinosi Kalvarija) 1705 m. pastatyta bažnyčia (rūpinosi kunigas Jonas Sabaliauskas). 1708 m. miestelyje skirti 4 sklypai: mokytojui, mokyklai, prieglaudai ir vargonininkui. Vėliau klebonijai išlaikyti paskirti 3 valakai žemės. Parapijos reikalams 1721 m. atiduotas Menkupių kaimas. 1728 m. įkurta parapija. Apie 1770 m. kunigas Petras Vimboras bažnyčią pailgino – pristatė 2 bokštus ir prieangį. XVIII a. pab.-XIX a. antrojoje pusėje veikė parapinė mokykla. 1818 m. audra apgriovė bažnyčią.
1838–1840 m. pastatyta dabartinė mūrinė bažnyčia. Ją 1843 m. konsekravo vyskupas Povilas Strašinskis. Iš senosios bažnyčios medžiagos 1838 m. pastatyta klebonija. 1902 m. bažnyčia paplatinta, pristatytos šoninės navos, bokštai. Nuo 1906 m. kas antrą sekmadienį bažnyčioje pradėta giedoti lietuviškai. Lenkiškai kalbantys miestelėnai nuolat trukdė, kėlė riaušes, nuo 1907 m. liovėsi. 1906 m. įsikūrė „Žiburio“ draugijos skyrius. 1907 m. įkurta biblioteka – skaitykla. 1908 m. pradžioje įsteigta „Žiburio“ pradžios mokykla. Žiburiečiai Kalvarijoje rengdavo viešus lietuviškus vakarus su vaidinimais.