Apie 1600 m. dvarininkas Vaitiekus Gintautas pastatė medinę bažnyčią. 1614 m. jai dovanoti 6 valakai Gražiškių kaimo žemės, malūnas su tvenkiniu ir Sebastijoniškių, arba Gražupio, palivarkas su 3 valakais žemės. 1623 m. minima parapinė mokykla (1781 m. atkurta). Po 1745 m. pastatyta nauja medinė bažnyčia (konsekravo Vygrių vyskupas Mykolas Pranciškus Karpavičius). Sunykusi bažnyčia 1865 m. nugriauta, iš Šunskų atvežta ir pastatyta laikina.
1877–1881 m. pastatyta dabartinė mūrinė bažnyčia. Ją 1886 m. konsekravo pavyskupis Juozapas Olekas. Bažnyčios vidų išpuošė kunigas Jokūbas Rutkauskas. 1894 m. sudegė klebonija. 1900 m. bažnyčia remontuota, išdažyta. 1907 m. įsikūręs „Žiburio“ draugijos skyrius (pirmininkas kunigas P. Abromavičius) įsteigė biblioteką – skaityklą. 1925 m. įkurta pavasarininkų biblioteka – skaitykla. 1969 m. klebonas Vytautas Vaitauskas suremontavo bažnyčią ir kleboniją.
Nors dabartinė mūrinė bažnyčia pastatyta vėliau, senesnės medinės bažnyčios turėjo savo sakralinę reikšmę bendruomenei. Manoma, kad pirmoji bažnyčia galėjo turėti paprastesnį, bet širdžiai artimą medinį altorių, kuris liudijo tikinčiųjų pamaldumą.
Ypatingą dėmesį verta skirti kunigui Jokūbui Rutkauskui, kuris rūpinosi bažnyčios vidaus puošyba. Tokie žmonės, per meną ir grožį, padėdavo tikintiesiems geriau pajusti Dievo buvimą. Jų darbai nebuvo tik dekoravimas, bet ir būdas įkvėpti pamaldumą.
Bibliotekų įsteigimas, ypač „Žiburio“ draugijos dėka, rodo, kad šventovė buvo ne tik maldos namai, bet ir šviesos bei žinių centras. Tikėjimas ir mokslas ėjo kartu, padėdami žmonėms augti tiek dvasiškai, tiek protiškai. Tai buvo gyva bendruomenės širdis.