Paluknyje 1794 m. pastatyta koplyčia. Paluknio palivarko savininkas Jonas Volfgangas 1829 m. pastatė naują medinę koplyčią. Valdžiai leidus, Mykolas Sadovskis 1904 m. dovanojo Vilniaus vyskupijai šeimyninę Paluknio koplyčią, kitus pastatus ir 2 dešimtines žemės. Koplyčia 1906 m. suremontuota ir padidinta.
1921 m. įkurta parapija. 1926 m. pristatyti bokštai. 1941 m. rugpjūčio 25 d. bažnyčia sudegė. Per gaisrą žuvo nuo 1915 m. klebonavęs Kazimieras Packevičius (1884–1941). 1943 m. pastatyta laikina bažnyčia. 1981 m. rekonstruota: pailginta, paplatinta, pastatytas bokštas.
Įdomu tai, kad dabartinė bažnyčia, nors ir rekonstruota sovietmečiu, išlaikė savo dvasinį tęstinumą per išsaugotus šventųjų paveikslus. Kai kurie iš jų stebuklingai išliko per 1941 metų gaisrą, nes buvo laiku išnešti į saugią vietą. Šie paveikslai šiandien yra tarsi gyvas tiltas tarp senosios medinės koplyčios ir dabartinės šventovės. Be to, Paluknio parapija garsėja savo ypatingu ryšiu su Šv. Jonu Krikštytoju, kurio vardas čia minimas su didžiule pagarba. Vietos gyventojai nuo seno tikėjo, kad šis šventasis saugo kaimą nuo stichinių nelaimių, todėl bažnyčios atstatymas po gaisro buvo suvokiamas kaip bendras visų tikinčiųjų dvasinis įsipareigojimas. Tai vieta, kurioje kiekviena lenta ir kiekvienas akmuo mena žmonių tikėjimą, nepalūžusį net sunkiausiomis istorijos valandomis.