Rudiškiuose 1671 m. pastatyta pirmoji koplyčia. Vėlesnė medinė koplyčia pastatyta 1770 m. Jai popiežius Pijus VI 1786 m. rugsėjo 6 d. bule paskelbė šv. Pilypo ir Jokūbo atlaidus. 1836 m. paskirtas kunigas. XIX a. viduryje veikė parapinė mokykla.
Parapijiečių lėšomis 1868 m. pastatyta dabartinė medinė bažnyčia. 1922 m. Rudiškiuose įkurta pavasarininkų kuopa.