1940 m. pabaigoje įkurta Skardupių parapija (iš Kalvarijos, Liudvinavo, Marijampolės parapijų dalies kaimų ir vieno Keturvalakių parapijos kaimo).
1941 m. naujoje bažnyčioje pradėtos laikyti Šv. Mišios. Vokietijos okupacijos metais ji baigta įrengti. Iš sugriautos Marijampolės žydų sinagogos pastatyta dviaukštė klebonija. Visas statybas organizavo klebonas Antanas Ylius, 1945 m. nuteistas 10 m. kalėti. Skardupiuose dirbo ir mirė buvęs kalinys, klebonas Vincas Gelgata (1905–1975) bei čia 1980–1989 m. klebonavęs Boleslovas Čegelskas (1922–1989).