Alytuje, Nemuno kairiajame krante, 1670 m. pastatyta Šv. Jurgio bažnyčia. Ji buvo ir 1703 m. Ilgainiui sunyko arba sudegė. Vėliau pastatyta medinė Šv. Angelų Sargų bažnyčia. 1797 m. įkurta parapija.
1820–1825 m. klebonavęs Nikodemas Dubrovskis pastatė medinę varpinę. Klebonas Andrius Cechanavičius (Alytuje 1829–1868 m.) 1830 m. pastatė naują bažnyčią. 1876 m. klebonu paskirtas Sebastijonas Banevičius 1878 m. bažnyčią padidino, pristatė dvi koplyčias.
1889–1919 m. klebonavęs Mykolas Migauskas 1905 m. bažnyčią pailgino, apkalė lentomis, aptvėrė šventorių. Alytaus vikaras Vincas Dargis už draudžiamos lietuviškos spaudos platinimą 3 m. ištremtas į Černigovo guberniją, o atlikus bausmę neleista įsikurti lietuviškoje parapijoje. 1907 m. įsteigtas „Žiburio“ draugijos skyrius, įkurta biblioteka – skaitykla (pirmininkas kunigas M. Migauskas). 1909–1914 m. veikė Lietuvių katalikų blaivybės draugijos skyrius. Po Antrojo pasaulinio karo klebonas Leonardas Kavaliauskas bažnyčią suremontavo.