Marijampolėje XIX a. pabaigoje pastatyta cerkvė Rusijos kareiviams ir dedikuota carui Aleksandrui III. Po Pirmojo pasaulinio karo Seinų vyskupas cerkvę perdavė marijonams. Šie ją pertvarkė į bažnyčią. Ji tapo Lietuvos kariuomenės bažnyčia (sekmadieniais būdavo Šv. Mišios kariams, kitomis dienomis – miesto visuomenei).
1940 m. įkurta parapija, jai paskirta miesto pietinė dalis ir keli kaimai į pietryčius nuo Marijampolės. Po Antrojo pasaulinio karo bažnyčia uždaryta, paversta sandėliu. 1990 m. vėl pradėjo veikti.
Įdomu tai, kad nors bažnyčia pradžioje buvo cerkvė, marijonai, pertvarkydami ją, įdėjo daug pastangų, kad ji taptų tikrai katalikiška šventove. Jie galėjo ypač pabrėžti Šv. Vincento Pauliečio pamokymus apie gailestingumą, kas buvo svarbu po sunkių karo metų. Kai parapija buvo įkurta 1940 metais, ji apėmė teritoriją, kuriai reikėjo stipraus dvasinio vedimo.
Kai sovietmečiu bažnyčia buvo paversta sandėliu, tikintieji, kurie prisimindavo jos šventumą, galėjo jausti didelį skausmą. Tačiau jos atidarymas 1990 metais buvo didelė pergalė. Tai buvo ženklas, kad dvasinis gyvenimas grįžta į miestą, o Šv. Vincento Pauliečio dvasia, kviečianti į pagalbą, vėl galėjo skleistis per parapijos veiklą. Ši bažnyčia liudija apie tikėjimo atsparumą sunkiais laikais.