Bažnyčia pastatyta apie 1720 m. Basieji karmelitai XVII a. antrojoje pusėje ėmė garsinti Aušros Vartuose buvusį Švč. Mergelės Marijos paveikslą. Vilniaus miesto magistratas 1668 m. jį perdavė globoti karmelitams ir leido virš vartų pastatyti koplyčią. 1669–1671 m. pastatyta medinė koplyčia. Į ją iš vartų bokšto perkeltas paveikslas. 1706 m. gaisro metu koplyčia išliko nenukentėjusi. 1715 m. balandžio 27 d. koplyčia sudegė. Jos vietoje sumūryta dabartinė.
1764 m. pastatyta zakristija. Apie 1789 m. architektas Pietras De Rosis suprojektavo galeriją ir mūrinius laiptus. 1829 m. rekonstruota koplyčia, ji įgavo vėlyvojo klasicizmo bruožų. 1830-1840 m. greta koplyčios, į kairę nuo gatvės pastatyta erdvi galerija. 1830 m. jos antrojo aukšto arkadoje įstatyti langai, padaryti laiptai.
1927–1932 m. koplyčia atnaujinta, 1976–1986 m. restauruota.