Seniausia Lietuvos bažnyčia, minima 1320 ir 1387 m. Ji buvo mūrinė. XVI a. sumūryti stulpai ir skliautai vietoj medinių lubų. Bažnyčia įgavo vėlyvosios gotikos bruožų. Po 1749 m. gaisro pastatyti vėlyvojo baroko altoriai, vargonų choras, permūryti, gal ir padidinti, langai. Manoma, kad tuomet pastatytas ir bokštas. Po 1812 m. karo bažnyčia suremontuota, prie bokšto pastatyta zakristija, XIX a. – tvora. Vilniaus bažnyčioje XVIII a. pirmojoje pusėje panaikinti lietuviški pamokslai. Iki XX a. lietuviškų giesmių ir pamokslų bažnyčiose nebuvo.
1864 m. uždarius Vilniaus pranciškonų vienuolyną, Šv. Mikalojaus bažnyčia priskirta prie Šv. Jono parapijos; nuolatinio kunigo neturėjo. Dar iki 1897 m. lietuviai rūpinosi turėti savo bendruomenės bažnyčią. Vilniaus vyskupijos administratorius Liudvikas Zdanovičius, vėliau vyskupas Steponas Aleksandras Žvėravičius nenorėjo Vilniuje leisti lietuviškų pamaldų. Lietuviai nuo 1900 m. rinkdavosi apleistoje Šv. Mikalojaus bažnyčioje ir giedodavo. Paprašius Peterburgo dvasinės akademijos kunigams ir paraginus Mogiliovo arkivyskupui B. Klopatovskiui, 1901 m. gruodžio 31 d. S. A. Žvėravičius atidavė bažnyčią lietuvių bendruomenei ir paskyrė kunigą Juozapą Kuktą. Atgauta bažnyčia buvo apleista, be langų, grindų. Po 1902 m. suremontuota. Buvo giedama ir pamokslai sakomi lietuviškai. Suburtas choras, įsteigta mokykla, savitarpio pagalbos draugija, prieglauda. Prie bažnyčios būrėsi lietuviai kunigai, tarp jų 1907–1911 m. ir Juozas Tumas-Vaižgantas.