W wiekach XVII i XVIII Wilno pustoszyły obce wojska i pożary. Wilnianie wierzyli, że miasto od ostatecznego zniszczenia uchroniła opieka Matki Boskiej Ostrobramskiej.

Pod panowaniem rosyjskim wzrastała pobożność a Ostra Brama stawała się symbolem walki o wolność. W czasach deportacji i emigracji była symbolem utraconej ojczyzny. Za czasów sowieckich cześć Matce Bożej oddawano potajemnie.
Według badań obraz powstał w latach 1620 – 1630. Jego pierwowzorem była praca holenderskiego artysty Martina de Vosa, oparta na grawiurze Thomasa de Leo z 1580 r. Obraz (200 x 162 cm) namalowano na ośmiu dębowych deskach. Technika wykonania wskazuje, że powstał w Wilnie. Obraz ma wiele symbolicznych znaczeń. Ok. 1670 r. obraz zaczęto ozdabiać srebrnymi pozłacanymi blachami. 5.07.1927 r. Maryja otrzymała korony papieskie i tytuł Matki Miłosierdzia. Korony zaginęły w czasie II wojny światowej. Obraz znajduje się w ołtarzu głównym kaplicy. Po jego bokach umieszczono figury rodziców Maryi. Charakterystyczne wotum w kształcie półksiężyca u dołu obrazu pochodzi z 1849 r. Wota pokrywające ściany kaplicy składane są już od XVII w. i podobnie jak liczne świadectwa, również pisemne, dowodzą zaznanych za wstawiennictwem Matki Bożej cudów, łask i pociechy. 4.09.1993 r. Ojciec Święty Jan Paweł II modlił się przed cudownym wizerunkiem Maryi w Ostrej Bramie. Do Ostrej Bramy pielgrzymują wierni z Litwy, Polski, Białorusi, Ukrainy i innych krajów.
W latach 1503 – 1522 Wilno otoczono murami. Budowę rozpoczęto od Bramy Mielnickiej, która od 1594 r. nazywana jest Ostrą Bramą (łac. Porta Acialis). Obraz Najświętszej Maryi Panny początkowo wisiał w niewielkiej niszy po wewnętrznej stronie bramy. Obraz był własnością miasta. W 1626 r. do Wilna przybyli karmelici bosi. Przy Ostrej Bramie rozpoczęli budowę klasztoru i kościoła konsekrowanego pw. św. Teresy z Avily w 1654 r. Od początku karmelici odprawiali przed cudownym obrazem nabożeństwa. W 1668 r. władze miejskie powierzyły karmelitom opiekę nad wizerunkiem Matki Boskiej. W 1671 r. umieszczono go w drewnianej kaplicy, która spłonęła w 1711 r. Kaplica murowana z 1722 r. dotrwała do naszych czasów. Kaplicę zbudowano tak, by modlący się przed obrazem wierni mogli znajdować się na ulicy. W 1844 r. za pomoc powstańcom karmelitów wygnano. Klasztor oddano prawosławnym, a kaplicę duchowieństwu diecezjalnemu. Od tego czasu wstęp do kaplicy został otwarty. W 2002 r. bramę i kaplicę odrestaurowano.

Kult Matki Boskiej Ostrobramskiej propagowali w swych dziełach wileńscy literaci, m.in. Adam Mickiewicz, Józef Ignacy Kraszewski, Juliusz Słowacki, Władysław Syrokomla. Stanisław Moniuszko poświęcił ostrobramskiemu sanktuarium cztery uroczyste litanie na chór i orkiestrę.
Za czasów karmelitów do kaplicy można było wejść tylko od ogrodów klasztoru. Świeccy, szczególnie kobiety, nie mieli tu wstępu.
W 1785 r. zakazano handlu ulicznego podczas modłów w Ostrej Bramie. Od pieszych, bez względu na wyznanie, wymagano by od bramy aż do kaplicy Pociejów chodzili bez nakrycia głowy.
Na frontonie widnieje napis po łacinie Mater Misericordiae (Matka Miłosierdzia), niżej – Sub tuum presidium confugimus (Pod Twoją obronę uciekamy się). Od początku był tu napis po polsku. Po upadku powstania 1863 r. administracja carska zmieniła go na łaciński. W 1933 r. przywrócono napis po polsku. Od 1946 r. znowu w języku Kościoła powszechnego – po łacinie.