Die erste Kirche stand an der Stelle eines litauischen Heiligtums. 1469 holte Kasimieras Jogailaitis die Franziskaner Mönche ins Land und gab ihnen den Grund für den Bau einer Kirche und eines Klosters. Das hölzerne Gebäude brannte kurz darauf völlig ab. Eine steinerne Kirche wurde an die St. Anna Kirche angebaut. Wegen des schwachen Fundamentes stürzte im Jahr 1500 ein Teil der Mauer und die Decke ein. 1512 bis 1513 wurden die Kirche und das Kloster vollkommen neu gebaut. In der Zweiten Hälfte des XVI. Jahrhunderts wurde die Kirche vergrößert und 1594 geweiht. 1655 eroberten die Russen die Stadt, beraubten das Kloster und die Kirche und ermordeten die Mönche und alle Menschen, die in dem Kloster Unterschlupf gesucht hatten und brannten schließlich die Kirche ab. 1677 wurde die Kirche wieder aufgebaut , aber 1794 beschossen die Russen sie wieder.

Obgleich mehrmals umgebaut, hat die Kirche die Zeichen des mittelalterlichen Stils bewahrt. Die Kirche hatte 14 Rokoko-Altäre aus dem XVIII. Jahrhundert. Es ist nur der größte Altar aus dem Jahr 1710 übriggeblieben. Hinter dem Altar ist der Platz für den Mönchs-Chor mit den geschmückten Stühlen. Links befindet sich der Altar mit dem Bild der Heiliger Mutter, der 1598 von Papst Klemens VIII. gestiftet wurde. Die Kirche hat zwei Kapellen, die Kapelle des Heiligen Mykolas, gebaut 1600, und die Kapelle der drei Könige, gebaut 1632. In der Kirche befinden sich einige Denkmähler und Grabsteine: das von Petras Veselovskis und seinen Nachkommen, errichtet 1634, das von Vladislavas Tiškevičius, der Sarg von Simonas Kairelis, der 1592 getötet wurde und der Sarg des Marschalls des großen litauischen Fürstentums Stanislovas Radvila, verstorben auf dem Weg nach Rom im Jahr 1599. Hier sind auch manche kleinere Denkmähler. Die Kanzel, gebaut im Jahr 1690, ist recht sehenswert. 1864 schlossen die Russen das Kloster und wandelten es in eine Kaserne um. Eine Etage wurde angebaut, und die altertümlichen Formen des Klosters verschwanden.

Rechts von der Kirche steht ein Glockenturm – eine Gotikimitation, gebaut in 1874. Von dem Glockenturm zu der 1617 gebauten Kapelle führen zwei Treppenreihen, getrennt durch eine Scheidewand. Links ist eine marmorne Treppe mit Reliquien auf den Stufen, rechts eine einfache Treppe. Sie wurden 1746 von Jonas und Marijona Milkevičiai gebaut. Diese beiden sind unter dieser Kapelle bestattet. 1812 vernichteten die Franzosen die Kapelle, aber 1920 wurde sie wieder aufgebaut. Nach dem zweiten Weltkrieg wurde die Kirche geschlossen und in ein Lager umgewandelt. Sie wurde von der Akademie der Kunst benutzt. 1992 wurde die Kirche den Bernhardiner Mönchen zurück gegeben, 1994 wurde die Kirche geweiht. Zur Zeit wird sie restauriert.

Vytautas Šiaudinis