Alytaus karinės įgulos cerkvė pašventinta 1904 nors kai kurie šaltiniai nurodo 1891 m. Cerkvė, gavusi Pokrovskajos
titulą, buvo stačiakampė, 33 m ilgio ir 16,5 m pločio, bazilikinio tūrio, su dviem bokštais. Aukštesnysis bokštas orientuotas pagrindiniame fasade, jo apačioje buvo durys su arkine sąrama. Apatinis bokšto tarpsnis buvo keturkampio, viršutinis – aštuonkampio plano ir baigėsi smaile. Antrasis, žemesnysis, buvo apsuptas keturių mažų bokštelių. Visus bokštus vainikavo nedideli svogūno formos kupolai. Tinkuotų plytų stiliaus fasadai buvo gausiai puošti įvairiomis detalėmis, o vidaus sienos – ištapytos ornamentais. Cerkvė garsėjo tamsaus ąžuolo ikonostasu su žinomoje Oloviašnikovų dirbtuvėje kurtomis ikonomis. Greta maldos namų buvo įsikūrusi šventiko sodyba su 5 kambarių
mūriniu gyvenamuoju namu.

Pirmojo Pasaulinio karo metais, Alytų užėmus Vokietijos armijai, cerkvė paversta kariškiams skirta evangelikų liuteronų bažnyčia. Po karo, šalia buvusiose kareivinėse įsikūrus DLK Birutės antrajam ulonų pulkui, cerkvėje įrengta Šv. Kazimiero filijinė bažnyčia. Apie 1924-uosius pastato architektūra pakeista – nugriautas bokštas su kupolėliais,
perdarytas interjeras.

1939 m. pabaigoje, ulonų pulkui persikėlus į Tauragę, bažnyčia buvo uždaryta. Joje įsikūrė dirbtuvė, vėliau – internuotojų stovykla. Apie 1941 m. stačiatikiai susigrąžino pastatą, vėl jame įrengė cerkvę. Po karo maldos namai paversti sandėliu, vėliau – Alytaus mašinų gamyklos klubu. Buvo nugriautas antrasis bokštas, viršutinė centrinės navos dalis, pakeisti fasadai ir interjeras: išluptos marmurinės grindys, sunaikintos freskos ir vitražai. Pastatas prarado sakraliniam pastatui
būdingą vaizdą.

1990 m. pastatas grąžintas katalikams. 1996 m., pagal architekto Vytauto Jakučio ir konstruktoriaus Sauliaus Stulpino
projektą, pradėta jo rekonstrukcija.

Dabar Šv. Kazimiero bažnyčia yra stačiakampis vienanavis pastatas. Iš buvusios cerkvės liko tik šiaurinėje dalyje bažnyčios viduje esanti pusapskritė, o išorėje –trisienė apsidė. Pietinėje pusėje prie dvišlaičiu stogu uždengtos navos jungiasi aukštesnis, į šonus išsišovęs, tūris. Jo viduryje yra prienavis, kraštuose – trimis aukštais išdėstytos nedidelės patalpos. Bažnyčios pagrindiniame fasade išsiskiria kvadratinis bokštas su dvišlaičiu stogu. Bokšto kompozicijos dalis – į viršų kylantis didelis kryžius. Fasado centre – atviras prieangis su laužytu dvišlaičiu stogeliu. Interjeras be puošybos detalių, dominuoja masyvios stogo konstrukcijos.

Be aprašytosios, Alytaus karinių įgulųteritorijose veikė dar dvi cerkvės: medinė cerkvė Pontonų kareivinėse ir medinė
cerkvė Saratovo kareivinėse. Duomenų apie jų statybą ir architektūrą nerasta. Saratovo kareivinių cerkvė apie 1923 m. buvo išardyta, jos rąstai panaudoti Kazlų Rūdos bažnyčios statybai.

Pontonų kareivinių cerkvė 1937 m. buvo nugriauta. Lietuvos aidas rašė: Alytaus pontonų kareivinių rajone riogsojo
sunykęs didelis medinis pastatas – rusų pionierių įgulos cerkvė. Nepriklausomybės karų metu čia rinkosi mūsų kariai savanoriai, vėliau (1927 m.) ją perėmė šaulių sąjunga, įrengta šaulių sąjungos salė ir štabas. Dabar statinys išardytas, mediena panaudota naujų šaulių namų statybai. Nugriauto pastato vietoje numatoma įrengti antrąjį stadioną.

Nijolė Steponaitytė