Lietuvos maršalkos ir Trakų vaivados, Alytaus dvaro savininko Jono Zaberezinskio pastangomis apie 1520 m. buvo pastatyta bažnyčią. 1524 m. buvo įkurta parapija. Kurį laiką šią bažnyčią lankė abiejų miesto dalių, atskirtų Nemunu, katalikai. 1763 m. buvo pastatyta nauja medinė bažnyčia. 1773 m. prie jos buvo įsteigta parapinė mokykla, tačiau 1810 m. bažnyčia, mieste siautus gaisrui, sudegė.

Per 1818–1820 m. klebonas Liudvikas Kaminskas kartu su parapijiečiais pastatė dabartinę bažnyčią. Iki 1842 m. tai klebonijai priklausė ir Skraičionių kaimas. Klebonas Konstantinas Paulavičius 1930 m. bažnyčią padidino ir kapitaliai suremontavo. Buvo pastatytas bokštelis, sumūryta iš akmenų šventoriaus tvora.

1941 m. birželio 24 d. vokiečiai sušaudė kleboną K. Paulavičių ir vikarą Vincentą Mazurkevičių. Jie palaidoti šventoriuje; jiems pastatytas paminklas - Rūpintojėlis. Per Antrąjį pasaulinį karą bažnyčia buvo apgriauta. Bažnyčia ir bokštas kunigo Leono Jakubausko rūpesčiu atstatyti apie 1957 m. Bažnyčia klasicistinė, stačiakampio plano, su žemu masyviu bokštu. Šventoriuje palaidotas nuo 1956 m. iki mirties čia kunigavęs Bronislovas Novelskis (1905-1991).