1812 m. Gudžiūnuose pastatyta koplyčia, į kurią kunigai pamaldų laikyti užsukdavo tik retkarčiais, bet per Sekmines Gudžiūnuose būdavo didžiuliai atlaidai. 1910 - 1911 m. pagal architekto Kačkovskio projektą pastatyta gotikinio stiliaus medinė švč. Jėzaus širdies bažnytėlė, funduota grafo A. Chrapovickio.