Urkundlich ist die Kirche seit 1323 erwähnt, wo sie zunächst nur eine Filiale der Dompfarre war. 1516−1519 entstand dann der erste größere Kirchenbau unter Erzbischof Leonhard von Keutschach. In der Barockzeit wurde die Kirche dann mehrfach umgestaltet. Seit 1906 ist sie eine eigenständige Pfarrkirche, denn zuvor hatte das Gebiet von Maxglan noch zur Pfarre Mülln gehört. Durch die Uneinigkeit, ob Neumaxlan eine eigene Kirche erhalten oder die alte Kirche erweitert werden sollte, verhinderte etliche Jahrzehnte eine bauliche Erweiterung. Erst in den 50er Jahren konnte schließlich ein Zubau vorgenommen werden. Für diesen hatten die Maxglaner auch schon jahrlang gespendet. Zudem bekam Maxglan auch von Papst Pius XII. eine Spende von 20.000 Schilling für den Kirchenbau, was heute fast 7.000 Euro wären.
Die Kirche wird heute für viele verschiedenste Dinge genützt. Ob Taufen, Andachten oder Werktagsgottesdienste, die Kleine Kirche ist ein fixer Bestandteil der Kirchengemeinde von Maxglan.