La Chiesa di San Gregorio, la cui data di costruzione è avvolta nel mistero, trae le sue radici dalla Roma antica, come indicato dai reperti rinvenuti nel piazzale antistante.

Durante l'era longobarda, il luogo potrebbe essere stato una cappella cimiteriale, e fino al XIV secolo era dedicato a San Giorgio. Nel corso dei secoli, la struttura si è trasformata, assumendo l'aspetto attuale e collocandosi ad un livello superiore rispetto al piano stradale. Il sagrato, circondato da un recinto murario con le cappelle della Via Crucis, riflette la forma di un'ellisse. Le cappelle furono costruite tra il 1755 e il 1757 e affrescate nel 1760 dai fratelli Torricelli. Nel 1928, a causa dell'umidità e delle condizioni atmosferiche, furono restaurate da Luigi Morgari.

Il fulcro visivo è l'oratorio di San Gregorio, la cui facciata subì rifacimenti nel XVIII secolo. Internamente, l'edificio presenta un'aula unica, divisa da un arco a tutto sesto, con un presbiterio rettangolare e una sacrestia aggiunta nel Settecento. Gli affreschi cinquecenteschi, nascosti sotto strati di intonaco durante l'utilizzo come lazzaretto, sono stati riportati alla luce durante i restauri. Opere come i dipinti del 1547 e il polittico del 1770 di Giovanni Antonio Conca arricchiscono l'interno.

Sulle pareti emergono Santi Rocco e Sebastiano, Sant'Odilia, San Giorgio e San Gregorio Magno. La volta presenta una decorazione fitomorfa e tondi con Dio Padre, gli Evangelisti e i Profeti. L'arco trionfale, ornato con affreschi del 1920 dei fratelli Bertacchi, chiude la narrazione visiva. La Chiesa di San Gregorio, custode della storia e dell'arte, racconta la sua saga attraverso le pietre e gli affreschi, un patrimonio intriso di devozione e testimonianza del passare inesorabile del tempo.

L'oratorio di San Gregorio di Caslino d'Erba ospita ogni anno il Festival San Gregorio e San Rocco, un evento all'insegna dell'arte e della musica, occasione unica per aiutare le Parrocchie di Caslino d'Erba e Castelmarte nei progetti di recupero delle chiese di San Gregorio e San Rocco.