Le premier San Fermo Maggiore a été construit au VIIIe siècle en mémoire des saints Fermo et Rustico, soupçonnés à l'époque d'avoir été martyrisés dans l'arène.
Il a été remplacé au 11ème siècle par la structure actuelle, et la crypte est la seule partie survivante de l'original. L'église actuelle conserve sa partie inférieure romane du XIe siècle, avec une partie supérieure gothique du XIIIe au XIVe siècle.
La façade est magnifiquement décorée de marbre. L'église abrite un crucifix en bois du XIVe siècle et l'adoration d'Alessandro Turchi des bergers.