Née dans le quartier, Marie Eustelle fût baptisée et fît sa première communion à l’église Saint Pallais dont elle fût paroissienne toute sa vie. Sa confirmaton, par l’évèque, eu lieu le même jour que sa première communion à la cathédrale Saint Pierre.
Aujourd’hui, c’est dans cette petite église romane que Marie-Eustelle est enterrée, dans la chapelle du Saint-Sacrement.
L’église actuelle date du XIIe siècle pour ses parties les plus anciennes. Elle fut érigée à l’emplacement d’une basilique funéraire, édifiée sur le tombeau de l’évêque Palladius, évêque de Saintes au VIe siècle. Pendant son épiscopat, il érigea plusieurs églises à Saintes, dont une basilique dédiée à saint Martin, et redécouvrit le tombeau de saint Eutrope, premier évêque de la ville et évangélisateur de la Saintonge.
Les murs et les piliers de la nef de l’église sont romans, mais les voutes ont été rebâties dans le style gothique au XIIIe siècle. Certains piliers ne supportent donc pas de croisées d’ogives. Le coeur de l’église date également du XIIIe siècle, et le grand vitrail au chevet de l’église date du XVe siècle. La façade, encadrée par deux puissants contreforts, comprend un portail roman à quatre voussures flanqué de deux arcades aveugles. LE bas-côté nord est doté d’un clocher assez massif dont il ne reste que la partie inférieure.
Cette petite église est souvent éclipsée par sa voisine immédiate, l’église Sainte-Marie de l’Abbaye aux Dames. Celle-ci, fondée en 1047, fut florissante tout au long du Moyen-Âge, et compta une centaine de moniales. Mais à la Révolution, elle fut transformée en prison – les prêtres réfractaires des pontons de Rochefort y furent notamment enfermés – puis en caserne. Rendue au culte en 1939, Marie Eustelle n’y connut donc jamais la messe.