Des reliques du moine Saint-Ethbin dont le « tombeau » est situé au pied de la butte de Châteauneuf en bas à droite de la rue du Barrage sont conservées dans une chapelle latérale dédiée du côté de l'épître (côté droit de l'autel en faisant face à celui-ci).
Le vitrail n°.3 visible dans la galerie ci-dessous représenterait ce saint personnage.

L'église de la paroisse de Saint-Pierre de Port-Mort datant du XV^e / XVI^e siècle était sise dans l'enceinte du cimetière actuel, rue du Port. La seule photo existante ci-contre est issue d'un vieux guide régional.

L'axe de l'église était dirigé nord-ouest; elle se composait d'une large nef et d'un chœur rectangulaire au sud-est duquel s'élevait la tour carrée du clocher, les fenêtres étaient des baies flamboyantes de style fin XV^e siècle. Elle fut vendue en 1880 à une entreprise de démolition après la construction de l'actuelle église.

Du bâtiment original n'ont été sauvegardés que la croix du clocher et une colonne, toutes deux conservées dans le cimetière et quatre vitraux du XVI^e siècle, qui furent restaurés en 1875 et intégrés à la nouvelle église.
La colonne et la croix sont situées à l'extrémité ouest du cimetière et sont visible en accédant par le portillon situé après la rue du Port.

Ces vitraux firent l'objet d'un classement aux Monuments Historiques le 10 juin 1907 sur arrêté d'Aristide Briand.

Ils portent tous, en écusson ou en piétaille, la mention : « CESTE FENESTRE PROVENANT DE L'ANCIENNE EGLISE A ETE RESTAVREE EN 1875 ».