Giáo xứ Phúc Nhạc, được thành lập năm 1790, là một trong những giáo xứ kỳ cựu bậc nhất giáo phận Phát Diệm, là quê hương và là nơi có liên hệ với nhiều vị thánh tử đạo. Cũng vì thế mà từ năm 1992, Phúc Nhạc được chọn làm trung tâm kính các thánh tử đạo Việt Nam của giáo phận Phát Diệm.

Đền bà thánh Đê tại giáo xứ Phúc Nhạc Phát Diệm
Năm 1936, một ngôi đền được xây dựng trong khuôn viên nhà thờ xứ Phúc Nhạc để dâng kính thánh Anê Lê Thị Thành, tức Bà Thánh Đê, một người con thuộc họ Thôn Đồng của giáo xứ. Ngôi đền này rộng 4 mét, dài 8 mét với ngọn tháp cao 12 mét và được xây dựng theo lối kiến trúc Tây Phương.

Thăng trầm thế cuộc, bom đạn chiến tranh cùng với mưa nắng dãi dầu đã làm cho ngôi đền thủa nào trở thành nơi hoang phế, không còn xứng đáng với vị thánh nữ duy nhất của Hội Thánh Việt Nam. Vì vậy, ngay từ khi về trông coi giáo xứ vào năm 1992, cha Antôn Đoàn Minh Hải đã xúc tiến công việc xây dựng lại đền Bà Thánh Đê, nhưng lực bất tòng tâm, cho mãi tới khi rời giáo xứ Phúc Nhạc vào tháng 8-1999, ngài vẫn chưa thể thực hiện được ước nguyện tốt đẹp của mình.

Cũng ngay từ khi tiếp nhận giáo xứ, cha Giuse Trần Văn Khoa đã kêu gọi giáo dân cầu nguyện cho công việc xây dựng đền thánh và tiến hành làm mọi thủ tục để thực hiện ý định của vị tiền nhiệm. Ngài xin Đức Cha Giuse Nguyễn Văn Yến tìm người vẽ thiết kế một ngôi đền theo lối kiến trúc Đông Phương, chiều dài 13,5 mét, chiều rộng 8 mét với tháp mái cong cao 12,5 mét, đồng thời nộp đơn xin các cấp chính quyền cho phép xây dựng đền thánh đúng trên vị trí cũ. Những nỗ lực của ngài tiếp tục như muối bỏ bể, khó khăn
Xây cất đền bà thánh Đê tức Anê Lê Thị Thành
chồng chất khó khăn, chính quyền viện dẫn ra mọi lý lẽ để ngăn cản công việc.

Sau nhiều lần kiên trì tiếp tục làm đơn, năm 2003 chính quyền đồng ý cho phép cha Giuse Trần Văn Khoa sửa chữa đền kính Bà Thánh Đê, nhưng kính thước không được vượt quá kích thước của ngôi đền cũ. Không thoả mãn với câu trả lời của chính quyền, cha Giuse Trần Văn Khoa tiếp tục nộp đơn xin xây dựng ngôi đền theo đúng kích thước của bản thiết kế. Sau cùng, ý nguyện của ngài cũng được chấp thuận.

Với niềm vui giáo xứ Phúc Nhạc vừa được Đức Cha Giuse Nguyễn Văn Yến nâng lên hàng Đền Thánh Tử Đạo của giáo phận vào ngày 24-11-2005, ngày 14-5-2006, cha Giuse Trần Văn Khoa đã cùng với bà con giáo xứ khởi công xây cất đền thánh theo đúng kích thước và bản thiết kế ban đầu.

Tới nay, phần xây tường và tháp đền Bà Thánh Đê đã gần được hoàn tất. Hy vọng một ngày không xa, giáo dân giáo xứ Phúc Nhạc nói riêng và giáo phận Phát Diệm nói chung sẽ có một ngôi đền khang trang, xinh đẹp để dâng kính vị thánh mà họ luôn mến yêu tôn kính.