Đền song trạng nguyên thờ 2 cha con trạng nguyên Sử Hy Nhan và Sử Đức Huy là một trong 3 di tích lịch sử văn hóa cấp Quốc gia của Thị xã Hồng lĩnh và là di tích duy nhất được xếp hạng là di tích cấp quốc gia trên địa bàn Phường Đức thuận. Đền được Ủy ban nhân dân Tỉnh Hà Tĩnh công nhận là di tích lịch sử văn hóa theo Quyết định số 321/QĐ/BT ngày 12/12/1994.
Đền Song Trạng Nguyên nằm ở trên núi Ngọc Sơn thuộc Tổ dân phố Ngọc Sơn của Phường Đức Thuận. Đền thờ hai cha con trạng nguyên là Sử Hy Nhan và Sử Đức Huy. Do con trai Sử Đức Huy là Sử Bá Khoan cùng họ hàng và nhân dân ở làng Ngọc Sơn dựng nên.
Sử Huy Nhan (? - 1421) nguyên họ Trần, quê ấp Ngọc Sơn, đỗ Trạng nguyên khoa Quý Mão (1363) đời Trần Dụ Tôn, làm quan đến chức Hành khiển tri kinh diên, coi việc giảng sách cho nhà vua. Con ông là Sử Đức Huy (1360 - 1430) cũng đỗ Trạng nguyên khoa Tân Dậu (1381) đời Trần Phế Đế, nhưng không làm quan.
Dưới triều Hồ, Sử Hy Nhan và Sử Đức Huy ở tại quê nhà, nhà Hồ mất quân Minh sang xâm lược nước ta cho quân đi tìm người tài đức để đưa về Kim Lăng, chính Thượng thư Hoàng Phúc đích thân đi chiêu dụ cha con Sử Hy Nhan. Hai ông lấy cớ bệnh tật và từ chối rồi cùng một số gia nhân trốn lên núi Mồng Gà ẩn náu, hai cha con ông đã tổ chức khai hoang lập nên xóm Trại Đầu. Về sau số người nghèo đói các nơi đến càng đông tổ chức khai khẩn biến vùng đất hoang vu này thành xóm làng đông vui ngày nay là các xã Ân Phú (Đức Thọ), Sơn Long, Sơn Trà ( Hương Sơn). Công lao to lớn và những cống hiến của ông cho quê hương đất nước và con trai ông là Sử Đức Huy được lịch sử ghi nhận, nhân dân ở làng Ngọc Sơn và các vùng đất nơi ông góp công khai phá đã lập đền thờ để tỏ lòng ghi nhớ. Sử Hy Nhan mất năm Tân Sữu (1421) lăng ông đặt trên nền trại cũ, dân Trại Đầu dựng đền thờ ông gần lăng để tỏ lòng nhớ ơn, trong đền có bài vị đề: “ Trần triều khôi nguyên, Nhập nội Hành khiển Tri kinh diên, Tứ kim ngư đại, Sử tướng công, tự Hy Nhan thần vị”. Đến năm 1945 đền và lăng vẫn còn, nhưng hiện nay không còn ngôi đền nữa một số đạo sắc phong thần được lưu ở Chùa Am nơi các đền chùa hợp tự năm 1946. Tương truyền làng Trại Đầu ở liền cạnh con sông Ngàn sâu, ngàn phố đổ ra. Sông đến đó thành vực sâu, nước xoáy thường có nhiều con Giải, con Thuồng Luồng lên bờ làm hại nhân dân. Có một năm mưa lụt to, nước dâng cao vào làng ,hàng đàn con Giải kéo lên bờ đuổi bắt súc vật vồ nuốt người. Hai ông Trạng thức mấy ngày đêm tìm cách đánh đuổi, nhưng vì mình Giải to, đầu và cổ có vây cứng tới gần chúng thì nguy hiểm, đuổi chúng không đi. Sử Hy Nhan bèn sai dân trại bện dây gai thật to rồi buộc vào gốc cây làm bẩy, rèn lưỡi câu chùm to cắm bờ vực chặn lối, rồi ông đọc một bài văn đuổi ác vật. Ông đọc xong các con Giải tự kéo nhau xuống vực, lặn đi mất. Từ đó vực sâu Trại Đầu gọi là vực Ác để mọi người biết vực đó có nước sâu sóng xoáy, có Thuồng luồng mà tránh. Về sau sông ấy cũng gọi là sông Ác.
Tấm biển trước cửa đền khắc 4 chữ lớn “ Song Trạng nguyên từ” hai bên có hai câu đối sơn son thiếp vàng:
“Ngọc Lĩnh thiên trùng tiêu giáp đệ
Minh Hà nhất phái diễn gia khương”
(Khoa giáp cao nghìn tầm núi Ngọc
Gia Khương dài một dải sông Minh)
Trên bàn thờ cạnh bài vị Trạng cha là bài vị Trạng con Sử Đức Huy đề: “Trần triều khôi nguyên, Lê sơ hướng phụng Bắc sứ bộ Hộ thượng thư Sử tướng công Tự Huy giền thần vị”. Trên bàn thờ còn có chiếc túi thêu cá vàng (Kim ngư đại) do vua Trần ban cho Sử Hy Nhan và trên tường lại có dòng chữ đề "Long phi Đinh Tỵ quý đông" tức là năm Xương phù nguyên niên (1377), đúng là năm ông kết thúc bộ "Đại Việt sử lược"
Công lao to lớn và những cống hiến của cha con Trạng Nguyên Sử Hy Nhan và Sử Đức Huy được lịch sử ghi nhận. Nhân dân quê hương ông ở làng Ngọc Sơn và các vùng đất nơi cha con ông góp công khai phá đã lập đền thờ ghi nhớ công đức hai Trạng. Sau cách mạng, Đền bị bỏ hoang hàng mấy chục năm liền nên đã xuống cấp, nay đã được trùng tu tôn tạo.
Người dân ở đây lấy ngày 25 tháng 7 (Âm lịch) hàng năm làm ngày giỗ của hai ông.
Kính thưa quý vị, thưa toàn thể bà con nhân dân!
Đền ngày một khang trang hơn, chính là dấu ấn ghi nhận công lao đóng góp của thế hệ hôm nay giúp con cháu mai sau biết hướng về tâm linh, biết hướng về nguồn cội và sự quan tâm của các cấp các ngành. Tiếp tục mong muốn các cơ quan, đơn vị, doanh nghiệp, các mạnh thường quân và toàn thể Nhân dân chung lòng chung sức đóng góp xây dựng để Đền Song trạng trở thành địa chỉ đỏ đáp ứng nhu cầu tâm linh cho Nhân dân và du khách thập phương về tham quan, tìm hiểu.
Một lần nữa xin kính chúc các quý vị đại biểu và bà con Nhân dân sức khoẻ, hạnh phúc!