玉山祠其实是一个道观，供奉的是关帝、兴道王和文昌帝三圣，是一个有一百多年历史的古建筑，前身是关帝庙后来扩建成现在的规模。由于位于还剑湖畔的玉山岛上，所以只能通过木质拱桥栖旭桥才能到达，需要交纳30000越南盾门票费用。

从湖边往玉山祠走首先需要经过连续两道无檐无顶的敞门，门柱和边墙上都是汉字对联。第一道门的内柱联为：临水登山一路渐入佳境；寻源访古此中无限风光。两边墙上则是大大的红色“福”和“禄”，字上方还有同为红色的小字“玉于斯”和“山仰止”。第二道门有三副联，中间一副是：人间文字无权全凭阴德，天上主司有眼单看心田。两边墙上各浮雕了金龙和白虎，写有隶书字“龙门”和“虎榜”，下面恰有一联：砚台笔塔大块文章；虎榜龙门善人缘法。第三道门上有顶，门楣上端是“砚台”两字，字下有一幅数十字的草书，看不清内容，仅抬头“丁丑重修”四字能辨。过了桥是得月楼，楼为两层。楼顶为传统中国建筑式样的飞角重檐，两檐间悬有红底金字“得月楼”木匾。下层为门洞，两边有四柱两联：桥引长虹栖岛岸，楼当明月坐湖心。柱间墙上有刻画，一边是龙头马身，写有“龙马河图”，另一边是乌龟驮笔，写有“神龟洛书”。楼的上层是一个小小的空间，圆形窗两旁各有一飞凤图，边上有联：不厌湖上月；宛在水中央。穿过门洞迎面一排三门老屋，两副联，分别是：孤山木荫三千界，白水波澄九十春；火宅莲开今古梦、金门钟响草花寒。回过头发现得月楼的背面依旧有联：兔鸟随过往；山水自高清。没几步就看到一炉，炉口上方有“敬字亭”三字，估计和我国的“炉”字一个意思吧。炉门两边写着“文光冲斗北；亭影落湖中”。在临湖处有一四角双层顶亭，亭内结构是双层八柱，内四柱为圆木，外四柱为方石。柱上有联：庙貌山容相隐约，天光云影共徘徊。大殿殿内也有汉字联：道有主张斗北文明之象；人同瞻仰交南礼乐之都。中间大匾上是“回天度世”四字，匾下柱联是：位秉图书开泰运；德流翰墨灿天章。走到后面，后殿有更多汉字，有“千古伟人”匾，还有“春秋大义”、“日月精忠”、“日华”、“润月”等匾，墙上则有“忠”和“义”两个大字。抄下两副联：惟圣不知惟神不测；在天成象在地成形。仙则名龙则灵自有主者；柱以尊维以立惟此浩然。