历代天师阐教说法、传道授箓及举行重大醮仪的最大宫观，素有“仙灵都会”和“百神受职之所”之称。在道教兴盛时，香烟缭绕、仙乐阵阵、四方高道云集，善男信女车水马龙，前来祈福镶灾，宛如繁华都市。

上清宫,坐北朝南,依山傍水，传说是张天师做法的地方。走进上清宫的大门，上清宫明堂中央地下镶刻一个偌大的阴阳八卦图，制造一种神秘的道教氛围。据说这上清宫的前身是天师草堂，后改为上清观,宋朝徽宗升上清观为大上清宫。上清宫有福地门、下马亭、午朝门(棂星门)、钟鼓楼 、伏魔殿等许多建筑。其中重点就是伏魔殿，《水浒传》开篇第一回：“张天师祈禳瘟疫洪太尉误走妖魔”。

北宋末年，水浒传中的一百零八将就是在龙虎山上清宫的镇妖井中，被洪太尉放出来的，才有了后来轰轰烈烈的反抗斗争，上清宫也成为龙虎山在国人中知名度最高的一处宫观，实际上，上清宫是龙虎山道教最重要的场所之一，张天师阐教演法、传道、授箓等重大法事活动，都在这个地方。

上清宫所建殿宇就有：

三清殿、玉皇殿、紫微殿、天皇殿、后士殿、斗姆宫、雷祖殿、廖汤殿、南斗殿、北斗殿、伏魔殿、三宫殿、三省殿、文昌殿、四圣殿、五岳圣帝殿、四渎殿、真风殿、留侯殿、十二真君殿、奎阁、虚靖祠、藏室、鼓楼、福地门、龙虎门、棂星门、下马亭等等。

附近还建有道院三十六座以及各种附属建筑，它原是我国规模最大，历史最为悠久的古老道宫之一 。

最引人注目的因当算是伏魔殿，门上交叉的封条，据说是由历代天师亲自画符、盖印、封贴大门，两边黄布上的图形就是太上老君赐给张天师的水火阴阳镇妖符，门上对联：“千年归匿风平浪静，一旦现形地动山摇”。

传说张天师创建道教时，大战异教，将号称魔怪的异教首领擒住关押，此殿即是传说中张天师关押妖魔的地方 。