雾云洞的历史可追溯至汉代，洞内现存明正德二年（1506年）摩崖石刻提及东汉永寿元年（155年）之事。明天启年间洞府曾进行重修。清代道士王来素（字朴菴）曾居此洞活动。清乾隆三十九年（1775年）重修碑记称该洞为“接合中的板荡仙灵府”。洞内外留存有明清时期的摩崖石刻，以及文昌阁、三皇宫、吕祖殿等建筑遗迹，这些庙宇建筑群原有三进院落、十余处庙宇，多毁于战乱年代，现存多为在原址上修复或新建。2006年，为发展旅游业，当地将上山小道拓宽为盘山公路，并对山门及庙群院落进行了改建与扩建。
雾云洞的得名源于其独特的季节性云雾景观。此景观的形成与洞内一处特殊构造有关。洞中有一竖洞直通山顶，其洞口处过去曾建有一个圆柱形建筑，名为“喷云坛”（亦称“喷雾坛”）。夏秋之季山雨欲来之时，常有云雾从洞顶的“喷云坛”涌出，弥漫开来，环绕在周围的山头之间，整座洞府宛如被云海托起。这一竖洞也被称为“天坑”，是云雾喷涌的源头。当地民间传说将此现象与洞内“赤龙含珠”的奇观相联系，认为云雾乃赤龙所喷，故有“看见明德山上云雾缭绕，就快要下雨了”的说法。