公主祠在橋樓殿以北，亦是福慶寺主要建筑之一，是為紀念隋煬帝之女南陽公主在此出家為尼而修建的。祠寬三間，進深一間，坐西朝東北膚有斷崖，面臨絕壁，飛檐斗拱，畫棟雕梁。檐下掛風鐸，共聲悠揚。祠內置三佛龕，正中塑公主像，其兩妹從侍兩旁。兩側各塑有樂伎12名，手執樂器，有彈有吹，神態自如，形象逼真。墻上布滿壁畫，都是以公主修身得道、濟世救人的故事為題材，工筆彩繪，色彩鮮明，線條流暢，層次分明。人物形象栩栩如生，頗有藝術價值，至今仍保存完好。　　公主祠后面有一山洞，洞內建有公主寢殿，原有公主木雕像一尊，側身而臥，現已不存。祠南有一磚塔，八角五層，高約10米，玲瓏別致，為明代晚期所建造。　　此外，從橋樓殿向東行，經圓覺殿、南天門，過“空谷鳥聲”，即至“竅開別天”。這里是一處懸崖絕壁，游人至此已無咱可行。只見崖畔有一山洞。若進洞沿著洞中小路，一路曲折盤旋，拾級而上，然后至出洞口已是在山巔的一山凹處，極目遠望，天高地闊，氣象萬千，真是“竅開洞府，別有天地”，故名“竅開別天”。　　山凹處建有四角形風雨亭一座，供游人避風雨、觀山景。若再沿著山梁上小石徑繼續上山，不久即可至蒼巖山的觀日峰，附近建有“玉皇頂”，內供玉皇大帝神像。從玉皇頂下來，過風雨亭，繼續東行，還有“陰崖石乳”、烈古臺、老虎洞、東天門、孤峰古柏、智公巖、爐峰夕照等景點。