凌云寺在凌云山顶，被凌云九峰环抱，寺宇辉煌。因是大佛所在，所以又叫大佛寺。凌云寺创建于唐代，据史料记载，早于大佛开凿之前，距今已有一千三百多年。唐开元初年(公元713年)开凿佛像时，寺宇又有扩建。据《方舆胜览》记载：“会昌前，峰各有寺”。到了会昌四、五年间，由于唐武宗李炎扬道抑佛，下令灭佛，凌云山仅凌云寺得以“做工精妙”而保存。
唐建凌云寺毁于元顺帝战乱，明代进行了两次修复，明末又经兵燹，大部分被毁。现存凌云寺是清康熙六年（公元1667年）重新修建的。寺外两侧分列着四通石碑，记载了明清两代重修寺宇的过程。
凌云寺是由天王殿、大雄殿、藏经楼组成的三重四合院建筑。匾额“淩云寺”三字，为清末著名书法家赵熙所题。天王殿正中塑像为金玉弥勒坐像，重33吨，所用汉白玉石采自名山之巅,两旁分列四大天王像，采用健陀罗风格建造。天王殿后为韦驮龛，供奉木雕帖金的护法神韦驮。大雄宝殿为清代建筑，殿内正中端坐释迦牟尼三身像（法身、应身、报身）。两旁分列十八罗汉像，殿后为菩萨殿，正中塑净瓶观音像，两边分列文殊、普贤、地藏和大势至四菩萨像。藏经楼为民国时期所建，是中西方建筑的融合产物，具有很高的艺术价值。