祖辈们于清康熙元年间沿山势凿岩为径至山巅盘旋,于1662年创建了佛殿甘霖寺,供有释伽牟尼、观音菩萨、玉皇大帝、燃灯古佛等多尊沸佛象,建有山门、僧房、享亭角等建筑物依山而建,气势雄伟。古人有诗曰:“翠嶂重叠石嶙峋,僧竂禅院诵佛经。香风飘逸梵铃响,浑如灵山拜世尊”。近代诗人周伯庸游永灵山也有诗云:叠翠灵岩万仞楼,苍茫烟树雨初收。是谁描出天然画,赛过丹青第一流。站立永灵山山顶可以观看三穗县城全景风貌,观看南来北往的车辆穿梭不停,百里群峰尽收眼底。可见当时的规模和影响。此山此寺,从古至今多少年来成为三穗县城的“八景之一”。但此寺历朝有毁有兴。国民初年,一场大火把该寺化为灰烬,1935年由乡人捐资重新恢复原貌。1958年,在“破除迷信”的口号下,甘霖寺被拆除,山人林木被毁。1982年,百废俱兴,县人民政府将永灵山甘霖寺列为县级文物保护单位。2000年,省政府批准恢复甘霖寺,县政府在群众集资修寺的基础上,又投资300万元予以扩建修复。由于永灵山特殊的地理位置,是佛教信徒到黔灵山、青龙洞、梵净山一条龙朝拜佛圣的必经之处,凡是路经的信徒都要在此停留1—3天烧香拜佛,已成为一个朝圣的中转站。又由于永灵山雄踞在闹市街头,便于市民随时登山览胜,所以黔灵山弘福寺将其列为自己的佛教支系。从2000年起,弘福寺专门派有僧人常驻永灵山当住持,主持佛教活动,晨钟暮鼓,响彻长空。
几百多年来,永灵山甘霖寺香火不断,人气极旺,特别是晚上,它给三穗县城增添了一道别样的夜景。登上山顶,放目四眺,你可把美丽的三穗县城尽收眼底。从下往上看,甘霖寺就像一尊活菩萨,俯瞰苍生,庇佑着这一方土地一方人民。据传永灵山甘霖寺日可见县城全景,夜可观万家灯火。至今甘霖寺已正式开放,每月逢初一、十五都有香客上山诵经拜佛,而且每年的二月十九,六月十九,九月十九,远近的香客纷纷来此朝拜,多达上万人。香火旺盛,传承近500多年,历史悠久,堪称黔东佛教圣地。