从残存碑刻和清代碑记考稽，千佛寺当建于胜唐。因寺内有千佛洞而得名。窟之洞有佛像千余，故称"千佛洞"。内供三世佛，仰覆莲花须弥座，洞壁有唐代唐高宗、武后年间的题词，洞口有书法家程淓题"佛国"二字。洞前有卷棚顶拜殿为清代所建。

千佛寺前院，有一孤山有石峰，高约4米，面积150平方米，南北两端凿石阶数级。供游人攀登。峰西南下建有一石坊，横额书"即武当"三字。石峰巅有旧庙一间，内讫真武。

千佛寺石窟历史悠久，为我国石窟艺术瑰宝。1963年列为省级文物保护单位，同年，郭沫若同志亲笔指示，要保护好千佛寺石窟，2001年与大石佛一起被国务院公布为国家级重点文物保护单位。