灵泉寺原名“宝山寺”,隋文帝(581年~604年)时赐名为“灵泉寺”。灵泉寺石窟始凿于东魏武定四年(546年),止于宋代。现存有东魏至宋代的石窟造像、摩崖石塔200余处,并有北齐双塔和唐代双石塔。灵泉寺摩崖石塔按年代编排,反映出历代塔式的沿革,堪称中国最大的高浮雕塔林群。
由寺院向东西方向延伸的宝山沟,即万佛沟,现存石窟2座,塔(殿宇)龛245个,佛、僧雕像数百尊,高僧铭记百余篇。位于寺东的大留圣窟,由道凭法师凿造。窟内镌汉白玉石佛3尊,躯体雄浑高大,雕琢光洁柔美,可惜头被窃去。
位于寺西的大住圣窟,隋开皇九年(589年)开凿。窟门雕迦毗罗和那罗延神王,身躯魁伟,顶盔贯甲,手持剑叉法器,脚踏牛羊,威然挺立。窟外的墙壁上遍凿佛龛及雕佛刻经。窟内雕镌释迦、弥勒等佛像近百尊。窟顶呈宝相莲花藻井,周围环绕凌空飞舞的飞天,为沉寂的洞窟增添了无限情趣。
以两窟为中心,从东到西千米有余,浅龛造像密布山崖,刻于南北朝至北宋时期,历时600余年。灵泉寺万佛沟按年代编排,可看出塔式的沿革,可谓“宝山塔林”,堪称全国最大的高浮雕塔林。
灵泉寺石窟的发现,为研究中国古代建筑史、石刻艺术史、佛教史、音乐史等方面,提供了珍贵的实物资料。1996年11月,灵泉寺石窟被国务院公布为第四批全国重点文物保护单位。