曹山寺始建于唐咸通(公元870—873)年间,由佛教禅宗、南岳清源法系弟子本寂禅师所创,是中国佛教禅宗五大派系之一—曹洞宗的祖庭。
曹山原名荷玉山,四周的山就像一朵朵的莲花瓣,曹山寺便坐落在莲花瓣当中,犹如一颗莲心。正对着寺庙的山叫供养山,它的形状就像一碗盛满的斋饭,供奉着菩萨,与供养山相对的是虎山,虎山的右边是龙山,它与虎山形成了龙虎之势,与四周的莲花瓣围抱着曹山寺,让曹山寺院端正坐落在正中广阔的空间,面对供养山,形成一个天然的大佛法坛。
《中国旅游文化大辞典》中载:祖师本寂俗姓黄,名元证,法号本寂,系福建莆田人,19岁在福建灵山出家,25岁受戒,得到江西宜丰洞山高僧良介禅师真传,来到宜黄弘扬宗法,他在曹山“法席大兴,学者云萃,洞山之宗,至即为盛”,名扬四海,被称为“曹洞宗”,为中国佛教禅宗五大派系之一,故曹山宝积寺被称为“曹洞宗”’祖庭。
宋明清历代《宜黄县志》和《宗教词典》多版记载:在我国、日本、东南亚、朝鲜多国,至今有千余座曹洞宗派系寺庙和上千万信徒。史载:宋朝嘉定16年(公元1207年),日本学僧道无(承阳大师)来华参禅,拜曹洞宗第十三代祖师如净禅师为师3年,受禅宗和法衣而归,回日本建永平寺作为传播曹洞宗的根本道场,法系繁衍,至今教徒有800多万,寺高15000多座。
本寂禅师在曹山传法31年,弟子过百,信徒数千。公元901年圆寂后就葬在曹山寺西侧的凤形坑,享年62岁。1743年,清雍正皇帝加封为“定藏元证禅师”,祖师塔于1983年修复。
在曹山寺的后院有棵千年银杏,需五人合抱,它与曹山寺的历史同样悠久,是本寂禅师亲手栽种的,它见证了曹山寺的风风雨雨,这棵银杏曾被雷霹烧焦过,自1982年,曹山寺迎来了它的复苏契机,开始了祖庭的中兴新时期,银杏树下很神奇的发出了许多新的枝叶,且已长成10多米高,连老树皮上也发出了新枝叶。
清初以后,寺庙一直衰落,民国时只有部分殿堂和少数佛像,到1969年殿宇全毁,直到1982年,曹山寺迎来复苏契机,开始了祖庭的中兴新时期。1999年开始陆续从国内外请进20多座汉白玉佛像,成为江西玉佛最多、最全的寺院。
早在1985年,省政府把曹山宝积寺和本寂禅师墓塔列为全省第一批风景名胜点,1994年8月,县人民政府批准曹山寺对外开放。
2003年10月,宜黄县政府礼请全国佛教协会理事心亮法师亲任寺院住持。心亮法师引来了香港旭日集团董事长杨钊等一批大德居士结缘曹山寺,他们决定为寺院重建给予财力、物力、人力上的支持,把曹山寺建成以禅学教学为主兼顾观光旅游的佛教道场。目前,由香港旭日集团聘请的山西古建筑保护研究所为曹山寺重建进行勘探、规划和设计工作已全面完成,教学大楼、斋堂建设已完工并交付使用。