相传东晋时,晋阳县令丁令威,弃官学道,云游来醴陵,筑观于城南山上,得道后,乘白鹤飞升,因名此山为丁仙山,观为丁仙观。
明成化间(1465-1487),道士姚安禅重建丁仙观。清光绪时(1875-1908),在已毁观址建药王宫。民国22年(1933),改建南岳行宫,规模居境内寺观神庙之首。1945年被侵华日军炸毁。日本投降后修复。1958年被拆除。1986-2001年,信徒捐款新建护国寺,前进为天王殿,中进为圣帝殿,后进为大雄宝殿。前殿左首有丁仙观,“丁仙观”石额为原丁仙观遗物。大雄宝殿左侧有巨石(旧志称石坛),石上因风化自泐,加人工凿成“仙岳山”、“丁仙”、“王仙”、“彰仙”、“如来佛”等字。
1988年,在山顶建醴陵市广播电视台发射台,发射塔直插云天。仙岳山腰建有老祖道院,三进,前进为老祖殿,中进为圣帝殿,后进为三清殿。
2001年8月,成立醴陵市仙岳森林公园(省级)总面积1049.2公顷。