三清山位於江西省玉山縣西北部，北與德興縣接壤，處於贛、浙、皖、閩四省交界處。主峰玉景峰海拔1816.9米，古稱“王振東南部”。這裏曾經是道士造房子煉丹的地方。據說道士是從《大話西遊》中的壹大片福地，高淩雲漢南第壹仙峰玉景峰得到啟示的。
據史書記載，東晉升平年間(357-361)，方士、著名醫學家葛洪、李尚書上山建房煉丹，著書立說，宣揚道教教義，主張“人可成仙”。至今山上仍有葛洪挖的丹井和高爐遺跡。尤其是那口延續了1000多年的丹井，依然常年不幹涸，其水清涼甘甜，被後人稱為“仙井”。由此，葛洪成為“三清山創始人”，也是三清山道教的第壹個傳播者。可以說，三清山的發展和衰落與道教的興衰息息相關。
到了唐代，道教被朝廷奉為國教，方士往來大江南北。三清山的道教也興盛起來，香火不斷，進山香客絡繹不絕。659年，唐朝(周朝)盛元在位，朝廷為了加強統治，將衢州胥江南鄉(今江山市)和常山西鄉割為玉山縣。後來，方士在葛洪的建房煉丹處建造了三清山上的第壹座道教建築——老宮觀(此觀稱為“三清山福地”)，進壹步鞏固了三清山在道教史上的重要地位。
宋真宗信奉道教，尊老子為商老子的皇帝。此時，三清山地區開始出現大量的道教建築。為了紀念葛洪的創舉，方士們在山上修建了葛仙觀，裏面供奉著葛仙翁和李尚書的石像。與此同時，福清寺和紀靈寺也相繼建成。特別值得壹提的是，煉金術士在天門峰以東的懸崖上用天然花崗巖雕刻並鑿刻了壹座六層五面的雷鋒塔。此塔歷經千年風雨，至今屹立不倒，被譽為三清山上道教建築的壹顆璀璨明珠。
到了元代，朝廷把道教作為控制漢族的思想武器，道教進壹步受到重視。此時三清觀出現了信奉全真教的方士(僧人)，專門從事道教活動，長期達數十人；更多的方士信奉正教(即不出家，有少數出家)。他們受道教經典的束縛，熟悉各種齋戒儀式，在民間從事道教活動。據元代詩人盧麒元的《三清山記》，此時，三清山正在修建，三清寺正在擴建。寺內供奉著石仙君、葛仙翁、李尚書、金童、玉女、潘元帥等塑像。山景、地名也以道教稱謂命名，如仙人橋、雷公石、判官石等。這說明當時三清山道教興盛。
明太祖朱元璋特別推崇道教，尊張天師為全國領袖，所以貴溪龍虎山成為全國道教活動的中心。三清山離龍虎山只有三百裏，近在咫尺。傳教、布施的方士頻繁往來，聯系極為密切。三清山的教育活動幾乎直接受張天師控制。此時山上祭祀之風異常濃厚，散居在江西、浙江、安徽、福建等地的方士和信眾每年八月、九月、十月自發組織香火聚會。他們成群結隊地行進，用三清神和旗幟開道，點上香燭，擡著豬牛羊等祭品，歡呼著三眼大口徑短槍，伴隨著鼓聲和敲打聲，每天都有上萬人在三清山上行進。當時，這種祭祀儀式已經成為民間壹年壹度的主要道教活動。
明代是三清山道教的鼎盛時期。山上的道教建築如雨後春筍般出現。景泰年間，山上新建龍虎殿、方士羽壇、玉靈寺、糾察院、演劇廳、九天應院、盤宮廳、放好尚、天門石坊、飛仙臺、留下橋、石階、“百步門”、“百步門”，重修三清殿，改名三清宮。明代的宮殿建築非常獨特:前後修建，坐北朝南，由山上的花崗巖雕琢而成，石梁石柱周圍是石墻、玉清、上清、太清三座石像。據不完全統計，此時三清福地有130座石像和45處摩崖石刻。可以說，此時的三清山已經成為明代都城建築和石雕藝術的寶庫。這座寶庫吸引了各行各業的方士，也吸引了許多文人墨客。朱、王安石、陸遊、楊萬裏、王、趙範、夏君、等都曾先後來此爬山、登攬勝，留下了許多關於灸人口的詩詞。著名地理學家徐霞客也曾兩次遊歷玉山，並在他的遊記《右江日記》中對三清山作了明確的記載。
清兵入關後，道教繼續受到推崇。龍虎山仍然是中國道教活動的中心。三清山與龍虎山道緣關系密切，香火自然是越來越大。康熙年間，福州、南豐、福建等地的方士相繼遷居，三清山道教形成福州、南豐、福建、玉山四大地方派系，尤以玉山為甚。為了更好地組織道教活動，該縣設有道教委員會部，負責接受龍虎山石天府的旨意，並指導其下屬宮殿的教育活動。此時，由於方士驟增，教育活動日益頻繁，三清山在道教領域的影響力越來越大，在全國的知名度也隨之提高。雍正四年(1792)禦覽古今圖書所附《廣信府地圖》中三清山的地理位置標註無誤。
乾隆即位後，道教在國家意識形態領域的主導地位受到沖擊，此後逐漸衰落和恢復，三清山道教也受到了致命的打擊。嘉慶十八年(1813)，三清宮毀於大火。雖然是煉金術士重建的，但規模遠不如以前。鹹豐年間，縣城道教委員會被士兵破壞，從此三清山道教日漸消失。
民國初年，軍閥混戰，百姓水深火熱。三清山壹度戰火紛飛，方士紛紛出山，山上道香瀕臨滅絕。
1982玉山縣成立了風景資源普查領導小組，對三清山進行了全面普查。首次發現了三清山提雲嶺原始、粗獷、秀美的獨特景觀，千峰競秀，千石競奇。江西三清山景區發現的喜訊不脛而走，很快傳遍了全國。
1983年1月，江西省人民政府決定開發以三清山為中心的贛東旅遊區，並撥出巨資開發三清山風景資源。
1984年，江西省人民政府邀請全國各地120多位教授學者考察三清山。經過半個多月的實地考察評估，大家壹致認為三清山是中國壹級景區，堪比黃山，堪稱黃山的姊妹山。尤其是“女神”之美，“蟒蛇”之奇，“觀音聽琵琶”之傳神，舉世罕見。有學者題詞說:“攬勝蓋五嶽，獨景在三清。”
1986年國家撥款修建上善石階路，將相互溝通。
1988年，國務院批準三清山為國家級風景名勝區。
隨著國家旅遊業的蓬勃發展，三清山將以她多彩的魅力迎接更多的國內外賓客。