舊時，黃山交通閉塞，游人罕至，一直藏在深閨人未識。秦漢時期，見于文字記載隱居黃山者，唯有會稽太守陳業“潔身清行，遁跡此山”。直至唐宋，黃山乃漸為世人所識，山上寺廟宮觀才日漸增多。隨著名士隱居、宗教傳入，開發建設也隨之開始。縱觀歷史，黃山開發建設，大體經歷了四個時期。

明末清初宗教開發時期：明朝萬歷三十四年（1606年），普門禪師來山，創建法海禪院，受敕擴建為“護國慈光寺”。此后，又在玉屏峰前建文殊院，在光明頂建大悲院。普門在歙人潘之恒等人的幫助下，披荊斬棘，開山修路，初步形成南路從溫泉至天海、北路從松谷至天海、東路從苦竹溪至北海、西路從吊橋庵至溫泉的四條簡易登山盤道，使以翠微寺、祥符寺、慈光寺和擲缽禪院“四大叢林”為中心的景區建設初具規模。隨后四方僧侶慕名而至，在山筑室結茅，或對枯燈參禪，或搜奇峰入畫，這是黃山寺廟香火最為鼎盛的時期。入清以后，步道和房屋以整修為主，建設不多。至清末民初，不少寺宇因香火不濟、年久失修而毀。

中華民國初步建設時期：民國21年（1932年），由國民黨元老許世英發起，邀集皖籍同仁張治中、徐靜仁與安徽省政府主席劉鎮華等，籌備成立黃山建設委員會。民國23年4月，黃山建設委員會成立。11月，黃山建設委員會推許世英為主任常務委員。民國24年1月10日，在南京正式召開黃山建設委員會第一次委員大會，常務委員許世英、張治中、劉貽燕、徐靜仁及其他委員共48人與會。黃山建設委員會下設黃山、上海、屯溪3個辦事處和南京、蕪湖、杭州3個問訊處（通訊處）。先后開通湯口至逍遙亭公路，修建云谷寺至北海石階路，并著手開鑿天都登道。民國32年4月，成立黃山管理局，隸屬安徽省政府。民國36年，安徽省政府主席李品仙再次行文上報行政院內政部，進一步明確黃山管轄范圍。

建國初期恢復建設時期：1949年4月27日，黃山解放。6月，皖南行署派員接管黃山。7月，成立黃山人民管理處，為科級建制。1954年春，華東軍政委員會、中共安徽省委和安徽省人民政府曾山、舒同、曾希圣、牛樹才、黃巖等領導登山規劃，著手建設黃山。1954年至1956年間，有計劃地整修登山步道，開通逍遙亭至溫泉公路，先后興建觀瀑樓、黃山賓館、溫泉游泳池、海門精舍（今藝海樓）等。1958年，黃山再掀建設熱潮，新建北海賓館、新溫泉樓、煉玉亭、觀魚亭等。1963年1月，黃山風景區護林工作會議召開，再次劃定風景區山界：東起苦竹溪黃山勝境坊，南至湯口公路橋，西至栗溪坦，北至輔村。“文化大革命”期間，黃山各項工作基本陷于停頓。

改革開放以后快速發展時期：1979年7月中旬，中共中央副主席鄧小平，在安徽省委第一書記萬里等陪同下視察黃山。他健步登山，高瞻遠矚，明確指示，“要有點雄心壯志，把黃山的牌子打出去”。隨后，中共安徽省委連續一周在黃山召開省委常委擴大會議，專題研究黃山旅游業發展問題。根據鄧小平指示精神，1979年10月，安徽省黃山管理局成立，黃山可以正式對外開放。黃山管理局成立不久，即著手總體規劃的編制工作。1980年5月，安徽省人民政府成立黃山規劃領導小組，次年正式委托清華大學建筑系編制《黃山風景名勝區總體規劃》。1982年1月，總體規劃編制完成。1988年7月報經國務院原則同意，建設部批準實施。之后，又陸續編制了溫泉、云谷、北海、松谷、玉屏和釣橋六大景區詳細規劃，完成了西海、桃花溪、松林峰至步仙橋三個地段詳細規劃。接著，先后修建云谷、玉屏和太平三條客運索道，修通并改造溫慈(溫泉至慈光閣)、溫云(溫泉至云谷寺)和湯溫(湯口至溫泉)公路，開辟天都新道、丹霞蹬道、蓮花循環道、西海大峽谷游道，立體交通網絡基本形成。新建、改擴建桃源賓館、排云樓賓館、白云賓館、獅林大酒店、玉屏樓賓館、北海賓館和西海飯店等，旅游接待能力和檔次明顯提高。截至2006年6月，風景區內擁有各類賓館飯店20家，其中四星級賓館4家，三星級飯店4家，年接待能力達300萬人次。興建西海、云谷寺、天海、玉屏樓、五里橋等多處水庫(蓄水池)，總庫容達45萬立方米。尤其是2002年完成的五里橋新二庫及景區綜合提水工程，大大緩解了旱季森林防火及旅游生活用水的矛盾。相繼建成北海35千伏和溫泉35千伏輸變電工程，供電能力和穩定性顯著提高。郵電、通信和有線電視等設施不斷加強，光纜鋪設達185公里，基本實現了移動網絡全景區覆蓋。

黃山對外開放以后，客流量迅速增長。1979年進山游客僅為10.4萬人次，到2005年則達171萬人次。1979年至2005年，共接待海內外游客2124萬人次，其中入境游客152萬人次；實現旅游收入53.1億元，利潤總額8.7億元。1996年11月，黃山旅游發展股份有限公司成立，向社會發行股票募集資金，“黃山旅游”成為我國第一只完整意義上的旅游概念股。1999年6月，成立了黃山旅游集團有限公司。股份公司和集團公司成立后，不斷優化旅游產品結構，積極開發休閑、娛樂、探險等新興旅游項目，豐富旅游內容，拓展產業鏈條，逐漸形成了重點突出、布局合理、各具特色、優勢互補的旅游產業格局。此外，加大客源市場開發力度，大打宣傳促銷攻堅戰，在上海、廣州、北京、等地設立辦事處，與瑞士少女峰、美國約塞米蒂國家公園結為友好山，在韓國首爾設立旅行社分支機構，對外影響與日俱增。至2005年底，集團公司擁有全資企業8家，控股企業6家，參股企業3家，總資產22.1億元；股份公司擁有下屬企業21家，總資產9.6億元。

長期以來，以創建文明山為主線，圍繞文明言行、環境衛生、服務質量、市場秩序等內容，開展形式多樣的創建活動。充分發揮愛國主義教育基地的作用，深入持久地開展愛國主義教育。社會治安綜合治理常抓不懈，成立綜合治理委員會，常設綜合治理辦公室，在北海、玉屏樓、云谷寺、慈光閣、松谷庵、南大門等地設立綜治小組，定期抽調精干人員駐點進行管理，同時成立專門綜治稽查隊伍。對周邊農民開展經常性的愛山護山和法制教育，對個體商販進山經商和運輸實行總量控制，定點定線亮證經營，堅決取締無證商販。堅持開展嚴打整治斗爭，整治旅游市場，凈化旅游環境。堅持護林防火，建立健全護林防火機構，制定森林防火工程規劃，組建專業防火隊伍，深入開展防火宣傳，強化野外用火管理，與周邊鄉村實行聯防共保。至2005年底，黃山已連續26年無森林火災。設立植物檢疫站，加強病蟲害防治，嚴格植物檢疫檢查制度。與部分高校和科研院所開展相關課題研究，取得顯著成果。設立護林點，加強外圍巡查，禁止亂砍濫伐。聘請專家教授對古樹名木生長情況進行定期檢查，建立古樹名木技術保護檔案，對路旁名松古樹設立石質圍欄或進行竹片圍護。對迎客松實行特級護理，確定專人全天候守護。積極開展生物多樣性保護，對我國特有二類保護動物黃山短尾猴開展專業化、科學化保護。加強生態環境保護，不斷進行燃料結構調整，減少和控制污染源，同時加大環衛硬件投入，組建近200人的環衛專業隊伍。對重要景點實行定期封閉輪休。對全山水質、大氣、噪音等生態因子進行常年監測。堅持自然遺產與文化遺產保護并舉，自然資源和人文勝跡管理兼重，對重要文化遺存、歷史遺跡、古代建筑進行系統地挖掘、整理和修復，文化遺產保護卓有成效。此外，加大對周邊扶持力度，資助他們修橋鋪路，因地制宜興辦企業，將周邊農民致富點控制在山外，逐年減少景區內的經營網點。