黃山經歷了造山運動和地殼擡升，以及冰川和自然風化作用，才形成其峯林結構。黃山有七十二峯，素有“三十六大峯，三十六小峯”之稱，主峯蓮花峯海拔高達1864、8米，與光明頂、天都峯並稱三大黃山主峯，爲36大峯之一。
黃山山體主要由燕山期花崗岩構成，垂直節理髮育，侵蝕切割強烈，斷裂和裂隙交錯，長期受水溶蝕，形成花崗岩洞穴與孔道。全山有嶺30處、巖22處、洞7處、關2處。黃山的第四紀冰川遺蹟主要分佈在前山的東南部。
黃山集八億年地質史於一身，融峯林地貌、冰川遺蹟於一體，兼有花崗岩造型石、花崗岩洞室、泉潭溪瀑等豐富而典型的地質景觀。前山岩體節理稀疏，多球狀風化；後山巖體節理稠密，多柱狀風化，山體峻峭，形成了“前山雄偉、後山秀麗”的地貌特徵。
