古代玉門關主要有三種：
1、漢代玉門關。漢代玉門關修建於漢武帝時期，其關址爲今天敦煌市西北80公里疏勒河南岸的小方盤城。小方盤城遺址南北長26米，東西長24米，殘留的土牆高達9、7米，面積約630平方米。城北坡下有東西走向的大車道。
2、隋唐玉門關。通常認爲設在漢代關址以東約200公里的唐代瓜州晉昌縣北，即今天安西縣城東50公里處的疏勒河南岸雙塔堡附近。唐初高僧玄奘西方取經來回均通過此。隋唐玉門關關址南北長約160米，東西長約155米， 東、西開門，關周圍有護城河。1958年修建水庫時將關址淹沒，只有冬季水庫乾涸時纔可以露出水面。
3、五代宋初玉門關。 五代宋初的玉門關又稱黑山峽，位於隋唐玉門關關址以東約200公里的今嘉峪關市西北15公里左右的石關峽。玉門關在1036年西夏佔領河西走廊時被廢棄。在玉門關遺址，人們可以看到用沙石、蘆葦和紅柳疊壓修築的烽火臺，以及其它城堡的遺址。
