衛青是長期征戰，積勞成疾而死的。有一次漢武帝召見衛青，由於漢武帝正欲尋長生不老藥沉迷於神仙故事的書籍，使得衛青在大殿外頂着太陽站了大半天，暈倒了。衛青甦醒後沒有及時治療，任然去朝見漢武帝，最後病入膏肓，逝世了。史書記載，元封五年（前106年），衛青病逝，漢武帝爲紀念他的彪炳戰功，在茂陵東北修建了一座陰山形狀的墓冢，“起冢象廬山”。諡號爲“烈”，取《諡法》“以武立功，秉德尊業曰烈”之意。
