中國歷史上第一個奴隸制國家政權夏朝建立在山西南。
商代，山西是商的主要統治區。
周代，晉國由山西境內崛興。晉文公曾爲春秋五霸之一。
秦、漢、魏、晉時期，山西在政治、軍事、經濟、文化等各個方面，都起着舉足輕重的作用。
南北朝時期，山西是北朝統治的中心地帶，北魏曾以平城爲都，東魏、北齊曾以晉陽爲別都，陪都。
唐太宗李世民起兵太原，建立了大唐王朝，由此山西被唐太宗認爲是龍興之地，封太原爲唐王朝的北都，北京。
宋朝時期，山西是中國北方的主要發達地區。
元代，全國共11個行省，山西與山東、河北，並稱爲元朝腹地，大同、平陽、太原三城則成爲黃河流域的著名都會。
