山西大學的歷史主要分爲以下三個時期：
1、山西大學堂時期：光緒二十七年9月，山西巡撫岑春煊，奉清政府各省所有書院於省城均設大學堂令，將幷州的晉陽書院和令德堂書院合併，籌辦山西大學堂，敦崇禮擔任西學專齋總教習；
2、國立山西大學時期：1912年初，改名爲山西大學校，1918年確定爲國立山西大學；
3、山西大學時期：1931年改名爲山西大學，1937年8月初，日本侵略者襲擊同蒲路北段及太原，山西省政府命令山西大學及省城各大專學校遷往晉南。2017年7月11日，百度創始人、董事長兼首席執行官李彥宏受邀擔任山西大學大數據學院、山西大學大數據科學與產業研究院名譽院長。
