山東作爲地區名稱，歷史上出現很早，而且變化很大。春秋時期，晉國居太行山以西，稱太行山以東爲“山東”。北魏建都平城，五代時晉亦在太行山以西，故沿用古晉稱太行山以東爲“山東”。戰國、秦、漢時期則是指崤函以東地區。因爲秦在關中，故稱崤函以東六國（楚、齊、韓、魏、趙、燕）爲山東六國，或雲關東六國。此時山東與關東意義相同。秦漢一統之後，關中與山東（或關東）在政治上的對立沮失，山東的含義也發生了變化，出現廣、狹兩義。廣義的山東是沿襲戰國時的舊概念，狹義的山東有專指齊魯地區的意義。《史記·酷吏列傳》載：御史大夫齊地菑川國薛（今山東壽光南）人公孫弘說：“臣居山東爲小吏（薛邑獄吏）時，寧成爲濟南都尉。”又《史記·儒林傳》：伏生“教於齊魯之間，學者由是頗能言《尚書》，諸山東大師，無不涉《尚書》以教矣。”齊魯之有山東之稱，當濫觴於此。至於山東成爲行政區劃，是又經歷了數百年演變過程的。
