山西因地屬太行山以西，故名山西。春秋戰國時期，因山西地區大部分屬晉國，故簡稱“晉”，戰國時稱瓜分晉國的韓、趙、魏為三晉。《商君書·徠民》：“秦之所與鄰者，三晉也。”《戰國策·趙策》：“三晉合而秦弱，三晉離而秦強。”後世以三晉之地大部在山西，故別稱山西為三晉。
秦朝時期地圖
秦統一六國，定都咸陽，建立了中央集權制度，地方實行郡縣制，把全國劃分為36郡，後又不斷增設到40餘郡。
秦朝便在山西地區分置太原、上黨、河東、雁門、代等郡。
西漢時期地圖
西漢時期，漢武帝元封中年置幷州，統領太原、上黨、雁門、定襄、西河、雲中六郡；其時，河東郡屬司隸，代郡屬幽州。
東漢時期地圖
東漢時，幷州始治晉陽，到東漢中期，山西北部、中部、西部成為多民族聚居地區。 東漢時州境擴大至陝北和河套地區，並將朔方郡劃歸。建安十八年(213)幷州併入冀州。
三國時期地圖
三國魏黃初元年(220)復置幷州，領太原、上黨、建興、西河、雁門、樂平、新興等七郡，仍治晉陽，但轄區縮小，至今山西全境。
西晉時期地圖·
西晉時期分置司州、幷州、幽州。
北魏時期地圖
南北朝時期，北魏皇始元年(396)仍屬幷州。天興元年(398)遷都平城,置司州，另置秦、東雍、朔、肆、汾五州。太和十八年(494)遷都洛陽後，改司州為恆州，另置朔、晉、顯、蔚、建五州。
隋朝時期地圖
隋朝建立後，起初在地方取消了郡一級建制，在要衝諸州設總管府，以州刺史兼總管，統領鄰近數州。山西境內幷州、代州、隰州、朔州設總管府。
後來又改州為郡，分置十四郡。太原、上黨、長平、河東、絳郡、臨汾、馬邑、龍泉、西河、離石、雁門、樓煩、定襄各郡。
隋煬帝以李淵為山西河東道慰撫大使，山西之名始於此。
唐朝河東道地圖
唐高祖李淵起兵太原，建立了大唐王朝，山西被唐高祖認為是“龍興”之地，一直把山西作為唐帝國的腹髒地區，封太原為唐王朝的“北都”“北京”。唐朝再此置河東道。
五代後晉時，將山西境內的應州、寰州、朔州、雲州割讓給了契丹
五代地圖
後周廣順元年(951)，劉崇據太原，是為北漢。轄並、汾、遼、沁、石、忻、代、嵐、憲、隆等州。郭威據開封，是為後周。轄澤、潞等州。
北宋河東路地圖
宋太平興國四年(979)滅北漢，改置河東路和永興軍路。遼重熙十三年(1044)晉北分置西京道。
金朝時期地圖
金朝時，在山西分置河東、西京兩路，天會六年(1128)又分河東路為河東南路、河東北路。
元代，在山西置河東山西道宣慰使司，統屬中書省。
明代山西地圖
明洪武元年(1368)置山西行中書省，九年(1376)改為山西等處承宣布政使司，轄太原、大同、平陽、澤州、潞安、汾州六府，遼、沁二直隸州。兼置按察司，分設河東、冀北、冀南、冀寧4道，兼察諸府、州，為省設道之始。
清代山西地圖
清承明制，清改承宣布政使司為山西省，領太原、平陽、蒲州、潞安、汾州、澤州、大同、寧武、朔平九府，平定、忻、代、保德、霍、解、絳、隰、沁、遼十州，歸化城、寧遠 托克托、清水河、薩拉齊、和林格爾六廳，以冀寧道、雁平道、河東道、歸綏道兼察之。
山西省地圖
目前山西省共轄11個地級市80個縣，分別為太原、大同、朔州、沂州、陽泉、呂梁、晉中、長治、晉城、臨汾、運城。