左手一指太行山，右手一指是吕梁，中间相隔是汾河，这就是山西省的基本地理格局。两山夹一河，山西省地处黄河中游东岸，华北平原的西侧，东以太行山为界与河北相邻，西侧、南侧大致以黄河为界和陕西、河南相望，北侧以外长城为界和内蒙古毗连，整体被围合成一个平行四边形。
除了太行山和吕梁山外，山西省自北往南还分布有恒山、云中山、太岳山、王屋山和中条山等等，每一座山都雄伟挺拔、脉络清晰，最高峰是五台山的叶斗峰，海拔3058米。与它们依偎环绕的分别有汾河、沁河、永定河、子牙河、漳河等河流，山水交融，生生不息。
其中汾河是山西省最大的河流，也是山西省的母亲河以及黄河的第二大支流。永定河、子牙河、漳河等河流也均发源于山西省，共同流向华北平原，因此山西省也被誉为华北水塔。
在山与水的作用之下也构造了山西省的六大盆地，分别为大同盆地、忻定盆地、太原盆地、临汾盆地、长治盆地以及运城盆地。山西省的主要城市也都择址于此，且历史悠久。
人们常说地下文物看陕西，地上文物看山西，因为山西的古建位居全国第一，小到亭台阁楼，大到古城古镇，因此山西也被誉为中国古建宝库。比如太原的晋祠，这是我国现存最早的皇家祭祀园林。大同的云冈石窟和悬空寺，其中云冈石窟是三大佛教石窟之一，悬空寺是我国仅存的儒、释、道三教合一寺庙。
忻州有四大佛教圣地之一的五台山，晋城有皇城相府，运城有解州关帝庙，晋中有我国四大古城之一的平遥古城，还有王家大院、乔家大院、常家庄园等等，这些都是山西非常知名的古迹。
另外，名关险隘在山西也是分布众多，地处忻州市的雁门关就是长城上的重要关隘，以险著称被誉为中华第一关，有天下九塞雁门为首之说。汉武帝时名将卫青、霍去病、李广都曾经驰骋在雁门古塞内外，与匈奴浴血鏖兵。在阳泉市有座关隘称之为娘子关，因唐朝平阳公主曾率兵驻守于此，因而得名。
除此之外，还有杀虎口、平型关、偏头关等重要关隘，各朝各代的古建筑在山西大地上展示着辉煌的历史，为后人留下了宝贵的财富。
现在的山西共下辖11个地级市，省会太原市，常住人口约3480万，是一个地肥水美五谷香，晋善晋美好风光的三晋大地。