Shanxi es trobaestà situada sobre un altiplà. En l'est es troba la llarga cadena de les muntanyes Taihang i en l'oest les muntanyes Lüliang. Prop del 70% de la província és muntanyenc, pel que la major part de la població viu en les valls del centre, formats per loess i a través dels quals corre el riu Fen. El punt més alt de la província se situa en el Mont Wutai, amb una altitud de 3.058 metres. A través de la major parteix la seva frontera amb [[Mongòlia Interior]] discorre la Gran Muralla. El riu Groc forma la frontera oest amb [[Shaanxi]]. Els seus afluents, els rius Fen i Qin, corren de nord a sud, formant la conca de la major part d'aquesta zona. El nord és drenat per afluyentes del riu Hai, com el Sanggan i el Hutuo. El major llac natural és el Xie, d'aigua salada i situat prop de Yuncheng, en el sud-oest. El clima és continental monsònic però, a causa de la proximitat del [[desert de Gobi]], des de bufa el vent carregat de [[loess]], és extremadament sec. La temperatura mitjana al gener està per sota dels 0 °C i al juliol oscil·la entre els 21 i els 26 °C. La mitjana de precipitacions anuals està entre els 350 i els 700 mm, amb el 60% concentrats entre juny i agost.
