Shanxi bila diterjemahkan berarti "barat gunung", yang menununjuk ke lokasi provinsi ini yang terletak di sebelah barat Gunung Taihang. Shanxi berbatasan dengan Hebei di timur, Henan di selatan, Shaanxi di barat, dan Mongolia Dalam di utara. Ibu kota dari Shanxi adalah Taiyuan.