Sima Guang lahir pada tahun 1019 di Yuncheng, Shanxi. Ia dilahirkan di keluarga yang kaya dan pada awalnya mencapai kesuksesan sebagai seorang ahli dan perwira. Keluarganya sebenarnya berasal dari Kabupaten Xia di Prefektur Shan dan Sima Guang sendiri menyatakan bahwa dirinya merupakan keturunan dari politikus abad ke-3 Tiongkok Sima Fu. Ketika ia berusia dua puluh tahun, ia lulus ujian kepegawaian negeri kekaisaran dan memperoleh peringkat tertinggi jìnshì.