Chai Shao adalah putra Chai Shen, Adipati Julu. Ia menikahi Putri Pingyang, putri dan jenderal Kaisar Gaozu, pendiri Dinasti Tang, dan membedakan dirinya sebagai jenderal dalam pertempuran antara Dinasti Tang dan Kekhanan Turk Timur. Pada suatu kesempatan, ketika ia menyerang pasukan Tuyuhun yang saat itu mengancam perbatasan, pasukannya hampir kewalahan oleh hujan panah yang deras dari busur musuh. Namun, Chai Shao mengirim beberapa gadis untuk bermain dan menari mengikuti irama gitar Tartar, yang begitu mempesona para prajurit Tartar sehingga mereka berhenti bertempur untuk menonton. Sementara itu, Chai Shao, dengan gerakan strategis yang cepat, berhasil mengepung mereka, dan seluruh pasukan dihancurkan berkeping-keping. Ia membantu Kaisar Taizong dalam mengkonsolidasikan kendalinya atas Kekaisaran Tang. Pada tahun 628, ia diangkat sebagai gubernur Huazhou di Shaanxi.
