Pada Maret 1950, ia tiba di Taiwan dan diangkat menjadi menteri pertahanan, kemudian pada 1954 ia dipromosikan menjadi jenderal bintang empat. Pada 1956, Gu diangkat sebagai sekretaris jenderal Dewan Pertahanan Nasional dan pada 1967 ia diangkat menjadi wakil kepala komite penasihat strategis. Pada 1972, ia menjadi penasihat Chiang Kai-shek. Gu Zhutong meninggal pada 17 Januari 1987.