Malaysia

Pada masa pendudukan Jepang, ia bergabung dengan pasukan Pembela Tanah Air (Peta) yang disponsori oleh Jepang hingga dipercaya menjadi penasihat Gunseikanbu (pemerintah militer Jepang) untuk wilayah Sumatera-Malaya. Berikutnya, ia dipromosikan menjadi komandan unit “Kelelawar” Peta (1943-1944) dan akhirnya sebagai Kepala Staf Peta (1944-1945).^[6]

Menurut catatan Ensilopedia 1001 Tokoh Orang Minang, kedudukannya yang tinggi di Peta dan pemerintah militer Jepang adalah atas penunjukan langsung dari Marsekal Hisaichi Terauchi, Panglima Tinggi Tentara Jepang untuk Daerah Selatan pada masa Perang Dunia II yang berkedudukan di Saigon, Vietnam. Hal itu pulalah yang menyebabkan Ir. Soekarno meminta Abdul Karim Rasjid menjadi penghubung dengan Marsekal Terauchi ketika ia bersama Bung Hatta menemui panglima perang Jepang itu di Dalat, dekat Saigon, guna menerima persetujuan Jepang untuk proklamasi kemerdekaan Indonesia.^[1]

Indonesia

Segera setelah proklamasi kemedekaan, Abdul Karim Rasjid yang berada di Pekanbaru langsung menggabungkan diri dengan tentara Republik. Tak lama kemudian ia diangkat menjadi Deputi Kepala Inteligen Tentara Teritorium (TT) Sumatera di Bukittinggi yang ia jabat hingga tahun 1949. Setelah penyerahan kedaulatan, ia ditarik sebagai perwira yang ditempatkan pada Kepala Staf Angkatan Bersenjata bagian Luar Negeri di Jakarta (1949-1951).^[1]

Berkat pengalamannya di luar negeri, Abdul Karim Rasjid ditunjuk menjadi Atase Militer di Bangkok (Thailand) dan Rangon, Burma (1951-1956). Ketika RI membuka hububungan diplomatik dengan Kamboja (1957), Presiden Soekarno mengangkatnya sebagai Kuasa Usaha lalu menjadi Duta Besar RI yang pertama di Phnom Pehn yang dijabatnya hingga tahun 1965. Selama menjadi duta besar di Kamboja, ia berhasil menjalin kerjasama erat dan meningkatkan hubungan persahabatan kedua Negara. Setelah sembilan tahun di Phnom Penh, tahun 1965 Abdul Karim Rasjid ditunjuk menjadi Duta Besar RI untuk Republik Filipina menggantikan Nazir Datuk Pamontjak yang telah sembilan tahun menempati posisi tersebut.^[1]

Selepas pergantian pemerintahan dari Orde Lama ke Orde Baru menyusul peristiwa G30S/PKI, Abdul Karim Rasjid ditarik ke Markas Besar ABRI di Jakarta. Setelah mengikuti pendidikan Sekolah Staf dan Komando Angkatan Darat (SSKAD), Presiden Soeharto mengangkatnya sebagai Kepala Staf Sekretariat Komandan Militer (semacam Kepala Sekretariat Panglima Angkatan Darat) dan pangkatnya dinaikkan menjadi Mayor Jenderal TNI. Jabatan tersebut dipegangnya hingga tahun 1970 saat ia memasuki usia pensiun.^[1]