Bangunan museum bercirikan istana Melayu tradisional negara bagian Terengganu. Desain gedung dipilih sendiri oleh Tunku Abdul Rahman. Pada bagian depan museum dipasang dinding mosaik yang menceritakan kegiatan ekonomi, adat istiadat, dan budaya Malaysia.
Museum ini menempati bekas lokasi Museum Selangor yang dibangun pada tahun 1899. Pada tanggal 10 Maret1945, sayap kanan museum dan sebagian besar artefak hancur akibat serangan udara Angkatan Udara Tentara Sekutu.[2]