Museum tersebut didirikan pada Agustus 1955 dengan Balai Peringatan Perdamaian Hiroshima (sekarang Pusat Konferensi Internasional Hiroshima). Tempat tersebut merupakan tempat wisata paling terkenal di Hiroshima bagi kunjungan sekolahan dari seluruh belahan Jepang dan untuk para pengunjung internasional. 53 juta orang telah mengunjungi museum tersebut dari pembukaannya pada 1955 sampai 2005, rata-rata lebih dari sejuta pengunjung per tahun. Arsitek gedung utamanya adalah Kenzō Tange.
