Pada saat Perang Pasifik pecah, ia dimasukkan ke dalam Armada Serbu Spesial ke-3 yang bertugas menginvasi Filipina. Pada 31 Desember, ia harus diperbaiki akibat terkena ranjau laut hingga Agustus 1942. Kemudian ia terlibat dalam beberapa konvoi sebagai pengawal, termasuk diantaranya mengawal Yamato dan Musashi. Ia berjasa dalam menenggelamkan kapal selam USSSculpin pada tanggal 19 November 1943.
Tanggal 22 Oktober 1944, Pertempuran Teluk Leyte pun dimulai. Pada saat itu Yamagumo tergabung dalam armada yang dipimpin oleh Admiral Shouji Nishimura (dikenal dengan Armada Nishimura). Bersama Fusō, Yamashiro, Mogami, Michishio, Asagumo, dan Shigure, Yamagumo berangkat dari Brunei. Sesampainya di Selat Surigao pada dinihari 25 Oktober 1944, mereka disambut oleh Armada Pendukung ke-7 milik Amerika Serikat. Terjadi pertempuran dikenal dengan nama Pertempuran Selat Surigao. Yamagumo sendiri tenggelam setelah ditorpedo oleh USSMcDermut. Dari pertempuran tersebut hanya Shigure yang berhasil selamat.
Hanya ada 2 krunya saja yang selamat.[3] Dia dicoret dari daftar angkatan laut pada tanggal 10 Januari 1945.
Catatan kaki
↑Nelson. Japanese-English Character Dictionary. hal. 346, 942
↑Nishidah, Hiroshi (2002). "Asashio class 1st class destroyers". Materials of the Imperial Japanese Navy. Diarsipkan dari asli tanggal 2012-07-21. Diakses tanggal 2018-02-09.