Terboven lahir di Essen, Jerman, dan bersekolah di Volksschule dan Realschule sebelum ia mendaftar sebagai sukarelawan untuk dinas militer selama Perang Dunia Pertama. Setelah perang, ia belajar hukum dan ilmu politik di Universitas Munich dan Universitas Freiburg, tempat ia pertama kali terlibat dalam politik. Terboven bergabung dengan Partai Nazi pada tahun 1923, berpartisipasi dalam upaya kudeta Bierkeller dan akhirnya naik pangkat menjadi Gauleiter Essen dan editor berbagai surat kabar Nazi. Setelah Nazi merebut kekuasaan pada tahun 1933, Terboven dipromosikan menjadi SA-Gruppenführer dan diangkat menjadi anggota Dewan Negara Prusia.
isi yang memberinya kekuasaan dan kendali yang signifikan. Terboven mendirikan beberapa kamp konsentrasi di Norwegia, dengan kejam menganiaya penduduk Yahudi dan berfokus pada penghancuran gerakan perlawanan Norwegia. Tindakannya menyebabkan banyak kekejaman, seperti pembantaian Beisfjord di mana ratusan tahanan politik dan tawanan perang Yugoslavia dibunuh.
Ketika gelombang perang berbalik melawan Jerman, Terboven menerapkan kebijakan bumi hangus di Norwegia utara yang mengakibatkan evakuasi paksa 50.000 warga Norwegia dan kehancuran yang meluas. Ia berharap dapat mengubah Norwegia menjadi benteng bagi perlawanan terakhir rezim Nazi. Namun, setelah Adolf Hitler bunuh diri, penggantinya, Laksamana Besar Karl Dönitz, memecat Terboven dari jabatannya sebagai Reichskommissar pada 7 Mei 1945.
Pada 8 Mei 1945, hari penyerahan Jerman, Terboven meninggal karena bunuh diri dengan meledakkan 50 kg (110 lbs) dinamit di sebuah bunker di kompleks Skaugum di Norwegia. Keluarganya selamat di Jerman Barat, dan istrinya, Ilse (Stahl) Terboven meninggal pada tahun 1972.