Jabatan Jaksa Agung dibentuk oleh Kongres pada 1789. Tugas-tugas asli dari pejabat ini adalah "menuntut dan melaksanakan semua tuntutan hukum Mahkamah Agung yang berkaitan dengan Amerika Serikat, dan memberikan nasihat dan pandangannya tentang masalah-masalah hukum apabila diminta oleh Presiden Amerika Serikat, atau apabila diminta oleh kepala departemen manapun juga." (Undang-Undang Kehakiman tahun 1789, pasal 35.) Baru pada 1870 Departemen Kehakiman dibentuk untuk mendukung Jaksa Agung dalam melaksanakan tanggung jawabnya.
Jaksa Agung tampil secara pribadi untuk mewakili Pemerintah di hadapan Mahkamah Agung dalam kasus-kasus yang sangat penting.
Endmund Randolph adalah Jaksa Agung Amerika Serikat yang pertama.