Nama lahir Sangallo adalah Antonio Cordiani di Firenze, putra Bartolomeo Piccioni. Kakeknya, Francesco Giamberti adalah seorang tukang kayu, dan pamandanya Giuliano dan Antonio da Sangallo adalah arsitek terkenal pada masa itu. Vasari menulis bahwa Sangallo muda mengikuti pamandanya ke Roma untuk mengejar karier di bidang arsitektur dan dia akhirnya mengambil nama ″Sangallo″.[1] Sangallo magang ke seorang tukang kayu dan kemudian menjadi murid Donato Bramante.
Sebagai asisten Bramante, Sangallo menyiapkan sejumlah sketsa karena ketidakmampuan tuannya, dan diakui karena bakat dan perhatiannya terhadap detail sebagai juru gambar.[2] Karena kesuksesannya, Bramante memberi Sangallo sejumlah proyek untuk diselesaikan dengan tidak lebih dari garis besar desain dan motif. Akhirnya, Sangallo diberi tanggung jawab atas Passetto di Borgo antara apartemen Kepausan dan Castel Sant'Angelo. Proyek khusus itu dibiarkan belum selesai, tetapi meninggalkan Sangallo dengan reputasi kerja sebagai arsitek.[3]