Klenteng ini pertama kali dibangun oleh Kho Ping dan Bon Wie tahun 1746 di Jl. Gang Belakang dan dinamakan Kwan Im Ting (Gazebo Kwan Im) tetapi Klenteng ini dipindahkan ke Jl. Gang Lombok (tempat saat ini) pada tahun 1771 dan dinamakan Tay Kak Sie yang artinya Kuil Kesadaran Agung
Pintu masuk Klenteng Tay Kak SieUkiran Naga di Klenteng Tay Kak Sie
Pada awalnya, Klenteng Tay Kak Sie hanya memuja Kwan Sie Im Po Sat; Dewi Welas Asih. Namun, seiring waktu kelenteng tersebut mulai memuja berbagai Dewa-Dewi Tao.[butuh rujukan]
Dewata tuan rumah di klenteng Tay Kak Sie adalah Dewi Kwan Iem Po Sat. Klenteng Tay Kak Sie mempunyai dewata (yang dipuja) terbanyak di kota Semarang.[butuh rujukan]