Meta Gunakan RAM DDR4 Lawas untuk Server AI, Efisienkah?

Teknologi CXL untuk Mengakali Batasan Teknis

Meta menggunakan chip Vistara untuk menghubungkan RAM DDR4 lawas ke server AI generasi terbaru yang secara bawaan pabrik hanya mendukung memori DDR5. Server AI baru Meta, yang dijuluki “MemServers”, ditenagai oleh prosesor AMD Epyc Turin yang sangat bertenaga (158 core dan 316 thread). Prosesor Turin ini secara teknis tidak mendukung RAM DDR4, namun berkat chip Vistara, setiap unit MemServer kini dapat memuat total memori gabungan sebesar 1 TB.

Bagaimana Sistem Ini Bekerja

Rahasia keberhasilan sistem ini terletak pada bagaimana perangkat lunak Vistara memperlakukan kumpulan RAM DDR4 sebagai NUMA node terpisah tanpa CPU. Dengan cara ini, sistem akan secara otomatis memilah data. Data yang paling sering diakses (hot pages) akan disimpan di memori DDR5 yang melesat cepat. Sementara itu, data yang jarang digunakan atau diakses (cold pages) akan “dilempar” ke kumpulan RAM DDR4 yang lebih lambat.

Mengapa Meta Melakukan Ini?

Langkah efisiensi ini dilakukan Meta karena harga komponen memori global yang meroket. Dengan menggunakan kembali RAM DDR4 lawas, Meta dapat menekan anggaran infrastruktur tanpa mengorbankan performa pemrosesan AI mereka. Selain itu, langkah ini juga membantu mengurangi kebutuhan jumlah server inferensi AI hingga 25%, serta mengurangi beban sistem tambahan (seperti job-restart dan fragmentasi) sebesar 33%.

Apa Artinya Ini ke Depan?

Langkah efisiensi lewat teknologi CXL ini tampaknya mulai menjadi tren di kalangan raksasa teknologi (hyperscaler). Selain Meta, perusahaan semikonduktor fabless asal Korea Selatan, Panmnesia, juga mempresentasikan teknologi chip pengontrol CXL kustom mereka. Teknologi tersebut menawarkan alternatif solusi bagi berbagai perusahaan untuk memadukan perangkat keras beda generasi demi menekan anggaran belanja komponen server yang kian mencekik.

Jalan Panjang yang Masih Harus Ditempuh

Meski telah mencapai hasil yang signifikan, Meta masih harus terus mengembangkan teknologi CXL untuk meningkatkan efisiensi dan performa pemrosesan AI mereka. Dengan terus berinovasi, Meta dapat mempertahankan posisinya sebagai pemimpin di bidang teknologi AI sambil tetap memperhatikan efisiensi dan keberlanjutan.

Disclaimer: This article was automatically rewritten by AI based on source: https://inet.detik.com/business/d-8559250/meta-daur-ulang-ram-ddr4-lawas-untuk-server-ai, without altering the facts of the original article.