Pendahuluan
Seiring dengan perkembangan data center modern, memori telah menjadi komponen krusial yang memungkinkan kinerja sistem secara keseluruhan. Pertumbuhan pesat beban kerja AI, aplikasi cloud-native, dan analitik data berskala besar menambah beban tuntutan terhadap subsistem memori server untuk dapat berkembang secara kapasitas dan performa. Sementara modul memori berbasis Double Data Rate (DDR) tradisional yang sesuai dengan standar JEDEC seperti Registered Dual Inline Memory Module (RDIMM) telah berevolusi melalui berbagai generasi untuk mengikuti kemajuan teknologi komputasi dan I/O pada server, pendekatan alternatif juga terus dievaluasi. Teknologi memori baru yang telah terbukti di segmen pasar lain seperti perangkat mobile mulai membuka peluang baru untuk meningkatkan efisiensi dan performa server.
Salah satu perkembangan paling menjanjikan adalah memori Low Power Double Data Rate 5X (LPDDR5X) yang digunakan dengan form factor Small Outline Compression Attached Memory Module (SOCAMM2) yang baru saja disetujui JEDEC. Teknologi ini memberikan kombinasi efisiensi daya memori LPDDR5 pada perangkat mobile dengan modularitas dan kemudahan perawatan yang dibutuhkan di lingkungan server.
Tantangan Memori yang Terus Berkembang di Data Center
Dalam banyak server modern, memori bukan lagi sekadar komponen pendukung—melainkan sering menjadi faktor utama dalam kinerja sistem, konsumsi daya, dan kepadatan komputasi secara keseluruhan. Beban kerja yang intensif terhadap memori seperti inferensi AI, analitik real-time, dan database terdistribusi menuntut peningkatan bandwidth memori dan sering kali kapasitas yang lebih besar.
Di sisi lain, konsumsi daya telah menjadi isu penting dalam operasional data center, bahkan hingga dapat membatasi kapasitas dan pertumbuhan data center itu sendiri. Meskipun CPU dan GPU canggih telah lama menjadi target utama sebagai konsumen daya terbesar, memori juga menyumbang sebagian dari total anggaran daya server—dan industri TI berupaya mengurangi konsumsi energi di mana pun memungkinkan. Seiring operator data center berusaha memaksimalkan performa per watt dan menurunkan biaya operasional, mereka menuntut vendor untuk terus meningkatkan efisiensi sistem. AMD telah unggul dengan menawarkan performa dan efisiensi terdepan pada CPU, dan kini efisiensi memori menjadi tujuan desain yang semakin penting.
Di sinilah memori LPDDR5X SOCAMM2 kemudian mulai menjadi relevan.
Apa itu LPDDR5X SOCAMM2?
LPDDR5X adalah teknologi memori berdaya rendah yang awalnya dikembangkan untuk perangkat mobile dan klien. Dibandingkan dengan memori DDR konvensional, LPDDR5X dirancang untuk beroperasi pada tegangan lebih rendah sambil mendukung kecepatan data tinggi per pin, sehingga meningkatkan efisiensi energi. Karakteristik ini menjadikannya sangat menarik untuk lingkungan yang membutuhkan efisiensi daya dan bandwidth tinggi. Terlihat seperti peluang untuk server, bukan? Namun, ada satu kendala: modul LPDDR5 dirancang untuk disolder langsung ke motherboard perangkat, sehingga membatasi kemampuan upgrade dan menyulitkan perawatan. Implementasi SOCAMM sebelumnya yang bersifat proprietari untuk server mencoba mengatasi keterbatasan ini, tetapi berkembang cepat seiring industri bergerak menuju dukungan ekosistem yang lebih luas dan standarisasi.
Server data center membutuhkan pendekatan yang lebih modular, mudah diservis, dan mendukung banyak vendor seperti DIMM. Standar SOCAMM2 menjawab tantangan ini dengan menyediakan form factor modular terbuka yang konsisten, dirancang khusus untuk memori LPDDR di lingkungan server. Modul SOCAMM2 memungkinkan LPDDR5X digunakan dalam bentuk yang dapat diganti dan dirawat, menggabungkan efisiensi LPDDR dengan fleksibilitas operasional yang dibutuhkan data center.
Mengapa LPDDR5X Dapat Memberikan Dampak bagi Server?
Keunggulan utama LPDDR5X terletak pada efisiensi energinya. Dibandingkan dengan teknologi memori server DDR5 tradisional, LPDDR5X dirancang untuk beroperasi pada tegangan yang lebih rendah dan dioptimalkan dengan teknologi untuk mengurangi konsumsi daya baik saat beroperasi aktif maupun dalam status idle. Dalam penerapan skala besar, bahkan peningkatan kecil dalam efisiensi memori per server dapat menghasilkan penghematan signifikan pada biaya listrik dan pendinginan—mengingat setiap server kelas atas dapat memiliki memori hingga terabyte.
Keunggulan besar lainnya adalah bandwidth. LPDDR5X mendukung laju data yang sangat tinggi, memungkinkan server memindahkan data dengan cepat antara prosesor dan memori. Tentu saja, DDR5 juga terus meningkatkan kecepatan datanya, dengan RDIMM generasi berikutnya menargetkan lebih dari 8.000 MT/s dan MRDIMM standar JEDEC yang direncanakan mencapai 12.800 MT/s atau lebih. Untuk beban kerja yang sangat bergantung pada throughput memori seperti inferensi AI, streaming data, dan layanan web berskala besar, bandwidth yang lebih tinggi dapat secara signifikan meningkatkan performa. Secara kombinasi, karakteristik ini membantu server memberikan performa yang lebih baik per watt. Pada tahun 2027, tampaknya pelanggan akan memiliki pilihan teknologi memori yang semakin kuat berdasarkan prioritas seperti konsumsi energi, keandalan, ketersediaan dan kemudahan servis (RAS), serta biaya.
SOCAMM2 vs Memori Server RDIMM Tradisional
Seperti disebutkan, memori server standar industri biasanya dikemas dalam bentuk DDR5 RDIMM (dan dalam waktu dekat, MRDIMM standar JEDEC), yang menawarkan kapasitas tinggi, kapabilitas kuat, dan dukungan ekosistem yang matang, namun umumnya mengonsumsi daya lebih besar dan membutuhkan ruang fisik yang lebih luas. Gambar 1 di bawah ini menyoroti perbedaan dimensi fisik dan jenis konektor.
Gambar 1: Modul memori RDIMM dan SOCAMM2 (sumber: AMD)
Modul SOCAMM2 yang berisi memori LPDDR5X dirancang untuk mengonsumsi energi lebih sedikit serta memiliki bentuk fisik yang lebih kecil dan menggunakan interkoneksi horizontal baru ke papan sistem. Hal ini memungkinkan memori yang:
- Menggunakan ruang fisik lebih sedikit di dalam server; dan
- Dipasang secara horizontal untuk memungkinkan aliran udara sistem yang lebih baik atau desain cold plate yang lebih sederhana.
Kombinasi ini memungkinkan perancang sistem membangun server yang dioptimalkan untuk efisiensi sambil tetap mempertahankan kemudahan servis modular yang diharapkan oleh operator di lingkungan produksi.
Meskipun ini merupakan keunggulan yang jelas, ada satu area yang perlu diperkuat oleh teknologi LPDDR5X agar dapat menyamai kemampuan yang telah mapan pada DIMM DDR siap pusat data: RAS (Reliability, Availability, and Serviceability). Desain LPDDR5 untuk perangkat mobile tidak memiliki tuntutan uptime dan koreksi kesalahan yang sama seperti operasi server 24/7. Modul DRAM server telah terbukti memiliki Error Correction Code (ECC) pada level chip (on-die) yang mencakup operasi sel memori, serta dilengkapi ECC pada level DIMM untuk membantu memperbaiki kesalahan di seluruh modul—termasuk dukungan untuk kesalahan pada level link dan kegagalan multi-bit. Modul ini juga sering memiliki memori cadangan (“spare”) yang memungkinkan sebagian kegagalan komponen tanpa mengganggu operasi sistem.
Gelombang baru produk LPDDR5X SOCAMM2 dirancang untuk menutup sebagian kesenjangan ini—dengan vendor yang mengembangkan peningkatan seperti chip tambahan dalam paket, perangkat lunak, dan fitur berbasis memory controller untuk memperkuat kemampuan RAS. Namun, bahkan modul yang telah ditingkatkan ini masih memerlukan lebih banyak kemampuan untuk menyamai tingkat keandalan RDIMM yang telah terbukti dan sangat penting bagi sebagian besar lingkungan server. Kemampuan ini akan terus disempurnakan seiring waktu, seperti halnya RAS pada DDR yang berkembang dari generasi ke generasi. Sementara itu, kemampuan RAS LPDDR5X saat ini mungkin masih membatasi penggunaannya pada kasus tertentu, terutama di lingkungan dengan software stack yang sangat tangguh dan tidak memerlukan seluruh kemampuan RAS berbasis hardware seperti pada RDIMM.
Dengan potensi ini, banyak produsen DRAM terkemuka dunia mulai menyiapkan portofolio produk LPDDR5X SOCAMM2. Micron Technology, Samsung, dan SK hynix telah mengumumkan atau mendemonstrasikan produk awal untuk memenuhi kebutuhan server generasi berikutnya, khususnya di lingkungan yang menuntut performa per watt yang tinggi.
Mendorong Inovasi Desain Sistem
Untuk penerapan server dan pusat data baru, SOCAMM2 membuka peluang desain baru. Konsumsi daya memori yang lebih rendah memungkinkan kepadatan server yang lebih tinggi dalam satu rak. Ketika setiap sistem menggunakan energi lebih sedikit dan menghasilkan panas lebih rendah, operator pusat data dapat menempatkan lebih banyak sumber daya dalam ruang fisik yang sama. Pengurangan panas juga menyederhanakan kebutuhan pendinginan, yang pada akhirnya dapat menurunkan biaya infrastruktur. Selain itu, ukuran modul SOCAMM2 yang lebih ringkas memungkinkan tata letak sistem yang lebih fleksibel, termasuk potensi ukuran sistem yang lebih kecil atau optimalisasi untuk skenario deployment yang sangat mengutamakan efisiensi.
Ekosistem Memori Berperan
Kebutuhan untuk mengurangi konsumsi energi dirasakan di seluruh ekosistem sistem—setiap watt sangat berarti. Seperti disebutkan sebelumnya, meningkatnya kebutuhan performa dan kapasitas server menjadikan memori sebagai titik optimalisasi yang penting, dan industri memori merespons melalui pengembangan LPDDR5X dan SOCAMM2. Tantangan energi ini membutuhkan kolaborasi erat dari seluruh ekosistem.
Melihat ke Depan
DRAM dan RDIMM standar JEDEC telah memberikan peningkatan performa dan efisiensi yang luar biasa, dan diperkirakan akan tetap menjadi standar untuk komputasi umum selama bertahun-tahun ke depan berkat fungsi RAS yang matang, volume produksi besar, biaya yang terjangkau, serta roadmap pengembangan yang kuat menuju DDR6 dan seterusnya.
Namun, seiring beban kerja data center dan model deployment yang semakin beragam, industri juga mengeksplorasi arsitektur memori dan sistem tambahan yang menekankan performa per watt. Memori LPDDR5X SOCAMM2 merupakan salah satu langkah ke arah tersebut dengan menggabungkan bandwidth tinggi, konsumsi daya rendah, dan modularitas yang dibutuhkan di lingkungan server.
Selain kepemimpinan teknis dalam kontribusi terhadap standar memori JEDEC, AMD juga bekerja sama dengan produsen memori terkemuka dalam mengembangkan platform server generasi berikutnya untuk memastikan kompatibilitas serta optimasi yang diperlukan guna mencapai target performa per watt pada tingkat solusi.
Adopsi LPDDR5X SOCAMM2 pada CPU Server AMD EPYC
Keluarga CPU server AMD EPYC generasi ke-enam akan mendukung memori DDR5 RDIMM dan MRDIMM standar industri. Selain itu, akan tersedia SKU yang mendukung memori LPDDR5X berbasis SOCAMM2 yang baru. Di pasar server, AMD berencana untuk pertama kali mendukung memori LPDDR5X SOCAMM2 melalui CPU server AMD EPYC generasi ke-enam dengan nama kode “Verano” yang dijadwalkan tersedia pada tahun 2027. Verano akan menjadi CPU host yang dioptimalkan untuk generasi mendatang GPU AMD Instinct dan memanfaatkan LPDDR5X SOCAMM2 untuk menghadirkan performa per watt sistem yang optimal dalam solusi AI skala rak dari AMD. Kombinasi bandwidth, efisiensi daya, dan kemudahan servis ini diharapkan menjadikan LPDDR5X SOCAMM2 sebagai komponen pelengkap yang sangat bernilai dalam infrastruktur AI dan data center generasi berikutnya.
Foto: AMD
