Akselerator AMD Instinct MI300X Tersedia Dalam Infrastuktur Oracle Cloud untuk Beban Aplikasi AI

• Pelanggan termasuk Fireworks AI mentenagai beban kerja inferensi dan pelatihan AI mereka dengan instans OCI Compute baru –
• OCI Supercluster memimpin di antara penyedia cloud dengan dukungan hingga 16.384 GPU AMD Instinct MI300X dalam satu jaringan fabric ultrafast–

SANTA CLARA, California, — 26 September 2024 — AMD (NASDAQ: AMD) hari ini mengumumkan bahwa Oracle Cloud Infrastructure (OCI) telah memilih akselerator AMD Instinct™ MI300X dengan software terbuka ROCm™ untuk mendukung instans OCI Compute Supercluster terbarunya yang disebut BM.GPU.MI300X.8. Untuk model AI yang dapat mencakup ratusan miliar parameter, OCI Supercluster dengan AMD MI300X mendukung hingga 16.384 GPU dalam satu kluster dengan memanfaatkan teknologi jaringan fabrikasi ultrafast yang sama yang digunakan oleh akselerator lain pada OCI. Dirancang untuk menjalankan beban kerja AI yang menuntut termasuk inferensi dan pelatihan large language model (LLM) yang memerlukan throughput tinggi dengan kapasitas memori dan bandwidth terdepan, instans bare metal OCI ini telah diadopsi oleh perusahaan termasuk Fireworks AI.

“Software terbuka AMD Instinct MI300X dan ROCm terus mendapatkan momentum sebagai solusi tepercaya untuk mendukung beban kerja AI OCI yang paling penting,” ucap Andrew Dieckmann, corporate vice president and general manager, Data Center GPU Business, AMD. “Seiring dengan perluasan solusi ini ke pasar yang semakin intensif AI, kombinasi ini akan menguntungkan pelanggan OCI dengan kinerja tinggi, efisiensi, dan fleksibilitas desain sistem yang lebih besar.”

“Kemampuan inferensi akselerator AMD Instinct MI300X menambah pilihan ekstensif instans bare metal berkinerja tinggi milik OCI untuk menghilangkan beban komputasi virtual yang umum digunakan untuk infrastruktur AI,” kata Donald Lu, senior vice president, software development, Oracle Cloud Infrastructure. “Kami senang dapat menawarkan lebih banyak pilihan bagi pelanggan yang ingin mempercepat beban kerja AI dengan harga yang kompetitif.”

Memberikan Performa Terpercaya dan Pilihan Terbuka untuk Pelatihan dan Inferensi AI

AMD Instinct MI300X menjalani pengujian ekstensif yang divalidasi oleh OCI yang menggarisbawahi kemampuan inferensi dan pelatihan AI-nya untuk menghadapi kasus penggunaan latensi optimal, bahkan dengan ukuran batch yang lebih besar, dan kemampuan untuk memasukkan model LLM terbesar dalam satu node. Hasil performa Instinct MI300X ini telah menarik perhatian pengembang model AI.

Fireworks AI menawarkan platform kencang yang dirancang untuk membangun dan menerapkan AI generatif. Dengan lebih dari 100 model, Fireworks AI memanfaatkan manfaat performa yang ditemukan di OCI menggunakan AMD Instinct MI300X.

“Fireworks AI membantu perusahaan membangun dan menerapkan sistem AI gabungan di berbagai industri dan kasus penggunaan,” ucap Lin Qiao, CEO of Fireworks AI. ” Jumlah kapasitas memori yang tersedia pada software terbuka AMD Instinct MI300X dan ROCm memungkinkan kami untuk meningkatkan layanan kepada pelanggan kami seiring dengan terus berkembangnya model.”

Sumber Pendukung

• Ikuti AMD di LinkedIn
• Ikuti AMD di Twitter

Tentang AMD

Selama lebih dari 50 tahun AMD telah mendorong inovasi dalam komputasi berperforma tinggi, grafik, dan teknologi visualisasi. Miliaran orang, bisnis terkemuka Fortune 500, dan lembaga penelitian ilmiah mutakhir di seluruh dunia mengandalkan teknologi AMD setiap hari untuk meningkatkan cara mereka hidup, bekerja, dan bermain. Karyawan AMD berfokus pada pengembangan produk berperforma tinggi dan adaptif yang mendorong batasan dari apa yang mungkin. Untuk informasi lebih lanjut tentang bagaimana AMD memungkinkan hari ini dan menginspirasi masa depan, kunjungi halaman website, blog, LinkedIn, dan Twitter AMD (NASDAQ: AMD).