Sektor flash dan memori global mengalami aktivitas yang intens selama akhir pekan, menampilkan perselisihan Micron-Apple, pembicaraan sumber chip Anthropic dengan SK Hynix, kemitraan baru Nvidia-SK Hynix, kemajuan DRAM 3D SK Hynix, dan inovasi pengumpulan memori CXL Samsung.
SK Hynix mendominasi berita industri terbaru. Analis Citrini, Jukan, mengonfirmasi perusahaan sedang mengembangkan DRAM bertumpuk 3D, didukung oleh perekrutan strategis insinyur desain DRAM-on-logic bertumpuk 3D melalui anak perusahaan AS-nya di San Jose. Perekrutan tersebut menargetkan talenta yang mampu merancang bersama chip logika DRAM bertumpuk 3D dengan berbagai pelanggan yang berbasis di AS.
Arsitektur baru ini menumpuk DRAM 3D di atas prosesor semikonduktor sistem. Mengintegrasikan DRAM dan logika pada satu chip memberikan konektivitas antar-chip yang lebih cepat dan konsumsi daya yang lebih rendah daripada pengikatan package-on-package (PoP) tradisional dari paket memori dan logika yang terpisah.
Jukan mencatat teknologi ini menargetkan perangkat beban kerja AI yang membutuhkan bandwidth memori tinggi dan konsumsi daya rendah, terutama prosesor aplikasi seluler smartphone — memposisikan Apple sebagai pelanggan potensial utama bagi SK Hynix.
SK Group telah memperluas kemitraan strategisnya dengan Nvidia melalui surat niat formal, membentuk kolaborasi senilai lebih dari $500 miliar. SK Telecom akan membangun Pabrik AI Nvidia Vera Rubin DSX berkapasitas 2 gigawatt sebagai penyedia cloud baru untuk memenuhi permintaan komputasi global. Chip Vera Rubin akan mengadopsi memori HBM4 SK Hynix, dengan Pabrik AI pertama dijadwalkan diluncurkan pada tahun 2027.
Kemitraan ini bertujuan untuk mempercepat pengembangan infrastruktur AI skala besar, mencakup layanan AI kedaulatan, fisik, agentik, dan perusahaan, serta mengatasi lonjakan permintaan AI di seluruh Korea Selatan dan wilayah Asia-Pasifik yang lebih luas. SK Hynix juga akan meluncurkan kemitraan memori AI jangka panjang dengan Nvidia, mengamankan pasokan memori AI generasi berikutnya yang stabil untuk Nvidia sambil meningkatkan kapasitas produksi SK Hynix. Kedua belah pihak akan bersama-sama mengembangkan dan mengoptimalkan HBM dan solusi memori AI lainnya untuk pelatihan LLM, skenario AI agentik dan fisik.
Ketua SK Group, Chey Tae-won, menyatakan kolaborasi ini akan memanfaatkan kekuatan memori AI SK Hynix dan infrastruktur SK Telecom untuk membangun pabrik AI kelas dunia, mengubah Korea Selatan dari pengadopsi AI menjadi pusat inovasi AI global.
Mantan CEO Intel, Pat Gelsinger, secara terbuka mengkritik HBM selama obrolan santai industri Korea, menyebutnya sebagai solusi memori yang belum sempurna. Ia menyoroti kelemahan utama HBM: masalah penumpukan termal, batasan konektivitas yang dibatasi oleh garis tepi GPU, efisiensi daya yang buruk, dan inefisiensi bit — mengorbankan sekitar empat bit memori per bit operasional yang efektif. Gelsinger tetap mengakui HBM adalah solusi terbaik yang layak tersedia saat ini.
Wakil Presiden Senior SK Hynix, Hoshik Kim, sebagian mendukung pandangan Gelsinger, menyatakan HBM tidak dapat secara fundamental menyelesaikan hambatan dinding memori AI yang melekat. Ia mengklarifikasi bahwa HBM hanya berfungsi sebagai tindakan mitigasi sementara, sementara SK Hynix secara aktif mengembangkan solusi alternatif untuk mengatasi tantangan dinding memori inti.
Menurut Bloomberg, perusahaan AI terkemuka AS, Anthropic, sedang bernegosiasi dengan SK Hynix untuk pasokan chip memori khusus guna mendukung prosesor AI internal kustomnya. Ketua SK Group, Chey Tae-won, mengungkapkan berita tersebut di KTT AI San Francisco Juli 2024, di mana CEO Anthropic, Dario Amodei, juga berbicara, memuji tujuan pengembangan perangkat keras ambisius Anthropic di tengah upaya industri yang meluas untuk memecahkan dominasi GPU Nvidia. Amodei tidak menanggapi komentar tersebut secara publik.
Samsung telah mencapai kinerja DRAM mendekati asli untuk beban kerja inferensi AI menggunakan memori gabungan CXL eksternal untuk offloading cache KV, menurut blog teknologi resminya. LLM mengandalkan cache KV untuk menyimpan kunci dan nilai perhatian yang dihitung untuk mengurangi latensi inferensi dan komputasi berulang, namun model besar membutuhkan ratusan gigabyte cache, yang dengan mudah melebihi memori prosesor AI onboard. Offloading berbasis SSD atau jaringan konvensional meringankan batasan kapasitas tetapi menimbulkan latensi tambahan dan overhead bandwidth.
Teknologi CXL memecah batasan fisik DRAM tradisional melalui interkoneksi PCIe koheren bandwidth tinggi, memungkinkan pengumpulan memori yang dapat diskalakan di berbagai perangkat melalui switch CXL. CMM-D (CXL Memory Module-DRAM) Samsung dibuat khusus untuk arsitektur memori yang diperluas ini.
Samsung menguji modul CMM-D-nya dengan GPU Nvidia RTX PRO 6000 Blackwell melalui PCIe Gen5, membangun kumpulan memori CXL 1TB dengan optimasi perangkat lunak vLLM dan LMCache. Pengujian memverifikasi kumpulan tersebut mendukung offloading cache KV skala besar dengan kinerja mendekati DRAM. Dalam pengaturan GPU tunggal, pengumpulan CXL yang dioptimalkan menyamai kinerja DRAM sebagai backend LMCache. Dalam lingkungan multi-GPU delapan GPU, ia mempertahankan 92% throughput DRAM asli dengan kapasitas memori yang jauh lebih besar.
Pengujian lebih lanjut membandingkan pengaturan DRAM lokal 512GB dan kumpulan CXL 1TB di bawah beban cache KV yang meningkat. DRAM lokal mengalami penurunan kinerja yang parah akibat perhitungan ulang cache berulang setelah kapasitas terlampaui, sementara kumpulan CXL mempertahankan kinerja yang stabil dan mendukung jejak cache yang jauh lebih besar. Detail pengujian lengkap tersedia dalam white paper Samsung yang dapat diunduh.
Samsung mencatat penerapan switch CXL saat ini memerlukan penyesuaian kernel dan perangkat lunak tingkat host untuk LMCache dan komponen lainnya. Meskipun demikian, pengumpulan memori berbasis CXL 3.0 menunjukkan potensi aplikasi yang kuat, dengan pematangan ekosistem yang berkelanjutan melalui platform switch CXL 3.0 Intel DMR, AMD Venice, dan baru untuk menghilangkan keterbatasan teknis yang ada.
Terakhir, muncul keretakan yang semakin besar antara Micron dan Apple. Mengutip laporan WSJ, Jukan dari Citrini mengungkapkan Apple sedang melobi Gedung Putih untuk persetujuan penyebaran DRAM CXMT yang terdaftar di entitas China di perangkatnya, sementara Micron mengajukan banding tandingan untuk memblokir adopsi chip CXMT. Gesekan tersebut berasal dari dendam lama yang dipegang oleh CEO Micron, Sanjay Mehrotra, sejak masa jabatannya di Sandisk ketika Apple memaksakan harga memori flash yang rendah selama pasar pembeli. Dengan pasar memori saat ini yang menguntungkan pemasok, Mehrotra dilaporkan tidak bersedia untuk melonggarkan batasan harga dan pasokan untuk Apple.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Direktur Strategi Global
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Situs Web: www.qianxingdata.com/www.storagesserver.com
Fokus Bisnis:
Distribusi Produk ICT/Integrasi Sistem & Layanan/Solusi Infrastruktur
Dengan pengalaman distribusi TI lebih dari 20 tahun, kami bermitra dengan merek global terkemuka untuk memberikan produk yang andal dan layanan profesional.
“Menggunakan Teknologi untuk Membangun Dunia yang Cerdas”Penyedia Layanan Produk ICT Tepercaya Anda!
Pesan Anda harus antara 20-3.000 karakter!
Indonesian
