berita perusahaan tentang Instingtif dan EPYC; VAST Data menjalin kolaborasi CPU/GPU AMD yang luas

John Mao

Pilar Utama Kerjasama yang Perluasan

• -VAST mengadopsi AMD EPYC Gen 6 (nama kode Venice) untuk mendukung platform CBox generasi ke-6 dan EBox generasi ke-3 yang mendasari VAST AI OS. Gen 6 EPYC memiliki PCIe Gen 6,memberikan bandwidth I/O dua kali lipat dan latensi lebih rendah daripada PCIe Gen 5 untuk VAST DataBase dan layanan data AI yang didukung DataEngine termasuk database, gudang data dan streaming acara.
• - Arsitektur Referensi Infrastruktur AI tripartit yang dikembangkan bersama oleh VAST, AMD dan DriveNets, menggabungkan perangkat keras AI skala rak AMD Helios, VAST AI OS dan jaringan DriveNets AI Fabric.Rancangan ini merinci dukungan infrastruktur untuk pelatihan, inferensi, pembelajaran penguatan dan beban kerja KV cache, ditambah panduan ukuran untuk tim membangun pabrik AI.
• Kemitraan ekosistem yang lebih luas dengan TensorMesh, EmbeddedLLM dan vendor lain untuk mempercepat tumpukan inferensi tingkat produksi yang dioptimalkan untuk AI agentik.
• -Cache KV baru dan optimasi kesimpulan menggabungkan GPU AMD Instinct, Infinity Context, perangkat lunak ROCm dan VAST AI OS.
• Manajemen Siklus Hidup KV Cache Otomatis: Memadamkan cache yang menyimpan data pribadi sensitif menimbulkan hambatan kepatuhan perusahaan yang besar.Tumpukan terintegrasi memanfaatkan aturan siklus hidup data asli VAST untuk secara otomatis berakhir dan menghapus data cache KV, memberikan keamanan yang kuat, privasi dan kepatuhan peraturan tanpa pekerjaan administrasi manual.
• -AMD Pensando Pollara 400 AI NIC menciptakan jalur data berkecepatan tinggi yang menghubungkan GPU Instinct ke VAST AI OS.itu lancar shuttles data antara memori GPU dan VAST ′s NVMe SSD penyimpanan cluster, menghidupkan KV cache dan akses penyimpanan penting untuk inferensi skala besar dan agen AI.
• -Penyerapan yang diverifikasi di penyedia cloud AI terkemuka yang menawarkan layanan AI berbasis AMD secara global, termasuk 5C, Core42, Crusoe, EmbeddedLLM, Phanos.AI, TensorWave dan Vultr.