MLPerf Storage v3.0 menambahkan lapisan data S3 ke kerangka kerja POSIX yang ada, bersama dengan beban kerja KV Cache dan basis data vektor baru,menyelaraskan kriteria benchmark dengan persyaratan sistem data AI modern.
Dikembangkan oleh MLCommons, MLPerf Storage benchmark awalnya mengevaluasi kinerja penyimpanan untuk beban kerja pelatihan pembelajaran mesin termasuk Unet3D, Cosmoflow dan Resnet50,menggunakan perangkat keras NVIDIA A100 dan H100 GPUVersi 3.0 menampilkan restrukturisasi uji yang komprehensif, yang berpusat pada empat skenario beban kerja inti.
Kerangka pengujian yang diperbarui mencakup pelatihan AI berdasarkan Unet3D dan RetinaNet yang mengukur skalabilitas akselerator maksimal sambil mempertahankan pemanfaatan lebih dari 90%,disimulasikan pada GPU NVIDIA B200 atau AMD MI355Hal ini juga mencakup checkpointing untuk model gaya Llama 3 mulai dari 8B sampai 1.25T parameter, memprioritaskan latensi rendah untuk 10 putaran menulis dan membaca iteratif.Suite ini menggabungkan pengujian basis data vektor pada 1 juta, 1536-dimensi Milvus dataset untuk memaksimalkan permintaan throughput sementara melacak latensi dan recall rate, ditambah KV cache pengujian untuk mengukur maksimum konfrontasi dukungan kapasitas.
Brian Belgodere, Co-Chair of the MLPerf Storage Working Group, menyatakan bahwa portofolio tes baru memperkaya cakupan patokan untuk permintaan penyimpanan inferensi AI arus utama.Paket yang diperbarui menyeimbangkan pelatihan yang berfokus pada pelatihan dan tes checkpointing dengan evaluasi cache KV dan database vektor yang berorientasi pada inferensiDengan memecah sistem AI terintegrasi menjadi penilaian beban kerja penyimpanan yang ditargetkan, termasuk checkout, KV caching dan pemrosesan kueri vektor,patokan memungkinkan praktisi industri untuk mengoptimalkan konfigurasi infrastruktur AI dengan lebih baik dan menghilangkan kemacetan kinerja penyimpanan.
Lapisan penyimpanan objek S3 yang baru ditambahkan mendukung pelatihan, checkpointing dan tes database vektor parsial, dengan sekitar seperenam dari semua pengiriman v3.0 mengadopsi akses penyimpanan berbasis S3.
Curtis Anderson, Ketua Bersama Kelompok Kerja lainnya, mencatat bahwa ketika konteks AI berskala menjadi triliunan token, penyimpanan objek muncul sebagai cara yang layak,bahkan alternatif yang lebih disukai untuk penyimpanan sistem file tradisionalDukungan S3 asli dalam v3.0 menyediakan data kinerja transparan untuk memandu keputusan penyebaran penyimpanan perusahaan.
Total 19 vendor mengirimkan hasil untuk siklus patokan ini.VAST Data dan WEKA tidak ada dalam daftar pengajuanPara pejabat MLPerf berkomentar bahwa vendor NAS tradisional memiliki partisipasi yang terbatas, dengan sebagian besar perusahaan mapan yang tidak ikut dalam putaran terakhir.
Mengingat lanskap penyimpanan AI yang beragam, v3.0 tidak menerbitkan peringkat keseluruhan tunggal. Sebaliknya, ia memberikan hasil independen untuk empat kategori beban kerja dengan metrik multi-dimensi.Kumpulan data hasil lengkap mencakup sekitar 145 baris dan 55 kolom, dengan total hampir 8.000 sel data, dengan 12 kolom khusus untuk metrik kinerja KV cache.lebar band baca/tulis dan latensi P95 di bawah arsitektur storage-only dan storage+memory untuk beban kerja model Llama 8B dan 70B.
MLCommons juga merekomendasikan evaluasi kinerja standar berdasarkan kepadatan per rak dan efisiensi energi per watt untuk mengukur efektivitas operasional infrastruktur secara keseluruhan.
Suite benchmark yang diperbarui memiliki logika evaluasi yang sangat kompleks, memungkinkan vendor untuk secara selektif mengirimkan hasil untuk beban kerja yang ditargetkan.Suzhou Zishan dan TTA menyerahkan hasil tes basis data vektor.
Everpure melaporkan kinerja tingkat atas untuk FlashBlade//EXA di seluruh checkpointing dan KV tes cache untuk 405B dan 1.25T model parameter.024 akselerator simulasi, platform mencapai 877.52 GiB/s write bandwidth (17.74s completion) dan 588.28 GiB/s read bandwidth (28.99s completion) untuk 1.25T model checkpointing.65 GiB/s menulis throughput pada 10 node ke puncak 30-node hasil.
Data tambahan menunjukkan bahwa penyampaian penulisan titik pemeriksaan di lokasi memberikan efisiensi energi rata-rata 14 GB/s per watt, dengan puncak 201 GB/s per watt.Uji baca UNet3D mencatat efisiensi median 34 GB/s per watt dan maksimum 277 GB/s per watt.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Direktur Strategi Global
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Situs web: www.qianxingdata.com/www.storagesserver.com
Fokus Bisnis:
Distribusi Produk ICT/Integrasi Sistem & Layanan/Solusi Infrastruktur
Dengan 20+ tahun pengalaman distribusi TI, kami bermitra dengan merek global terkemuka untuk memberikan produk yang dapat diandalkan dan layanan profesional.
¢Menggunakan Teknologi untuk Membangun Dunia yang Cerdas ¢Penyedia Layanan Produk ICT yang Anda Percayai!
Pesan Anda harus antara 20-3.000 karakter!
Indonesian
