Equinix telah memperluas kemitraan NVIDIA-nya dan membentuk kolaborasi baru dengan Together AI untuk meluncurkan Equinix Inference Exchange. Dibangun sebagai arsitektur inferensi AI tingkat perusahaan yang terdistribusi, platform ini memindahkan beban kerja komputasi lebih dekat ke penyimpanan data inti, pengguna akhir, dan aplikasi operasional. Diperkenalkan bersama Equinix Fabric One di Equinix Horizon, platform ini menyatukan perangkat keras perusahaan NVIDIA, platform model sumber terbuka Together AI, dan infrastruktur interkoneksi global Equinix untuk mengatasi latensi, kedaulatan data, dan hambatan jaringan.

Mengatasi Inferensi Terdistribusi dan Gravitasi Data Seiring pergerakan AI perusahaan dari prototipe ke produksi throughput tinggi, penempatan inferensi membentuk total biaya, latensi respons, dan kepatuhan. Namun, menjalankan infrastruktur terdistribusi di berbagai lingkungan heterogen membawa biaya operasional dan kompleksitas jaringan.

Equinix mengurangi masalah ini menggunakan lebih dari 280 pusat datanya di 77 kota, 230 titik akses cloud, dan ekosistem lebih dari 10.500 perusahaan yang terhubung. Delapan dari sepuluh penyedia model AI teratas dan sembilan dari sepuluh cloud AI teratas sudah berada di dalam situs Equinix, menjadikan platform ini lapisan agregasi netral untuk pipeline AI terdistribusi.

Arsitektur dan Integrasi Tumpukan Equinix Inference Exchange terdiri dari tiga lapisan: infrastruktur fisik, komputasi, dan perangkat lunak. Equinix mengoperasikan fondasi interkoneksi fisik yang mendasarinya yang mencakup pengiriman daya, pendinginan cair canggih, operasi fasilitas berkelanjutan, ditambah konektivitas data hibrida melalui Equinix Fabric. NVIDIA menyediakan lapisan komputasi dan validasi dengan perangkat keras AI perusahaan yang dioptimalkan untuk throughput token tinggi dan biaya inferensi per kueri yang lebih rendah. Together AI menyediakan lapisan perangkat lunak penyajian inferensi yang mendukung lebih dari 200 model sumber terbuka. Ini mendukung pengaturan multi-tenant bersama untuk efisiensi komputasi dan penerapan single-tenant terisolasi untuk beban kerja yang membutuhkan kapasitas khusus.

Lalu lintas yang dirutekan melalui Equinix Fabric menurunkan waktu hingga token pertama (TTFT) pengguna regional, dan membuat tautan peering pribadi antara penyimpanan di tempat dan titik akhir model.

Target dan Ketersediaan Penerapan Perusahaan Tiga mode penerapan inti didukung. Inferensi metro-edge menjalankan model di dalam hub metro lokal untuk respons API latensi rendah bersama dengan manajemen terpusat dan interkoneksi pribadi. Migrasi model sumber terbuka menawarkan jalur transisi yang mulus dari API proprietary tertutup ke model dasar terbuka, mengurangi ketergantungan vendor sambil menggunakan kembali jaringan yang ada. Untuk kasus penggunaan AI kedaulatan yang diatur, desain terdistribusinya memungkinkan perusahaan untuk menampung pemrosesan inferensi dan data di dalam batas geografis yang ditentukan untuk memenuhi aturan residensi dan tata kelola data yang ketat.

Eksekutif dari Equinix, NVIDIA, dan Together AI menyatakan bahwa integrasi ini memberikan fabric inferensi throughput tinggi yang independen dari vendor yang menyeimbangkan kinerja komputasi dan kelincahan operasional.

Equinix Inference Exchange akan tersedia secara umum untuk perusahaan pada Q1 2027.

Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Direktur Strategi Global
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Situs Web: www.qianxingdata.com/www.storagesserver.com
Fokus Bisnis:
Distribusi Produk TIK/Integrasi Sistem & Layanan/Solusi Infrastruktur
Dengan pengalaman distribusi TI lebih dari 20 tahun, kami bermitra dengan merek global terkemuka untuk memberikan produk yang andal dan layanan profesional.
“Menggunakan Teknologi untuk Membangun Dunia yang Cerdas”Penyedia Layanan Produk TIK Tepercaya Anda!