Indonesian
DeepInfra telah secara resmi meluncurkan pusat data AI baru di Toronto, yang mewakili penyebaran luar negeri pertama perusahaan di luar AS dan fasilitas kesembilan di seluruh dunia.Situs baru ini memperluas jejak infrastruktur inferensi global DeepInfra, di tengah pergeseran industri yang luas dalam permintaan AI dari pelatihan model ke beban kerja kesimpulan komersial.
Pusat data Toronto memiliki kapasitas daya 1,7 MW dan akan menampung lebih dari 1.000 GPU NVIDIA Blackwell B300.Kluster komputasi baru akan meningkatkan skala inferensi global DeepInfra dan memberikan latensi jaringan yang berkurang untuk pengguna akhir di Kanada dan wilayah global lainnya.
Ekspansi ini sejalan dengan transisi industri yang jelas.Permintaan infrastruktur pusat data semakin difokuskan pada beban kerja inferensi daripada tugas pelatihan. Inferensi model bahasa besar membutuhkan ketersediaan GPU yang konsisten, jaringan latensi rendah, dan infrastruktur yang tersebar secara geografis untuk mendukung aplikasi interaktif, agen AI cerdas,dan layanan API dengan throughput tinggiMenurut penelitian McKinsey & Company yang dirujuk dalam pengumuman, beban kerja inferensi akan melebihi 40% dari total permintaan pusat data pada tahun 2030, dengan tingkat pertumbuhan tahunan senyawa 35%.
DeepInfra menyatakan penyebaran Toronto dirancang khusus untuk memenuhi kebutuhan yang berkembang ini,menempatkan sumber daya komputasi GPU lebih dekat ke pengguna akhir dan sumber data lokal sambil memperluas throughput keseluruhan platform. Perusahaan secara independen memiliki dan mengoperasikan tumpukan infrastruktur GPU lengkapnya, mendukung lebih dari 200 model AI open-source.,meliputi penyebaran model terbuka dan proprietary.
Peluncuran ini juga menggarisbawahi meningkatnya adopsi industri arsitektur Blackwell NVIDIA untuk infrastruktur inferensi modern.GPU Blackwell memberikan throughput inferensi yang ditingkatkan dan efisiensi energi yang lebih baik untuk model bahasa besar dan beban kerja AI multimodalMeskipun DeepInfra tidak merilis rincian lebih lanjut tentang jaringan dan arsitektur penyimpanan,penyebaran skala besar kaliber ini biasanya memanfaatkan interkoneksi bandwidth tinggi dan penyimpanan terdistribusi untuk mempertahankan pemanfaatan GPU penuh.
Seperti yang dicatat oleh Nikola Borisov, CEO dan pendiri DeepInfra, AI perusahaan telah beralih dari uji coba eksperimental ke peluncuran produksi skala besar,mendorong permintaan yang lebih besar untuk infrastruktur yang didistribusikan secara global dengan latensi rendah dan kemampuan inferensi yang dapat diskalakanDia menjelaskan bahwa cluster Toronto menandai ekspansi internasional pertama perusahaan di luar perbatasan AS, memposisikan sumber daya komputasi dekat dengan pelanggan global dan set data mereka.
Fasilitas Toronto datang setelah putaran pembiayaan Seri B DeepInfra yang baru-baru ini dan berfungsi sebagai bagian penting dari peta jalan ekspansi infrastruktur jangka panjang.Perusahaan mengkonfirmasi bahwa ia sedang mengevaluasi situs pusat data internasional tambahan untuk memenuhi permintaan pasar yang meningkat untuk layanan inferensi bertenaga GPU.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Direktur Strategi Global
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Situs web: www.qianxingdata.com/www.storagesserver.com
Fokus Bisnis:
Distribusi Produk ICT/Integrasi Sistem & Layanan/Solusi Infrastruktur
Dengan 20+ tahun pengalaman distribusi TI, kami bermitra dengan merek global terkemuka untuk memberikan produk yang dapat diandalkan dan layanan profesional.
¢Menggunakan Teknologi untuk Membangun Dunia yang Cerdas ¢Penyedia Layanan Produk ICT yang Anda Percayai!
Sandy Yang/Direktur Strategi Global
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Situs web: www.qianxingdata.com/www.storagesserver.com
Fokus Bisnis:
Distribusi Produk ICT/Integrasi Sistem & Layanan/Solusi Infrastruktur
Dengan 20+ tahun pengalaman distribusi TI, kami bermitra dengan merek global terkemuka untuk memberikan produk yang dapat diandalkan dan layanan profesional.
¢Menggunakan Teknologi untuk Membangun Dunia yang Cerdas ¢Penyedia Layanan Produk ICT yang Anda Percayai!