SK Hynix telah mendukung Etched, sebuah startup AI inference AS yang membangun sistem skala rak dengan teknologi proprietary Low Voltage Inference (LVI) dan Cluster Scale Memory (CSM).
Etched memecahkan hambatan kritis industri: GPU tradisional menawarkan daya komputasi berlebih namun memori yang tidak mencukupi untuk inferensi AI skala besar, yang menyebabkan kerangka kerja caching KV multi-tingkat yang rumit. Chip inferensi yang disesuaikannya mengurangi penggunaan daya dan mengungguli HBM GPU konvensional dalam bandwidth dan kapasitas memori, mengurangi latensi dan kompleksitas desain terkait caching KV.
Investasi ini datang setelah startup Israel Majestic Labs keluar dari mode stealth, dengan perusahaan tersebut juga membangun server inferensi prosesor kustom dengan kumpulan memori bersama skala besar.
Didirikan pada tahun 2023 di San Jose oleh tiga mahasiswa sarjana Harvard yang keluar, tim inti Etched terdiri dari CEO Gavin Uberti, Presiden Robert Wachen, dan Chris Zhu. Tim tersebut memperoleh Thiel Fellowship senilai $250.000 selama dua tahun untuk mendorong pengembangan awalnya.
Tim membangun pemrosesan prefill LVI yang disesuaikan dan memori bersama CSM untuk meningkatkan efisiensi inferensi. Solusi full-stack-nya, yang mengintegrasikan chip internal, pengemasan, PCB, dan modul interkoneksi, memungkinkan penerapan inferensi komersial skala besar.
Zhu menunjukkan bahwa chip AI mainstream mengalami throttling termal yang parah di bawah beban tinggi: konsumsi daya yang meningkat menurunkan kecepatan clock, memotong throughput inferensi aktual menjadi kurang dari setengah puncak teoretisnya. Chip Etched menjalankan unit aritmatika pada setengah tegangan industri tipikal, secara signifikan meningkatkan kepadatan komputasi.
Dia juga membahas trade-off perangkat keras utama: chip AI yang dilengkapi HBM tertinggal dari SRAM dalam kecepatan decoding karena keterbatasan memori dan interkoneksi, sementara chip SRAM murni mengorbankan kepadatan komputasi dan kapasitas untuk akses yang lebih cepat, mengurangi throughput keseluruhan.
Hal ini menghambat operasi model MoE besar, karena transmisi token antar-lapisan di berbagai lapisan memori membangun latensi. Arsitektur Etched menghilangkan lapisan memori yang berlebihan untuk menyelesaikan masalah tersebut.
Arsitektur CSM Etched menciptakan kumpulan memori bersama latensi rendah yang terpadu untuk perangkat keras yang dapat diskalakan, memanfaatkan interkoneksi berkecepatan tinggi proprietary untuk mempercepat akses memori antar-chip.
Desain hybrid HBM/SRAM-nya menyeimbangkan kapasitas memori dan latensi antar-chip, memberikan inferensi interaktif throughput tinggi. CSM menghindari cacat biaya, stabilitas, termal, dan kinerja dari solusi chip SRAM murni, 3D DRAM, dan optik.
Inovasi ini memisahkan tumpukan HBM dari kendala arsitektur GPU, mengkonsolidasikan sumber daya memori yang tersebar, dan memberikan kecepatan akses setingkat SRAM melalui teknologi interkoneksi canggih.
Sistem rak Etched menampilkan tata letak interkoneksi tinggi, dengan 16 kabel khusus menghubungkan port belakang ke delapan unit perangkat keras inti.
Sistem ini mendukung LLM mainstream, model MoE, dan arsitektur non-transformer seperti Mamba, dengan perusahaan berfokus pada R&D sistem penuh dan penjualan komersial.
Riwayat Pendanaan Etched
2022 – Perusahaan didirikan
2023 – Putaran awal $5,4 juta
2024 – Seri A $120 juta
2025 – Seri B $500 juta
2026 – Seri C $300 juta
Total pendanaan hingga saat ini: $925,4 juta
Sequoia Capital memimpin putaran Seri C Etched tahun 2026, dengan partisipasi dari Andreessen Horowitz, Jane Street, dan SK Hynix. Putaran ini menilai perusahaan sebesar $10,3 miliar, dua kali lipat dari valuasi Seri B tahun 2024.
Tingkat penggalangan dana tahunannya yang konsisten mencerminkan iterasi produk yang berkelanjutan, didukung oleh permintaan pelanggan yang kuat dan kepercayaan investor yang solid.
Wachen mengatakan modal baru tersebut akan mempercepat produksi massal kluster inferensi. Perusahaan telah membuka situs produksi 10 MW di Milpitas untuk meningkatkan efisiensi prototipe dan manufaktur.
Chief Architect Saptadeep Pal mengungkapkan bahwa Etched memiliki lebih dari 400 karyawan dengan pesanan pelanggan yang tercatat melebihi $1 miliar. Basis R&D dan manufaktur Taiwan-nya memungkinkan operasi 24 jam, mengoptimalkan kerja sama pemasok dan pengujian produk untuk mendukung penskalaan yang cepat.
Klien intinya mencakup perusahaan besar, penyedia cloud yang sedang berkembang, dan hyperscaler global yang menawarkan solusi inferensi-sebagai-layanan.
Komentar
Jika rak inferensi baru Etched dan Majestic Labs bergerak melampaui caching KV tradisional, mereka akan membentuk kembali pasar penyimpanan perusahaan. Sistem ini menuntut penyimpanan berkecepatan tinggi dan latensi rendah, menciptakan peluang kolaborasi bagi vendor seperti Dell, HPE, NetApp, dan VAST Data untuk memasangkan array penyimpanan dengan server inferensi generasi berikutnya untuk kinerja optimal.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Direktur Strategi Global
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Situs Web: www.qianxingdata.com/www.storagesserver.com
Fokus Bisnis:
Distribusi Produk ICT/Integrasi Sistem & Layanan/Solusi Infrastruktur
Dengan pengalaman distribusi TI lebih dari 20 tahun, kami bermitra dengan merek global terkemuka untuk memberikan produk yang andal dan layanan profesional.
“Menggunakan Teknologi untuk Membangun Dunia yang Cerdas”Penyedia Layanan Produk ICT Tepercaya Anda!
Pesan Anda harus antara 20-3.000 karakter!
Indonesian
