berita perusahaan tentang Context Grapher Jedify mengurangi biaya token AI 75 persen

Jedify menganjurkan peningkatan AI dengan teknologi grafik konteks, mengklaim solusinya dapat memangkas biaya token AI hingga tiga perempat.

Grafik konteks menyimpan hubungan entitas (orang, produk, lokasi, dll) dalam struktur gaya database.memprioritaskan koneksi untuk pelacakan cepat data yang saling terhubung yang kompleksSementara grafik pengetahuan melayani beban kerja AI, grafik konteks juga memvalidasi hubungan mana yang benar.

Ko-pendiri dan CTO Jedify Adi Elimelech berkomentar: "Sebagian besar industri menggabungkan efisiensi token dan efisiensi biaya, namun mereka berbeda.Pra-encoding logika bisnis dalam grafik konteks menghemat model dari penalaran dari awal untuk setiap kueri; ini adalah mekanisme inti, independen dari penerapan vendor.

Alih-alih memberi makan skema database penuh ke AI pada setiap kueri, grafik konteks Jedify's pra-mengkode definisi logika bisnis, perhitungan, hubungan dan aturan ke dalam basis pengetahuan terstruktur.Ini memperbarui dan memperluas secara otonom bersama dengan perubahan bisnisPada pertanyaan pengguna, hanya entitas yang relevan yang diambil, memberikan konteks yang kompak dan tepat untuk LLM.

Jedify menjalankan benchmarking produksi-lagerhouse di atas 100 pertanyaan bisnis yang mencakup tiga tingkat kompleksitas (total 200 poin tes bertingkat).036 token mentah per panggilan generasi SQL dengan 87% tingkat jawaban yang benarSebaliknya, metode injeksi skema konvensional mengkonsumsi 50.000-150.000 token per panggilan dengan akurasi 60-70; sistem multi-agen berbasis injeksi skema seperti CHESS mencapai hampir 339,000 token per panggilan.965 token per permintaanCatatan: garis dasar referensi ini didasarkan pada studi eksternal dengan skema dan set pertanyaan yang berbeda, bukan pengujian gudang berdampingan.

Diukur dengan kerangka kerja token-ROI yang menyeimbangkan biaya dan akurasi, pendekatan Jedify memberikan pengembalian 4,6 kali lebih tinggi daripada alur kerja injeksi skema dan 20 kali dibandingkan dengan pipa multi-agen dasar.Injeksi skema mencapai output yang benar 60-70%, sementara Jedify mencapai akurasi yang kuat untuk entitas dalam cakupan grafik.

Pada skala perusahaan 100 tabel, grafik konteks mengurangi injeksi token sekitar 50% per panggilan SQL dibandingkan dengan garis dasar skema mentah; pada 200 tabel, penghematan token melebihi 75%.

Elimelech juga menyoroti manfaat kepemilikan data: ¢Logika bisnis berada dalam grafik terkontrol Anda,sehingga Anda tidak mengekspos skema lengkap Anda dan aturan join-filter untuk penyedia model perbatasan pada setiap permintaan.

Dengan menyaring hanya entitas yang diperlukan sebelum generasi SQL, grafik konteks menurunkan beban penalaran model.Analisis produksi-routing menunjukkan sekitar 85% dari query-analytics perusahaan dapat berjalan pada model open-source yang lebih murah daripada LLM perbatasan premium dengan kehilangan akurasi yang tidak signifikan, mengurangi pengeluaran infrastruktur.

Unduh whitepaper terkait di sini.

Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Direktur Strategi Global
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Situs web: www.qianxingdata.com/www.storagesserver.com
Fokus Bisnis:
Distribusi Produk ICT/Integrasi Sistem & Layanan/Solusi Infrastruktur
Dengan 20+ tahun pengalaman distribusi TI, kami bermitra dengan merek global terkemuka untuk memberikan produk yang dapat diandalkan dan layanan profesional.
¢Menggunakan Teknologi untuk Membangun Dunia yang Cerdas ¢Penyedia Layanan Produk ICT yang Anda Percayai!