Google توسع قدرات الذكاء الاصطناعي على الحافة مع API الموجه لـ Chrome

مقدمة

جوجل تنشر معجلات الأجهزة للاستدلال على أجهزة الكمبيوتر المحمولة والهواتف وأجهزة إنترنت الأشياء، وتجمعها مع API الموجه للمطورين والذي يعيش في Chrome. هذه الخطوة هي استجابة مباشرة لـ AWS Snowball Edge من أمازون و Azure Stack من مايكروسوفت، والتي تقدم بالفعل قدرات الذكاء الاصطناعي المحلية. توقيت جوجل يتزامن مع تحول الصناعة الأوسع نحو الاستدلال المحلي، وهو اتجاه يعد بخفض زمن الوصول وتقليل تكاليف نقل البيانات.

API الموجه لـ Chrome يوسع الذكاء الاصطناعي على الجهاز

يسمح API الموجه للمطورين بإرسال مطالبات نصية إلى نماذج اللغة المستضافة محليًا. يعيش API تحت مساحة اسم chrome.ai ويعكس نمط الطلب والاستجابة لنهايات نقاط LLM من جانب الخادم، لكنه يعمل بالكامل في المتصفح. توثيق على developer.chrome.com يظهر استدعاء جافا سكريبت بسيطًا يعود بإكمال النموذج دون مغادرة العميل. API يدعم النماذج التي تنفذ المخطط المتوافق مع OpenAI.

أجهزة وبرامج الحافة

جهود جوجل على الحافة تشمل معجلات TPU-Edge، والتي توفر دفعة أجهزة للاستدلال على الأجهزة. تقارير Financial Times تشير إلى أن جوجل تجمع هذه المعجلات مع مجموعة برامج تعكس نماذج جوجل السحابية التوليدية.

خطوط المواهب والرافعة للمهندسين الكبار

الضغط التنافسي وتأثيرات السوق

أمازون ومايكروسوفت قد قاموا بالفعل بتسويق الذكاء الاصطناعي على الحافة من خلال أجهزة Snowball Edge و Azure Stack HCI، على التوالي. دخول جوجل يركز على دمج نماذجها في متصفح Chrome، مما يجعل كل جهاز ممكّن لـ Chrome جهاز استدلال محتمل. هذا يمكن أن يغير منحنى التكلفة للمطورين الذين لم يعدوا بحاجة إلى شراء صناديق حافة متخصصة لتشغيل LLMs.

سياق الصناعة

الحركة نحو الذكاء الاصطناعي على الحافة مدفوعة بضرورة خفض زمن الوصول وتقليل تكاليف نقل البيانات. مع نمو كمية البيانات التي تولدها الأجهزة، تصبح الحاجة إلى معالجة محلية أكثر أهمية. API الموجه لـ Chrome من جوجل يعد في وضع جيد للاستفادة من هذا الاتجاه، لأنه يسمح للمطورين بتشغيل نماذج الذكاء الاصطناعي مباشرة على الأجهزة، مما يقلل الحاجة إلى معالجة سحابية.

تاريخ الذكاء الاصطناعي على الحافة

الآليات الفنية

التطبيقات المستقبلية