Apple intègre Gemini dans l'iPhone pour Siri
Apple intègre Gemini dans l’iPhone pour Siri
Apple travaille à intégrer Gemini, un modèle de langage à grande échelle, dans l’iPhone pour Siri, selon des rapports. Cet effort vise la prochaine génération de Siri, qui repose actuellement sur l’inférence en nuage.
L’intégration de Gemini vise à réduire la latence et à améliorer la confidentialité. Cependant, la taille du modèle pose des défis techniques. Gemini est un modèle volumineux qui nécessite une quantification agressive et une réduction de poids pour tenir sur un SoC mobile.
Défis techniques des LLM sur appareil
Le moteur neuronal de l’iPhone fournit des capacités de calcul et une mémoire unifiée. Cependant, intégrer un modèle Gemini à grande échelle dépasse la SRAM disponible. Les ingénieurs doivent diviser le modèle entre le CPU, le GPU et le moteur neuronal, en ajoutant une surcharge d’orchestration.
Un composant en nuage est probablement nécessaire pour prendre en charge le modèle. Une approche hybride garderait les premières couches d’inférence sur l’appareil pour la vitesse, puis diffuserait le reste vers les centres de données d’Apple pour l’achèvement.
Contexte concurrentiel et récents mouvements de Google
Google a publié une refonte de Android Auto qui utilise des fonctionnalités alimentées par Gemini. La mise à jour présente des suggestions d’itinéraire en temps réel et des requêtes en langage naturel.
La poussée d’Apple sur l’appareil contraste avec la posture centrée sur le nuage de Google. L’approche d’Apple peut différencier Siri sur des critères de confidentialité.
Contexte industriel et tendances du marché
L’intégration de modèles de langage à grande échelle dans les appareils mobiles est une tendance croissante, motivée par la demande croissante d’expériences AI plus personnalisées et privées. Des entreprises comme Apple et Google investissent massivement dans le développement de capacités AI sur appareil, en mettant l’accent sur l’amélioration des performances, la réduction de la latence et le renforcement de la sécurité des utilisateurs.
Le marché des assistants virtuels est très concurrentiel, avec Amazon Alexa, Google Assistant et Microsoft Cortana qui se disputent des parts de marché. La décision d’Apple d’intégrer Gemini dans Siri pourrait aider l’entreprise à acquérir un avantage concurrentiel, en particulier en termes de confidentialité et de sécurité.
Mécaniques techniques et choix de conception
Les défis techniques de l’intégration de Gemini dans l’iPhone sont importants. Le modèle nécessite des ressources de calcul et de mémoire importantes, qui peuvent être difficiles à fournir sur un appareil mobile. Pour relever ces défis, les ingénieurs d’Apple devront développer des solutions innovantes, telles que la réduction de modèle, la quantification et la distillation de connaissances.
L’utilisation d’une approche hybride, combinant l’inférence sur appareil et en nuage, peut fournir une solution viable. Cette approche permettrait à Apple de tirer parti des avantages de l’AI sur appareil et en nuage, tout en minimisant les défis techniques associés à chaque.
Implications en aval et développements futurs
L’intégration de Gemini dans Siri a des implications importantes pour l’avenir des assistants virtuels. Si elle est couronnée de succès, elle pourrait ouvrir la voie à des capacités AI plus avancées sur les appareils mobiles, telles que des recommandations personnalisées, la maintenance prédictive et les fonctionnalités de sécurité renforcées.
Le développement de capacités AI sur appareil peut également avoir des implications importantes pour l’industrie technologique dans son ensemble. Cela pourrait conduire à la création de nouveaux modèles commerciaux, tels que l’AI en tant que service, et stimuler l’innovation dans des domaines tels que l’informatique de pointe, l’IoT et les systèmes autonomes.
Implications en matière de sécurité et de réglementation
L’utilisation d’informations générées par AI est liée à des informations à même de faire évoluer les marchés. L’inférence sur appareil pourrait réduire l’exposition des données de requête brutes aux serveurs d’entreprise, atténuant potentiellement les charges de conformité.
Les deux entreprises doivent naviguer dans les orientations émergentes de la SEC et de la FTC sur la transparence de l’AI. Le défaut de divulguer comment les modèles sont formés ou comment les données sont obtenues pourrait entraîner des mesures coercitives.
À surveiller
Suivez le calendrier de sortie d’iOS d’Apple pour la première mise à jour de Siri mentionnant Gemini. Les résultats des benchmarks révéleront si l’hybride sur appareil réduit véritablement l’écart avec les assistants en nuage.
Environnement réglementaire
L’intégration de Gemini dans Siri soulève également des questions importantes sur la surveillance réglementaire. À mesure que les informations générées par AI deviennent plus répandues, les régulateurs devront élaborer de nouveaux cadres pour garantir la transparence et la responsabilité.
La SEC et la FTC ont déjà commencé à prendre des mesures dans cette direction, avec des orientations sur la transparence de l’AI et la source des données. Cependant, davantage de travail sera nécessaire pour garantir que des entreprises comme Apple et Google soient soumises à des normes élevées de transparence et de responsabilité.
Implications plus larges pour l’industrie
L’intégration de Gemini dans Siri a des implications importantes pour l’industrie technologique dans son ensemble. Cela pourrait conduire à la création de nouveaux modèles commerciaux, tels que l’AI en tant que service, et stimuler l’innovation dans des domaines tels que l’informatique de pointe, l’IoT et les systèmes autonomes.
Le développement de capacités AI sur appareil peut également avoir des implications importantes pour l’avenir de l’informatique en nuage. À mesure que davantage d’entreprises développent des capacités AI sur appareil, la nécessité d’AI en nuage pourrait diminuer, perturbant potentiellement les modèles commerciaux des fournisseurs de nuage comme Amazon et Microsoft.