Apple arbeitet an Integration von Gemini in iPhone für Siri

Apple integriert Gemini in iPhone für Siri

Apple arbeitet daran, Gemini, ein großes Sprachmodell, in das iPhone für Siri zu integrieren, berichten zufolge. Diese Bemühungen zielen auf die nächste Generation von Siri ab, die derzeit auf Cloud-Inferenz setzt.

Die Einbettung von Gemini zielt darauf ab, die Latenz zu reduzieren und die Privatsphäre zu verbessern. Die Größe des Modells stellt jedoch technische Herausforderungen dar. Gemini ist ein großes Modell, das aggressive Quantisierung und Gewichtsreduzierung benötigt, um auf einem mobilen SoC zu passen.

Technische Herausforderungen von On-Device-LLMs

Der Neural Engine des iPhones liefert Rechenleistung und einheitlichen Speicher. Die Integration eines vollständigen Gemini-Modells übersteigt jedoch den verfügbaren SRAM. Ingenieure müssen das Modell zwischen CPU, GPU und Neural Engine aufteilen, was Orchestrierungsaufwand hinzufügt.

Ein Cloud-Komponente ist wahrscheinlich notwendig, um das Modell zu unterstützen. Ein hybrider Ansatz würde die ersten Inferenzschichten auf dem Gerät für Geschwindigkeit belassen, dann den Rest an Apples Rechenzentren streamen, um ihn zu vervollständigen.

Wettbewerbsumfeld und jüngste Google-Bewegungen

Google hat ein Redesign von Android Auto veröffentlicht, das Gemini-basierte Funktionen verwendet. Das Update zeigt Echtzeit-Routenvorschläge und natürliche Sprachabfragen.

Apples On-Device-Push steht im Gegensatz zu Googles Cloud-First-Posture. Apples Ansatz könnte Siri unter Datenschutzgründen differenzieren.

Branchenumfeld und Markttrends

Die Integration von großen Sprachmodellen in mobile Geräte ist ein wachsender Trend, der durch die steigende Nachfrage nach persönlicheren und privaten KI-Erfahrungen getrieben wird. Unternehmen wie Apple und Google investieren stark in die Entwicklung von On-Device-KI-Fähigkeiten, mit einem Fokus auf die Verbesserung von Leistung, die Reduzierung von Latenz und die Verbesserung von Benutzersicherheit.

Der Markt für virtuelle Assistenten ist hoch wettbewerbsfähig, mit Amazon Alexa, Google Assistant und Microsoft Cortana, die um Marktanteile konkurrieren. Apples Entscheidung, Gemini in Siri zu integrieren, könnte dem Unternehmen helfen, einen Wettbewerbsvorteil zu erzielen, insbesondere im Hinblick auf Privatsphäre und Sicherheit.