Die GenAI-APIs von ML Kit nutzen die Leistungsfähigkeit von Gemini Nano, um Ihre Apps bei der Ausführung von Aufgaben zu unterstützen. Diese APIs bieten eine sofort einsatzbereite Qualität für beliebte Anwendungsfälle über eine übergeordnete Schnittstelle. Die ML Kit GenAI-APIs basieren auf AICore, einem Android-Systemdienst, der die Ausführung von GenAI-Foundation Models auf dem Gerät ermöglicht. So können Funktionen wie verbesserte App-Funktionalität und verbesserter Datenschutz durch lokale Verarbeitung von Daten bereitgestellt werden.
Die GenAI-APIs von ML Kit unterstützen die folgenden Funktionen:
- Zusammenfassung: Artikel oder Chatunterhaltungen als Aufzählungsliste zusammenfassen.
- Korrekturlesen: Kurze Inhalte können durch die Verbesserung der Grammatik und die Korrektur von Rechtschreibfehlern optimiert werden.
- Umformulieren: Kurze Nachrichten in verschiedenen Tönen oder Stilen umformulieren lassen
- Bildbeschreibung: Generieren Sie eine kurze Beschreibung eines bestimmten Bilds.
Vorteile von APIs für generative KI
Ähnlich wie bei anderen vorhandenen ML Kit-Funktionen werden GenAI-APIs vollständig auf dem Gerät ausgeführt und bieten daher die folgenden Vorteile:
- Eingabe-, Inferenz- und Ausgabedaten werden lokal verarbeitet.
- Funktionsweise bleibt ohne zuverlässige Internetverbindung unverändert
- Keine zusätzlichen Serverkosten für jeden API-Aufruf
Da GenAI-APIs auf AICore basieren und von Gemini Nano unterstützt werden, kann jede App das freigegebene Gemini Nano-Modell auf dem Gerät verwenden. So muss nicht gewartet werden, bis ein Modell heruntergeladen wurde, wenn es bereits auf einem Gerät vorhanden ist. Das spart wiederum Speicherplatz. Weitere Informationen dazu, wie AICore Anfragen isoliert, um die Privatsphäre zu schützen
Streaming und Nicht-Streaming
Die GenAI-APIs von ML Kit bieten sowohl Streaming- als auch Nicht-Streaming-Optionen für den Empfang von Ergebnissen. Die Streaming-API liefert Antworten inkrementell, sobald sie generiert werden, und sorgt so für einen kontinuierlichen Datenfluss. Im Gegensatz dazu wartet die API ohne Streaming, bis die gesamte Antwort fertig ist, bevor sie als einzelner Block zurückgegeben wird.
Wählen Sie die Streaming-API für lange Antworten aus, da sie ein schnelleres erstes Feedback ermöglicht. Die Nicht-Streaming-API eignet sich besser für kurze Antworten oder wenn Ergebnisse in Batches verarbeitet werden.
Geräteunterstützung
Die ML Kit GenAI-APIs sind auf den folgenden Geräten verfügbar. Die Unterstützung für weitere Geräte ist geplant:
- Google: Pixel 9, Pixel 9 Pro, Pixel 9 Pro XL, Pixel 9 Pro Fold
- Honor: Honor 400 Pro, Magic 6 Pro, Magic 6 RSR, Magic 7, Magic 7 Pro, Magic V3
- iQOO: iQOO 13
- Motorola: Razr 60 Ultra
- OnePlus: OnePlus 13, OnePlus 13s
- OPPO: Find N5, Find X8, Find X8 Pro
- POCO: POCO F7 Ultra
- realme: realme GT 7 Pro
- Samsung: Galaxy S25, Galaxy S25+, Galaxy S25 Ultra
- vivo: vivo X200, vivo X200 Pro, vivo X Fold3 Pro, vivo X Fold5
- Xiaomi: Xiaomi 15 Ultra, Xiaomi 15
Die Verfügbarkeit der Sprachunterstützung kann je nach Konfiguration des jeweiligen Geräts und den auf das Gerät heruntergeladenen Modellen variieren.
Kontingent pro Anwendung
AICore erzwingt ein Inferenzkontingent pro App. Wenn also in kurzer Zeit zu viele GenAI API-Anfragen gestellt werden, wird eine ErrorCode.BUSY-Antwort zurückgegeben. Wenn Sie einen solchen Fehler erhalten, sollten Sie die Anfrage mit exponentiellem Backoff noch einmal senden.
Hintergrundnutzung
Die Inferenz von GenAI-APIs ist nur zulässig, wenn die App die oberste Vordergrundanwendung ist. Wenn Sie die API verwenden, während die App nicht im Vordergrund ist, einschließlich der Verwendung eines Dienstes im Vordergrund, führt dies aufgrund des derzeit fehlenden Kontingents für die Hintergrundnutzung zu einer ErrorCode.BUSY-Antwort.
Beispielcode
Diesen Code finden Sie in den folgenden Beispielen: