ภาพรวมของ ML Kit GenAI API

API ของ GenAI ใน ML Kit ใช้ประโยชน์จากความสามารถของ Gemini Nano เพื่อช่วยให้แอปของคุณ ทำงานต่างๆ ได้ API เหล่านี้มอบคุณภาพที่พร้อมใช้งานสำหรับกรณีการใช้งานยอดนิยม ผ่านอินเทอร์เฟซระดับสูง API ของ GenAI ใน ML Kit สร้างขึ้นบนAICore ซึ่งเป็นบริการของระบบ Android ที่ช่วยให้ดำเนินการโมเดลพื้นฐานของ GenAI ในอุปกรณ์ได้ เพื่ออำนวยความสะดวกในการใช้งานฟีเจอร์ต่างๆ เช่น ฟังก์ชันการทำงานของแอปที่ได้รับการปรับปรุงและ ความเป็นส่วนตัวของผู้ใช้ที่ดีขึ้นด้วยการประมวลผลข้อมูลในเครื่อง

API ของ GenAI ใน ML Kit รองรับฟีเจอร์ต่อไปนี้

  • การสรุป: สรุปบทความหรือการสนทนาในแชทเป็นรายการหัวข้อย่อย
  • การตรวจตัวอักษร: ปรับแต่งเนื้อหาสั้นๆ โดยการปรับปรุงไวยากรณ์และแก้ไข การสะกดคำที่ผิด
  • การเขียนใหม่: เขียนข้อความสั้นๆ ใหม่ในโทนหรือสไตล์ต่างๆ
  • คำอธิบายรูปภาพ: สร้างคำอธิบายสั้นๆ ของรูปภาพที่กำหนด

ประโยชน์ของ GenAI API

API ของ GenAI จะทำงานบนอุปกรณ์ทั้งหมดเช่นเดียวกับฟีเจอร์อื่นๆ ของ ML Kit ที่มีอยู่ จึงมีประโยชน์ดังนี้

  • ระบบจะประมวลผลข้อมูลอินพุต การอนุมาน และเอาต์พุตภายในเครื่อง
  • ฟังก์ชันการทำงานจะยังคงเหมือนเดิมแม้ไม่มีการเชื่อมต่ออินเทอร์เน็ตที่เสถียร
  • ไม่มีค่าใช้จ่ายเพิ่มเติมของเซิร์ฟเวอร์สำหรับการเรียก API แต่ละครั้ง

นอกจากนี้ เนื่องจาก GenAI API สร้างขึ้นบน AICore และทำงานด้วย Gemini Nano ทุกแอปจึงใช้โมเดล Gemini Nano ที่แชร์ซึ่งอยู่ในอุปกรณ์ได้ วิธีนี้ช่วยให้ไม่ต้องรอการดาวน์โหลดโมเดลหากมีโมเดลอยู่แล้วในอุปกรณ์ และช่วยประหยัดพื้นที่เก็บข้อมูลด้วย ดูข้อมูลเพิ่มเติม เกี่ยวกับวิธีที่ AICore แยกคำขอเพื่อปกป้องความเป็นส่วนตัว

การสตรีมเทียบกับการไม่สตรีม

API ของ GenAI ใน ML Kit มีทั้งตัวเลือกการสตรีมและไม่ใช่การสตรีมสำหรับการรับผลลัพธ์ Streaming API จะส่งการตอบกลับทีละรายการเมื่อมีการสร้างขึ้น ซึ่งจะทำให้ข้อมูลไหลเวียนอย่างต่อเนื่อง ในทางตรงกันข้าม API แบบไม่สตรีมจะรอจนกว่าการตอบกลับทั้งหมดจะเสร็จสมบูรณ์ก่อนที่จะส่งคืนเป็นบล็อกเดียว

เลือก API การสตรีมสำหรับคำตอบที่ยาว เนื่องจากจะช่วยให้ได้รับความคิดเห็นเบื้องต้นได้เร็วขึ้น API ที่ไม่ใช่แบบสตรีมมิงเหมาะสำหรับคำตอบสั้นๆ หรือเมื่อ ประมวลผลผลลัพธ์เป็นกลุ่ม

การรองรับอุปกรณ์

API ของ GenAI ใน ML Kit พร้อมใช้งานในอุปกรณ์ต่อไปนี้ โดยมี แผนที่จะขยายการรองรับไปยังอุปกรณ์อื่นๆ

  • Google: Pixel 9, Pixel 9 Pro, Pixel 9 Pro XL, Pixel 9 Pro Fold
  • Honor: Honor 400 Pro, Magic 6 Pro, Magic 6 RSR, Magic 7, Magic 7 Pro, Magic V3
  • iQOO: iQOO 13
  • Motorola: Razr 60 Ultra
  • OnePlus: OnePlus 13, OnePlus 13s
  • OPPO: Find N5, Find X8, Find X8 Pro
  • POCO: POCO F7 Ultra
  • realme: realme GT 7 Pro
  • Samsung: Galaxy S25, Galaxy S25+, Galaxy S25 Ultra
  • vivo: vivo X200, vivo X200 Pro, vivo X Fold3 Pro, vivo X Fold5
  • Xiaomi: Xiaomi 15 Ultra, Xiaomi 15

ความพร้อมใช้งานของการรองรับภาษาที่เฉพาะเจาะจงอาจแตกต่างกันไปตามการกำหนดค่าของอุปกรณ์นั้นๆ และโมเดลที่ดาวน์โหลดลงในอุปกรณ์

โควต้าต่อแอปพลิเคชัน

AICore บังคับใช้โควต้าการอนุมานต่อแอป ซึ่งหมายความว่าการส่งคำขอ GenAI API มากเกินไปในระยะเวลาอันสั้นจะส่งผลให้ได้รับErrorCode.BUSY เมื่อได้รับข้อผิดพลาดดังกล่าว ให้พิจารณาใช้ Exponential Backoff เพื่อ ลองส่งคำขออีกครั้ง

การใช้งานในเบื้องหลัง

อนุญาตให้ใช้การอนุมานของ GenAI API ได้เฉพาะเมื่อแอปเป็นแอปพลิเคชันที่ทำงานอยู่เบื้องหน้าสูงสุด การใช้ API เมื่อแอปไม่ได้ทำงานอยู่เบื้องหน้า รวมถึง การใช้บริการที่ทำงานอยู่เบื้องหน้า จะส่งผลให้เกิดการตอบกลับ ErrorCode.BUSY เนื่องจาก ปัจจุบันไม่มีโควต้าการใช้งานในเบื้องหลัง

โค้ดตัวอย่าง

หากต้องการรับรหัสนี้ ให้ดูตัวอย่างต่อไปนี้