במסמך Well-Architected Framework: AI and ML perspective מופיעה סקירה כללית של עקרונות והמלצות לאופטימיזציה של העלות של מערכות ה-AI לאורך מחזור החיים של ה-ML. אם הארגון שלכם יאמץ גישה פרואקטיבית ומבוססת-מידע לניהול עלויות, הוא יוכל לממש את הפוטנציאל המלא של מערכות AI ו-ML, וגם לשמור על משמעת פיננסית. ההמלצות במסמך הזה תואמות לעקרון הוזלת העלויות של Google Cloud Well-Architected Framework.
מערכות AI ו-ML יכולות לעזור לכם להפיק תובנות חשובות ולחזות מגמות על סמך נתונים. לדוגמה, תוכלו לצמצם את החיכוך בתהליכים פנימיים, לשפר את חוויות המשתמש ולקבל תובנות מעמיקות יותר לגבי הלקוחות. הענן מציע כמויות עצומות של משאבים וזמן קצר להשגת ערך, בלי השקעות גדולות מראש בעומסי עבודה של AI ו-ML. כדי למקסם את הערך העסקי ולהתאים את ההוצאות ליעדים העסקיים, צריך להבין את הגורמים שמשפיעים על העלויות, לבצע אופטימיזציה יזומה של העלויות, להגדיר אמצעי בקרה על ההוצאות ולאמץ שיטות עבודה של FinOps.
ההמלצות במסמך הזה ממופות לעקרונות הליבה הבאים:
- הגדרת העלויות וההחזרים ומדידתם
- אופטימיזציה של הקצאת משאבים
- אכיפה של שיטות לניהול נתונים ומשילות מידע
- אוטומציה וייעול באמצעות MLOps
- שימוש בשירותים מנוהלים ובמודלים שעברו אימון מראש
הגדרת העלויות וההחזרים ומדידתם
כדי לנהל ביעילות את העלויות של AI ו-ML ב- Google Cloud, צריך להגדיר ולמדוד את העלויות של משאבי הענן ואת הערך העסקי של יוזמות ה-AI וה-ML. כדי לעזור לכם לעקוב אחרי ההוצאות ברמת פירוט גבוהה, Google Cloud מספקת כלים מקיפים לניהול חיובים ועלויות, כמו:
- דוחות וטבלאות של חיוב ב-Cloud
- לוחות בקרה, תקציבים והתראות ב-Data Studio
- Cloud Monitoring
- Cloud Logging
כדי לקבל החלטות מושכלות לגבי הקצאת משאבים ואופטימיזציה, כדאי לעיין בהמלצות הבאות.
הגדרת יעדים עסקיים ומדדי KPI
התאמה בין הבחירות הטכניות בפרויקטים של AI ו-ML לבין היעדים העסקיים ומדדי הביצועים המרכזיים (KPI).
הגדרת יעדים אסטרטגיים ומדדי KPI שמתמקדים בהחזר ROI
חשוב לוודא שפרויקטים של AI ו-ML תואמים ליעדים אסטרטגיים כמו צמיחה בהכנסות, צמצום עלויות, שביעות רצון לקוחות ויעילות. כדאי לשתף את בעלי העניין כדי להבין את סדרי העדיפויות של העסק. להגדיר יעדים ספציפיים, מדידים, ברי השגה, רלוונטיים ותחומי זמן (SMART) ל-AI ול-ML. לדוגמה, מטרה חכמה היא: "לקצר ב-15% את זמן הטיפול בשיחות עם לקוחות בתמיכת לקוחות תוך 6 חודשים באמצעות צ'אט בוט מבוסס-AI".
כדי להתקדם לעבר היעדים העסקיים ולמדוד את ההחזר על ההשקעה (ROI), צריך להגדיר מדדי KPI לקטגוריות הבאות של מדדים:
- עלויות של אימון, היקש, אחסון ומשאבי רשת, כולל עלויות ספציפיות ליחידה (למשל, עלות להיקש, לנקודה על הגרף או למשימה). המדדים האלה עוזרים לכם לקבל תובנות לגבי יעילות והזדמנויות לאופטימיזציה של העלויות. כדי לעקוב אחרי העלויות האלה, אפשר להשתמש בדוחות החיוב ב-Cloud ובלוחות בקרה של Cloud Monitoring.
- מדדים של ערך עסקי כמו צמיחה בהכנסות, חיסכון בעלויות, שביעות רצון לקוחות, יעילות, דיוק ואימוץ. אפשר לעקוב אחרי המדדים האלה באמצעות ניתוח נתונים ב-BigQuery ולוחות בקרה ב-Looker.
מדדים ספציפיים לתחום, כמו:
- תחום הקמעונאות: מדידת העלייה בהכנסות ושיעור הנטישה
- תחום הבריאות: מדידת הזמן של המטופלים והתוצאות שלהם
- ענף הפיננסים: מדידת הפחתה בהונאות
מדדים ספציפיים לפרויקט. אפשר לעקוב אחרי המדדים האלה באמצעות ניסויים ב-Gemini Enterprise Agent Platform והערכה.
- AI לחיזוי: מדידת הדיוק והפרטים
- AI גנרטיבי: מדידת ההטמעה, שביעות הרצון ואיכות התוכן
- AI לראייה ממוחשבת: מדידת הדיוק
טיפוח תרבות של מודעות לעלויות ואופטימיזציה מתמשכת
כדאי לאמץ את העקרונות של FinOps כדי לוודא שלכל פרויקט AI ו-ML יש עלויות משוערות, ושיש דרכים למדוד ולעקוב אחרי העלויות בפועל לאורך מחזור החיים שלו. מוודאים שלעלויות ולהטבות העסקיות של הפרויקטים שלכם יש בעלים מוגדרים ושהאחריות ברורה.
מידע נוסף זמין במאמר טיפוח תרבות של מודעות לעלויות ב-Cost Optimization pillar של Google Cloud Well-Architected Framework.
שיפור הערך ואופטימיזציה מתמשכת באמצעות איטרציה ומשוב
מיפוי של אפליקציות AI ו-ML ישירות ליעדים העסקיים ומדידת החזר ה-ROI.
כדי לאמת את ההשערות לגבי החזר ה-ROI, כדאי להתחיל עם פרויקטים ניסיוניים ולהשתמש במחזור האופטימיזציה האיטרטיבי הבא:
- מעקב רציף וניתוח נתונים: מעקב אחרי מדדי KPI ועלויות כדי לזהות חריגות והזדמנויות לאופטימיזציה.
- ביצוע שינויים מבוססי-נתונים: אופטימיזציה של אסטרטגיות, מודלים, תשתית והקצאת משאבים על סמך תובנות מנתונים.
- משפרים באופן איטרטיבי: מתאימים את היעדים העסקיים ואת מדדי ה-KPI על סמך מה שלמדתם והצרכים העסקיים המשתנים. האיטרציה הזו עוזרת לכם לשמור על רלוונטיות ועל התאמה אסטרטגית.
- יצירת לולאת משוב: כדאי לבדוק את הביצועים, העלויות והערך עם בעלי העניין כדי לשפר את האופטימיזציה המתמשכת ולתכנן פרויקטים עתידיים.
ניהול נתוני החיוב באמצעות חיוב ב-Cloud ותוויות
כדי לבצע אופטימיזציה יעילה של העלויות, צריך לראות את המקור של כל רכיב עלות. ההמלצות בקטע הזה יעזרו לכם להשתמש בכלים של Google Cloudכדי לקבל תובנות מפורטות לגבי העלויות של AI ו-ML. אפשר גם לשייך עלויות לפרויקטים ספציפיים של AI ו-ML, לצוותים ולפעילויות. התובנות האלה מספקות את הבסיס לאופטימיזציה של העלויות.
ארגון וסימון Google Cloud משאבים
- כדאי לבנות את הפרויקטים והמשאבים בהיררכיה שמשקפת את המבנה הארגוני ואת תהליכי העבודה של AI ו-ML. כדי לעקוב אחרי העלויות ולנתח אותן ברמות שונות, כדאי לארגן את Google Cloud המשאבים באמצעות ארגונים, תיקיות ופרויקטים. מידע נוסף זמין במאמר בנושא הגדרת היררכיית משאבים ל Google Cloud אזור הנחיתה.
- כדאי להחיל תוויות משמעותיות על המשאבים. אתם יכולים להשתמש בתוויות שמציינות את הפרויקט, הצוות, הסביבה, שם המודל, מערך הנתונים, תרחיש השימוש ודרישות הביצועים. התוויות מספקות הקשר חשוב לנתוני החיוב ומאפשרות ניתוח מפורט של העלויות.
- חשוב לשמור על עקביות במוסכמות התיוג בכל הפרויקטים של AI ו-ML. מוסכמות עקביות למתן תוויות מבטיחות שהנתונים שלכם לחיוב יהיו מאורגנים ושאפשר יהיה לנתח אותם בקלות.
שימוש בכלים שקשורים לחיוב
- כדי לבצע ניתוח מפורט ולהפיק דוחות, מייצאים את נתוני החיוב ל-BigQuery. ל-BigQuery יש יכולות שאילתה מתקדמות שמאפשרות לכם לנתח את נתוני החיוב כדי להבין את העלויות.
- כדי לצבור עלויות לפי תוויות, פרויקטים או תקופות זמן ספציפיות, אפשר לכתוב שאילתות SQL בהתאמה אישית ב-BigQuery. בעזרת שאילתות כאלה אפשר לשייך עלויות לפעילויות ספציפיות של AI ולמידת מכונה, כמו אימון מודלים, כוונון היפר-פרמטרים או הסקה.
- כדי לזהות חריגות בעלויות או עליות חדות לא צפויות בהוצאות, אפשר להשתמש ביכולות הניתוח ב-BigQuery. הגישה הזו יכולה לעזור לכם לזהות בעיות פוטנציאליות או חוסר יעילות בעומסי העבודה של ה-AI וה-ML.
- כדי לזהות ולנהל עלויות לא צפויות, אפשר להשתמש במרכז הבקרה לזיהוי אנומליות בחיוב ב-Cloud.
- כדי לחלק את העלויות בין צוותים או מחלקות שונים על סמך השימוש במשאבים, אפשר להשתמש בתכונה cost allocation של Google Cloud. הקצאת עלויות מעודדת אחריותיות ושקיפות.
- כדי לקבל תובנות לגבי דפוסי ההוצאות, כדאי לעיין בדוחות החיוב ב-Cloud המוכנים מראש. אתם יכולים לסנן ולהתאים אישית את הדוחות האלה כדי להתמקד בפרויקטים או בשירותים ספציפיים של AI ו-ML.
מעקב רציף אחרי משאבים באמצעות לוחות בקרה, התראות ודוחות
כדי ליצור דרך ניתנת להרחבה ועמידה למעקב אחרי עלויות, צריך לבצע מעקב ודיווח באופן רציף. מרכזי בקרה, התראות ודוחות הם הבסיס למעקב יעיל אחרי עלויות. הבסיס הזה מאפשר לכם לשמור על גישה קבועה לפרטי העלויות, לזהות תחומים לאופטימיזציה ולהבטיח התאמה בין היעדים העסקיים לבין העלויות.
יצירת מערכת דיווח
ליצור דוחות מתוזמנים ולשתף אותם עם בעלי העניין המתאימים.
אפשר להשתמש ב-Cloud Monitoring כדי לאסוף מדדים ממקורות שונים, כולל מהאפליקציות, מהתשתית ומשירותים Google Cloud כמו Compute Engine, Google Kubernetes Engine (GKE) ופונקציות של Cloud Run. כדי להציג חזותית מדדים ויומנים בזמן אמת, אפשר להשתמש בלוח הבקרה המובנה של Cloud Monitoring או ליצור לוחות בקרה בהתאמה אישית. לוחות בקרה בהתאמה אישית מאפשרים לכם להגדיר ולהוסיף מדדים למעקב אחרי היבטים ספציפיים של המערכות, כמו ביצועי המודל, קריאות API או מדדי KPI ברמת העסק.
אפשר להשתמש ב-Cloud Logging כדי לרכז את האיסוף והאחסון של יומנים מהאפליקציות, מהמערכות ומשירותי Google Cloud . השימוש ביומנים הוא למטרות הבאות:
- מעקב אחרי העלויות והניצול של משאבים כמו מעבד (CPU), זיכרון, אחסון ורשת.
- לזהות מקרים של הקצאת יתר (over-provisioning) (שבהם המשאבים לא מנוצלים במלואם) והקצאת חסר (under-provisioning) (שבהם אין מספיק משאבים). הקצאת יתר של משאבים מובילה לעלויות מיותרות. הקצאת משאבים לא מספקת מאריכה את זמני האימון ועלולה לגרום לבעיות בביצועים.
- לזהות משאבים לא פעילים או משאבים שלא מנוצלים מספיק, כמו מכונות וירטואליות ויחידות GPU, ולנקוט פעולות להשבתה או להתאמה של גודל המשאבים כדי לייעל את העלויות.
- זיהוי של עליות חדות בעלויות כדי לזהות עליות פתאומיות ובלתי צפויות בשימוש במשאבים או בעלויות.
אפשר להשתמש ב-Looker או ב-Data Studio כדי ליצור מרכזי בקרה ודוחות אינטראקטיביים. קישור מרכזי הבקרה והדוחות למקורות נתונים שונים, כולל BigQuery ו-Cloud Monitoring.
הגדרת ספי התראה על סמך מדדי KPI מרכזיים
לגבי מדדי ה-KPI, קובעים את ערכי הסף שיפעילו התראות. הגדרת ספי התראה משמעותיים יכולה לעזור לכם להימנע מעייפות מהתראות. כדי לקבל התראות שקשורות למדדי ה-KPI, צריך ליצור מדיניות התראות ב-Cloud Monitoring. לדוגמה, אתם יכולים לקבל התראות כשרמת הדיוק יורדת מתחת לסף מסוים או כשההשהיה חורגת ממגבלה מוגדרת. התראות שמבוססות על נתוני יומן יכולות לעדכן אתכם בזמן אמת לגבי בעיות פוטנציאליות בעלויות. ההתראות האלה מאפשרות לכם לפעול במהירות כדי לתקן את הבעיות ולמנוע הפסדים כספיים נוספים.
אופטימיזציה של הקצאת משאבים
כדי להשיג יעילות בעלויות של עומסי העבודה של AI ו-ML ב- Google Cloud, צריך לבצע אופטימיזציה של הקצאת המשאבים. כדי לעזור לכם להימנע מהוצאות מיותרות ולוודא שלעומסי העבודה יש את המשאבים שהם צריכים כדי לפעול בצורה אופטימלית, כדאי להתאים את הקצאת המשאבים לצרכים של עומסי העבודה.
כדי לייעל את הקצאת משאבי הענן לעומסי עבודה של AI ו-ML, כדאי לפעול לפי ההמלצות הבאות.
שימוש בהתאמת קנה מידה אוטומטית כדי להתאים באופן דינמי את המשאבים
מומלץ להשתמש Google Cloud בשירותים שתומכים בהתאמה אוטומטית לעומס, שמתאימה באופן אוטומטי את הקצאת המשאבים לביקוש הנוכחי. היתרונות של שינוי גודל אוטומטי:
- אופטימיזציה של העלויות והביצועים: אתם נמנעים מתשלום על משאבים לא פעילים. במקביל, שינוי גודל אוטומטי מבטיח שלמערכות שלכם יהיו המשאבים הדרושים כדי לפעול בצורה אופטימלית, גם בעומס שיא.
- יעילות משופרת: אתם מאפשרים לצוות להתמקד במשימות אחרות.
- גמישות משופרת: אתם יכולים להגיב במהירות לשינויים בביקוש ולשמור על זמינות גבוהה של האפליקציות.
בטבלה הבאה מפורטות הטכניקות שבהן אפשר להשתמש כדי להטמיע שינוי גודל אוטומטי בשלבים שונים של פרויקטים של AI.
| שלב | טכניקות להתאמה אוטומטית לעומס |
|---|---|
| הדרכה |
|
| הסקת מסקנות |
|
מתחילים עם מודלים וערכות נתונים קטנים
כדי לצמצם עלויות, מומלץ לבדוק השערות של ML בקנה מידה קטן כשאפשר, ולהשתמש בגישה איטרטיבית. הגישה הזו, עם מודלים ומערכי נתונים קטנים יותר, מספקת את היתרונות הבאים:
- הפחתת עלויות מההתחלה: שימוש בפחות כוח מחשוב, נפח אחסון וזמן עיבוד יכול להוביל לעלויות נמוכות יותר בשלבים הראשוניים של הניסוי והפיתוח.
- איטרציה מהירה יותר: נדרש פחות זמן אימון, כך שאפשר לבצע איטרציה מהירה יותר, לבחון גישות חלופיות ולזהות כיוונים מבטיחים בצורה יעילה יותר.
- מורכבות מופחתת: ניפוי באגים, ניתוח ופירוש פשוטים יותר של התוצאות, מה שמוביל למחזורי פיתוח מהירים יותר.
- שימוש יעיל במשאבים: סיכוי נמוך יותר להקצאת יתר של משאבים. אתם מקצים רק את המשאבים שדרושים לעומס העבודה הנוכחי.
כדאי לשקול את ההמלצות הבאות:
- קודם משתמשים בנתונים לדוגמה: מאמנים את המודלים על קבוצת משנה מייצגת של הנתונים. הגישה הזו מאפשרת לכם להעריך את הביצועים של המודל ולזהות בעיות פוטנציאליות בלי לעבד את כל מערך הנתונים.
- עורכים ניסויים באמצעות מחברות: מתחילים עם מקרים קטנים יותר ומשנים את קנה המידה לפי הצורך. אתם יכולים להשתמש בסביבת העבודה של פלטפורמת הסוכנים של Gemini Enterprise, סביבת מחברת מנוהלת של Jupyter שמתאימה מאוד לניסויים עם ארכיטקטורות שונות של מודלים וקבוצות נתונים.
מתחילים עם מודלים פשוטים יותר או עם מודלים שעברו אימון מראש: אפשר להשתמש ב-Model Garden כדי לגלות ולבדוק את המודלים שעברו אימון מראש. מודלים כאלה דורשים פחות משאבי מחשוב. ככל שהדרישות משתנות, אפשר להגדיל את המורכבות של הקמפיין.
- שימוש במודלים שעברו אימון מראש למשימות כמו סיווג תמונות ועיבוד שפה טבעית. כדי לחסוך בעלויות האימון, אפשר לבצע התאמה עדינה של המודלים על מערכי נתונים קטנים יותר בהתחלה.
- שימוש ב-BigQuery ML לנתונים מובְנים. בעזרת BigQuery ML אפשר ליצור ולפרוס מודלים ישירות ב-BigQuery. הגישה הזו יכולה להיות חסכונית בשלב הניסוי הראשוני, כי אפשר לנצל את מודל התמחור של BigQuery לפי שאילתה.
התאמת המשאבים לפי הצורך: אפשר להשתמש בתשתית הגמישה של Google Cloudכדי להתאים את המשאבים לפי הצורך. כדאי להתחיל עם מכונות קטנות יותר ולשנות את הגודל או המספר שלהן לפי הצורך.
איך מגלים את דרישות המשאבים באמצעות ניסויים
הדרישות למשאבים עבור עומסי עבודה של AI ו-ML יכולות להשתנות באופן משמעותי. כדי לייעל את הקצאת המשאבים והעלויות, צריך להבין את הצרכים הספציפיים של עומסי העבודה באמצעות ניסויים שיטתיים. כדי לזהות את ההגדרה היעילה ביותר למודלים, כדאי לבדוק הגדרות שונות ולנתח את הביצועים שלהן. לאחר מכן, בהתאם לדרישות, משנים את גודל המשאבים שבהם השתמשתם לאימון ולמילוי הבקשה.
אנחנו ממליצים על הגישה הבאה לניסויים:
- מתחילים עם רמת בסיס: מתחילים עם הגדרת בסיס שמבוססת על ההערכות הראשוניות של דרישות עומס העבודה. כדי ליצור בסיס להשוואה, אתם יכולים להשתמש במחשבון עלויות לעומסי עבודה חדשים או להשתמש בדוח חיוב קיים.
- הבנת המכסות: לפני שמפעילים ניסויים נרחבים, חשוב להכיר את המכסות של הפרויקט ב- Google Cloud בנוגע למשאבים ולממשקי ה-API שמתכננים להשתמש בהם. המיכסות קובעות את טווח ההגדרות שאפשר לבדוק באופן ריאלי. הכרת המכסות מאפשרת לכם לעבוד במסגרת מגבלות המשאבים הזמינות במהלך שלב הניסוי.
- עורכים ניסויים באופן שיטתי: משנים פרמטרים כמו מספר מעבדי ה-CPU, כמות הזיכרון, מספר מעבדי ה-GPU וה-TPU וסוגם, וקיבולת האחסון. Gemini Enterprise Agent Platform Managed Training ו-Agent Platform Inference מאפשרים לכם להתנסות בסוגים שונים של מכונות ובתצורות שונות.
מעקב אחרי הניצול, העלות והביצועים: כדאי לעקוב אחרי ניצול המשאבים, העלות ומדדי הביצועים המרכזיים כמו זמן האימון, זמן האחזור של ההסקה ודיוק המודל, לכל הגדרה שאתם בודקים.
- כדי לעקוב אחרי ניצול המשאבים ומדדי הביצועים, אפשר להשתמש במסוף Agent Platform.
- כדי לאסוף ולנתח מדדי ביצועים מפורטים, משתמשים ב-Cloud Monitoring.
- כדי לראות את העלויות, אפשר להשתמש בדוחות החיוב ב-Cloud ובלוחות הבקרה של Cloud Monitoring.
- כדי לזהות צווארי בקבוק בביצועים של המודלים ולבצע אופטימיזציה של ניצול המשאבים, אפשר להשתמש בכלי פרופיל כמו Agent Platform TensorBoard.
ניתוח עלויות: השוואה בין העלות והביצועים של כל הגדרה כדי לזהות את האפשרות הכי משתלמת.
הגדרת ספי הוצאות ושיפורים על סמך מכסות: הגדרת ספי הוצאות שמעבר להן ההחזר על ההשקעה מתחיל לרדת, למשל צמצום מינימלי בזמן האימון או בחביון, לעומת עלייה משמעותית בעלויות. כדאי לקחת בחשבון את מכסות הפרויקט כשמגדירים את ערכי הסף האלה. קובעים את הנקודה שבה העלות וההשלכות הפוטנציאליות על המכסה של הרחבת הפריסה כבר לא מוצדקות על ידי שיפורים בביצועים.
שיפור איטרטיבי: חוזרים על תהליך הניסוי עם הגדרות משופרות על סמך הממצאים. חשוב לוודא תמיד שהשימוש במשאבים נשאר במסגרת המכסות שהוקצו ובהתאם לספי עלות-תועלת שנקבעו.
שימוש ב-MLOps כדי לצמצם חוסר יעילות
ככל שארגונים משתמשים יותר ויותר ב-ML כדי לקדם חדשנות ויעילות, ניהול יעיל של מחזור החיים של ה-ML הופך להיות קריטי. פעולות למידת מכונה (MLOps) הן קבוצה של שיטות שמאפשרות להפוך את מחזור החיים של למידת מכונה לאוטומטי ולייעל אותו, החל מפיתוח המודל ועד לפריסה ולמעקב.
התאמה בין MLOps לבין הגורמים לשינוי בעלויות
כדי ליהנות מ-MLOps לחיסכון בעלויות, צריך לזהות את הגורמים העיקריים לעלויות במחזור החיים של למידת המכונה. לאחר מכן, תוכלו לאמץ וליישם שיטות עבודה מומלצות של MLOps בהתאם לגורמים שמשפיעים על העלויות. כדאי לתת עדיפות לתכונות MLOps שמתייחסות לגורמים המשפיעים ביותר על העלויות, ולהטמיע אותן. הגישה הזו עוזרת להבטיח דרך מוצלחת ונוחה להשגה של חיסכון משמעותי בעלויות.
הטמעה של MLOps לאופטימיזציה של עלויות
אלה שיטות נפוצות של MLOps שעוזרות להקטין את העלויות:
- ניהול גרסאות: כלים כמו Git יכולים לעזור לכם לעקוב אחרי גרסאות של קוד, נתונים ומודלים. בקרת גרסאות מבטיחה יכולת שחזור, מאפשרת שיתוף פעולה ומונעת עבודה מחדש יקרה שעלולה להיגרם מבעיות בניהול הגרסאות.
- אינטגרציה רציפה (CI) ופיתוח רציף (CD): Cloud Build ו-Artifact Registry מאפשרים להטמיע צינורות עיבוד נתונים של CI/CD כדי לבצע אוטומציה של בנייה, בדיקה ופריסה של מודלים ללמידת מכונה. צינורות CI/CD מבטיחים ניצול יעיל של המשאבים ומצמצמים את העלויות שקשורות להתערבויות ידניות.
- ניראות (observability): בעזרת Cloud Monitoring ו-Cloud Logging אפשר לעקוב אחרי ביצועי המודל בסביבת הייצור, לזהות בעיות ולהפעיל התראות להתערבות יזומה. היכולת לראות את מצב המערכת מאפשרת לכם לשמור על דיוק המודל, לבצע אופטימיזציה של הקצאת המשאבים ולמנוע השבתה יקרה או ירידה בביצועים.
- אימון מחדש של מודלים: Gemini Enterprise Agent Platform Pipelines מפשטת את התהליכים של אימון מחדש של מודלים באופן תקופתי או כשביצועי המודל יורדים. כשמשתמשים ב-Agent Platform Pipelines לאימון מחדש, אפשר לוודא שהמודלים נשארים מדויקים ויעילים. כך אפשר למנוע צריכת משאבים מיותרת ולשמור על ביצועים אופטימליים.
- בדיקה והערכה אוטומטיות: Agent Platform עוזרת לכם להאיץ את הערכת המודלים ולבצע אותה באופן אחיד. כדאי להטמיע בדיקות אוטומטיות לאורך מחזור החיים של למידת המכונה כדי להבטיח את האיכות והאמינות של המודלים. בדיקות כאלה יכולות לעזור לכם לזהות שגיאות מוקדם, למנוע בעיות יקרות בסביבת הייצור ולצמצם את הצורך בבדיקות ידניות מקיפות.
מידע נוסף זמין במאמר בנושא MLOps: צינורות עיבוד נתונים של פיתוח רציף ואוטומציה בלמידת מכונה.
אכיפה של שיטות לניהול נתונים ולפיקוח עליהם
שיטות יעילות לניהול נתונים ולפיקוח עליהם הן קריטיות לאופטימיזציה של העלויות. נתונים מאורגנים היטב יכולים לעודד צוותים לעשות שימוש חוזר במערכי נתונים, להימנע משכפול מיותר ולצמצם את המאמץ שנדרש כדי להשיג נתונים באיכות גבוהה. ניהול פרואקטיבי של הנתונים יכול להפחית את עלויות האחסון, לשפר את איכות הנתונים ולהבטיח שהמודלים של ה-ML יאומנו על הנתונים הרלוונטיים והחשובים ביותר.
כדי ליישם שיטות לניהול נתונים ולפיקוח עליהם, כדאי לפעול לפי ההמלצות הבאות.
הקמה ואימוץ של מסגרת למשילות מידע (data governance)
החשיבות הגוברת של AI ו-ML הפכה את הנתונים לנכס הכי חשוב לארגונים שעוברים טרנספורמציה דיגיטלית. מסגרת חזקה למשילות מידע היא דרישה חיונית לניהול עומסי עבודה של AI ו-ML בצורה חסכונית ובקנה מידה גדול. מסגרת משילות מידע עם מדיניות, נהלים ותפקידים מוגדרים בבירור מספקת גישה מובנית לניהול נתונים לאורך מחזור החיים שלהם. מסגרת כזו עוזרת לשפר את איכות הנתונים, לשפר את האבטחה, לשפר את הניצול ולהפחית את הכפילות.
יצירת מסגרת למשילות מידע (data governance)
קיימות מסגרות רבות לניהול נתונים, כמו המסגרות שפורסמו על ידי EDM Council, עם אפשרויות שזמינות לתעשיות שונות ולארגונים בגדלים שונים. בוחרים מסגרת שמתאימה לצרכים ולסדרי העדיפויות הספציפיים שלכם ומבצעים בה התאמות.
הטמעה של מסגרת משילות מידע (data governance)
Google Cloud מספקת את השירותים והכלים הבאים כדי לעזור לכם להטמיע מסגרת חזקה לניהול נתונים:
Knowledge Catalog הוא מארג נתונים חכם שעוזר לאחד נתונים מבוזרים ולאוטומט את משילות מידע (data governance), בלי לאחד את מערכי הנתונים במקום אחד. כך אפשר לצמצם את העלויות של הפצת נתונים ותחזוקה שלהם, לאפשר גילוי נתונים ולקדם שימוש חוזר.
- כדי לארגן את הנתונים, משתמשים בהפשטות של Knowledge Catalog ומגדירים אגמי נתונים ואזורים לוגיים.
- כדי לנהל את הגישה לאגמי נתונים ולאזורים, משתמשים בקבוצות Google ובתפקידים ב-Knowledge Catalog.
- כדי לייעל את התהליכים שקשורים לאיכות הנתונים, מפעילים את התכונה איכות נתונים אוטומטית.
Knowledge Catalog הוא גם שירות מנוהל של ניהול מטא-נתונים שאפשר להתאים לעומס. הקטלוג מספק בסיס שמבטיח שנכסי הנתונים יהיו נגישים וניתנים לשימוש חוזר.
- מטא-נתונים ממקורות נתונים נתמכים Google Cloud מוזנים באופן אוטומטי לקטלוג האוניברסלי. למקורות נתונים מחוץ ל- Google Cloud, צריך ליצור רשומות בהתאמה אישית.
- כדי לשפר את החשיפה של נכסי נתונים ואת הניהול שלהם, אפשר להוסיף מטא-נתונים עסקיים למטא-נתונים טכניים באמצעות היבטים.
- מוודאים שלמדעני נתונים ולמומחי למידת מכונה יש הרשאות מספיקות כדי לגשת ל-Knowledge Catalog ולהשתמש בפונקציית החיפוש.
שיתוף ב-BigQuery מאפשר לכם להחליף נכסי נתונים בין הארגונים שלכם בצורה יעילה ומאובטחת, כדי להתמודד עם אתגרים שקשורים למהימנות הנתונים ולעלויות.
- מגדירים החלפות נתונים ומוודאים שאפשר לראות נכסי נתונים שנאספו ככרטיסי מוצר.
- שימוש בחדרי נתונים נקיים כדי לנהל באופן מאובטח את הגישה למידע אישי רגיש ולשתף פעולה ביעילות עם צוותים וארגונים חיצוניים בפרויקטים של AI ו-ML.
- מוודאים שלמדעני נתונים ולמומחים ללמידת מכונה יש הרשאות מספיקות כדי לראות ולפרסם מערכי נתונים ב-BigQuery sharing.
שימוש חוזר במערכי נתונים ובתכונות לאורך מחזור החיים של למידת מכונה
כדי ליהנות מיתרונות משמעותיים של יעילות וחיסכון בעלויות, מומלץ לעשות שימוש חוזר במערכי נתונים ובתכונות בכמה פרויקטים של למידת מכונה. כשנמנעים ממאמצים מיותרים של הנדסת נתונים ופיתוח תכונות, הארגון יכול להאיץ את פיתוח המודלים, להפחית את עלויות התשתית ולפנות משאבים יקרים לביצוע משימות קריטיות אחרות.
Google Cloud מספק את השירותים והכלים הבאים שיעזרו לכם לעשות שימוש חוזר במערכי נתונים ובתכונות:
- מומחים בתחום הנתונים ולמידת מכונה יכולים לפרסם מוצרי נתונים כדי למקסם את השימוש החוזר בנתונים בצוותים שונים. אחרי זה אפשר לגלות את מוצרי הנתונים ולהשתמש בהם באמצעות Knowledge Catalog ושיתוף ב-BigQuery.
- לגבי מערכי נתונים טבלאיים ומובְנים, אפשר להשתמש ב-Agent Platform Feature Store כדי לקדם שימוש חוזר ולייעל את ניהול התכונות באמצעות BigQuery.
- אפשר לאחסן נתונים לא מובנים ב-Cloud Storage ולנהל את הנתונים באמצעות טבלאות אובייקטים של BigQuery וכתובות URL חתומות.
- אפשר לנהל הטבעות וקטוריות על ידי הוספת מטא-נתונים לאינדקסים של חיפוש וקטורי.
אוטומציה וייעול באמצעות MLOps
היתרון העיקרי של אימוץ שיטות MLOps הוא הפחתה בעלויות של טכנולוגיה וכוח אדם. אוטומציה עוזרת לכם להימנע משכפול של פעילויות למידת מכונה (ML) ומצמצום עומס העבודה של מדעני נתונים ומהנדסי למידת מכונה.
כדי להפוך את פיתוח למידת המכונה לאוטומטי ולייעל אותו באמצעות MLOps, כדאי לפעול לפי ההמלצות הבאות.
אוטומציה וסטנדרטיזציה של איסוף ועיבוד נתונים
כדי לצמצם את המאמץ והזמן שנדרשים לפיתוח של ML, כדאי להפוך לאוטומטיים את הטכנולוגיות של איסוף ועיבוד הנתונים, וליצור להן סטנדרטיזציה.
אוטומציה של איסוף ועיבוד נתונים
בקטע הזה מופיע סיכום של המוצרים, הכלים והשיטות שבהם אפשר להשתמש כדי לאסוף נתונים ולעבד אותם באופן אוטומטי.
מזהים ובוחרים את מקורות הנתונים הרלוונטיים למשימות ה-AI וה-ML:
- אפשרויות למסדי נתונים כמו Cloud SQL, Spanner, AlloyDB ל-PostgreSQL, Firestore ו-BigQuery. הבחירה שלכם תלויה בדרישות שלכם, כמו זמן האחזור של גישת הכתיבה (סטטי או דינמי), נפח הנתונים (גבוה או נמוך) ופורמט הנתונים (מובנה, לא מובנה או חצי מובנה). מידע נוסף זמין במאמר בנושא מסדי נתונים שלGoogle Cloud .
- אגמי נתונים כמו Cloud Storage עם BigLake.
- Knowledge Catalog לניהול נתונים במקורות שונים.
- פלטפורמות של אירועים בסטרימינג, כמו Pub/Sub, Dataflow או Apache Kafka.
- ממשקי API חיצוניים.
לכל אחד ממקורות הנתונים, בוחרים כלי להעברה:
- Dataflow: לעיבוד נתונים באצווה ועיבוד זרמי נתונים (stream processing) ממקורות שונים, עם שילוב של רכיבי ML. בארכיטקטורה מבוססת-אירועים, אפשר לשלב את Dataflow עם Eventarc כדי לעבד נתונים בצורה יעילה לצורך למידת מכונה. כדי לשפר את היעילות של MLOps ועבודות ML, כדאי להשתמש ביכולות של GPU והתאמה נכונה.
- Cloud Run functions: להטמעת נתונים מבוססת-אירועים שמופעלת על ידי שינויים במקורות נתונים לאפליקציות בזמן אמת.
- BigQuery: להטמעת נתונים טבלאיים קלאסיים עם גישה תכופה.
בחירת כלים לטרנספורמציה ולטעינה של נתונים:
- אפשר להשתמש בכלים כמו Dataflow או Dataform כדי לבצע אוטומציה של טרנספורמציות של נתונים, כמו שינוי קנה מידה של תכונות, קידוד של משתנים קטגוריים ויצירה של תכונות חדשות באצווה, בסטרימינג או בזמן אמת. הכלים שתבחרו תלויים בדרישות שלכם ובשירותים שבחרתם.
- אפשר להשתמש בFeature Store כדי להפוך את היצירה והניהול של תכונות לאוטומטיים. אתם יכולים לרכז תכונות לשימוש חוזר במודלים ובפרויקטים שונים.
איך יוצרים סטנדרטיזציה של איסוף ועיבוד נתונים
כדי לגלות נכסי נתונים, להבין אותם ולנהל אותם, אפשר להשתמש בשירותים לניהול מטא-נתונים כמו Knowledge Catalog. הוא עוזר לכם לתקנן את הגדרות הנתונים ולהבטיח עקביות בכל הארגון.
כדי לאכוף סטנדרטיזציה ולמנוע את העלות של תחזוקת הטמעות מותאמות אישית מרובות, כדאי להשתמש בצינורות אוטומטיים של אימון ותזמור. מידע נוסף מופיע בקטע הבא.
אוטומציה של צינורות עיבוד נתונים של אימון ושימוש חוזר בנכסים קיימים
כדי לשפר את היעילות והפרודוקטיביות ב-MLOps, חשוב להשתמש בצינורות עיבוד נתונים אוטומטיים לאימון. Google Cloud מציעה קבוצה חזקה של כלים ושירותים לבנייה ולפריסה של צינורות עיבוד נתונים לאימון, עם דגש חזק על שימוש חוזר בנכסים קיימים. צינורות אוטומטיים לאימון עוזרים להאיץ את פיתוח המודלים, לשמור על עקביות ולצמצם מאמצים מיותרים.
אוטומציה של צינורות עיבוד נתונים לאימון
בטבלה הבאה מתוארים Google Cloud השירותים והתכונות שבהם אפשר להשתמש כדי להפוך לאוטומטיות את הפונקציות השונות של צינור אימון.
| תפקיד | Google Cloud שירותים ותכונות |
|---|---|
| תזמור: הגדרת תהליכי עבודה מורכבים של למידת מכונה שכוללים כמה שלבים ותלויות. אפשר להגדיר כל שלב כמשימה נפרדת בתוך קונטיינר, וכך לנהל ולהרחיב בקלות משימות בודדות. |
|
| ניהול גרסאות: מעקב ושליטה בגרסאות שונות של צינורות ורכיבים כדי להבטיח שניתן יהיה לשחזר את התוצאות ולבצע ביקורת. | אחסון תבניות של צינורות עיבוד נתונים של Kubeflow במאגר Kubeflow Pipelines ב-Artifact Registry. |
| אפשרות לשימוש חוזר: אפשר לעשות שימוש חוזר ברכיבים ובארטיפקטים קיימים של צינורות, כמו מערכי נתונים מוכנים ומודלים מאומנים, כדי להאיץ את הפיתוח. | אפשר לאחסן את תבניות צינורות האספקה ב-Cloud Storage ולשתף אותן עם כל הארגון. |
| מעקב: מעקב אחרי הפעלת צינור עיבוד הנתונים כדי לזהות ולפתור בעיות. | שימוש ב-Cloud Logging וב-Cloud Monitoring. מידע נוסף מופיע במאמר מעקב רציף אחרי משאבים באמצעות מרכזי בקרה, התראות ודוחות. |
הרחבת האפשרות לשימוש חוזר מעבר לצינורות
כדאי לחפש הזדמנויות להרחבת השימוש החוזר מעבר לצינורות הדרכה. Google Cloud הדוגמאות הבאות ממחישות יכולות שמאפשרות לכם לעשות שימוש חוזר בתכונות של למידת מכונה, במערכי נתונים, במודלים ובקוד.
- Feature Store מספק מאגר מרכזי לארגון, לאחסון ולהצגה של תכונות ML. היא מאפשרת לכם לעשות שימוש חוזר בתכונות בפרויקטים ובמודלים שונים, מה שיכול לשפר את העקביות ולצמצם את המאמץ שנדרש להנדסת תכונות. אתם יכולים לאחסן, לשתף ולגשת לתכונות לשימוש בתרחישי אונליין ואופליין.
- ערכות נתונים בפלטפורמת הסוכנים מאפשרות לצוותים ליצור ולנהל ערכות נתונים באופן מרכזי, כך שהארגון יכול למקסם את השימוש החוזר ולצמצם את כפילות הנתונים. הצוותים יכולים לחפש את מערכי הנתונים ולגלות אותם באמצעות Knowledge Catalog.
- מרשם המודלים ב-Gemini Enterprise Agent Platform מאפשר לכם לאחסן, לנהל ולפרוס את המודלים שאומנו. מאגר המודלים מאפשר לכם להשתמש מחדש במודלים בצינורות נתונים עוקבים או לחיזוי אונליין, וכך לנצל את מאמצי האימון הקודמים.
- קונטיינרים בהתאמה אישית מאפשרים לארוז את קוד ההדרכה ויחסי התלות בקונטיינרים ולאחסן את הקונטיינרים ב-Artifact Registry. קונטיינרים בהתאמה אישית מאפשרים לספק סביבות אימון עקביות וניתנות לשחזור בפרויקטים ובצינורות שונים.
שימוש בשירותי Google Cloud להערכה ולהתאמה של מודלים
Google Cloud מציעה חבילה עוצמתית של כלים ושירותים לייעול ולאוטומציה של הערכה וכוונון של מודלים. הכלים והשירותים האלה יכולים לעזור לכם לקצר את הזמן עד להפקה ולצמצם את המשאבים שנדרשים לאימון ולניטור מתמשכים. השימוש בשירותים האלה מאפשר לצוותי ה-AI וה-ML שלכם לשפר את ביצועי המודלים בפחות איטרציות יקרות, להשיג תוצאות מהר יותר ולמזער את בזבוז משאבי המחשוב.
שימוש בהערכת מודלים ובניסויים יעילים מבחינת משאבים
כדאי להתחיל פרויקט AI עם ניסויים לפני שמרחיבים את הפתרון. בניסויים, כדאי לעקוב אחרי מטא-נתונים שונים כמו גרסת מערך הנתונים, פרמטרים של המודל וסוג המודל. כדי לשפר את השחזור וההשוואה של התוצאות, כדאי להשתמש במעקב מטא-נתונים בנוסף לניהול גרסאות של הקוד, בדומה ליכולות ב-Git. כדי להימנע ממידע חסר או מפריסה של גרסה שגויה בסביבת הייצור, מומלץ להשתמש בניסויים ב-Gemini Enterprise Agent Platform לפני שמבצעים פריסה מלאה או משימות אימון.
ניסויים ב-Agent Platform מאפשרים לכם:
- ממשק משתמש ידידותי ו-API מאפשרים לייעל את המעקב אחר מטא-נתונים ואת הגילוי שלהם, ולבצע אוטומציה של התהליכים האלה עבור עומסי עבודה שמוכנים לייצור.
- לנתח את מדדי הביצועים של המודל ולהשוות בין מדדים של כמה מודלים.
אחרי שהמודל עובר אימון, צריך לעקוב באופן רציף אחרי הביצועים והסחף של הנתונים לאורך זמן עבור נתונים נכנסים. כדי לייעל את התהליך הזה, אפשר להשתמש בModel Monitoring ב-Gemini Enterprise Agent Platform כדי לגשת ישירות למודלים שנוצרו ב-מרשם המודלים. בנוסף, Model Monitoring on Agent Platform מאפשרת אוטומציה של מעקב אחרי נתונים ותוצאות באמצעות תחזיות אונליין ובאצווה. אפשר לייצא את התוצאות ל-BigQuery כדי להמשיך לנתח ולעקוב אחרי הנתונים.
בחירת אסטרטגיות אופטימליות לאימון אוטומטי
לכוונון היפרפרמטרים, מומלץ להשתמש בגישות הבאות:
- כדי להפוך לאוטומטי את התהליך של מציאת ההיפרפרמטרים האופטימליים למודלים, אפשר להשתמש בכוונון היפרפרמטרים ב-Agent Platform. פלטפורמת Agent משתמשת באלגוריתמים מתקדמים כדי לבדוק את מרחב ההיפרפרמטרים ולזהות את התצורה הטובה ביותר.
- כדי לבצע כוונון יעיל של היפר-פרמטרים, כדאי להשתמש בטכניקות של אופטימיזציה בייסיאנית, במיוחד כשעובדים עם מודלים מורכבים ומערכי נתונים גדולים.
לצורך אימון מבוזר, מומלץ להשתמש בגישות הבאות:
למערכי נתונים גדולים ולמודלים מורכבים, אפשר להשתמש בתשתית האימון המבוזרת של Agent Platform. הגישה הזו מאפשרת לאמן את המודלים בכמה מכונות, וכך לקצר משמעותית את זמן האימון ולהפחית את העלויות הנלוות. להשתמש בכלים כמו:
- Agent Platform tuning כדי לבצע כוונון מפוקח של Gemini, Imagen ומודלים אחרים.
- Agent Platform Managed Training או Ray on Gemini Enterprise Agent Platform להדרכה מותאמת אישית ומבוזרת.
בחרו מסגרות אופטימליות של למידת מכונה, כמו Keras ו-PyTorch, שתומכות בהדרכה מבוזרת ובניצול יעיל של משאבים.
שימוש ב-AI ניתן להסברה
חשוב להבין למה מודל מקבל החלטות מסוימות ולזהות הטיה פוטנציאלית או תחומים לשיפור. אפשר להשתמש בטכניקות של יכולת הסברה כדי לקבל תובנות לגבי התחזיות של המודל.
- מבוסס-תכונות: כדי להבין אילו תכונות משפיעות הכי הרבה על התחזיות של המודל, צריך לנתח את השיוכים של התכונות. ההבנה הזו יכולה לעזור לכם בתהליך של הנדסת תכונות ולשפר את היכולת שלכם להבין את המודל.
- מבוסס על דוגמאות: כדי להחזיר רשימה של דוגמאות (בדרך כלל מתוך קבוצת נתונים לאימון) שהכי דומות לקלט, משתמשים בחיפוש השכן הקרוב ביותר. מכיוון שקלט דומה בדרך כלל מניב תחזיות דומות, אפשר להשתמש בהסברים האלה כדי לבחון ולהסביר את התנהגות המודל.
שימוש בשירותים מנוהלים ובמודלים שעברו אימון
כדאי לאמץ גישה מצטברת לבחירת מודלים ולפיתוח מודלים. הגישה הזו עוזרת לכם להימנע מעלויות מוגזמות שקשורות להתחלה מחדש בכל פעם. כדי לשלוט בעלויות, כדאי להשתמש במסגרות ML, בשירותים מנוהלים ובמודלים שאומנו מראש.
כדי להפיק את המרב מהשירותים המנוהלים ומהמודלים שאומנו מראש, כדאי לפעול לפי ההמלצות הבאות.
שימוש בתיקיות Notebook לניתוח ולניסויים
סביבות Notebook הן חיוניות לניסויים חסכוניים ב-ML. מחברת מספקת מרחב אינטראקטיבי ושיתופי למדעני נתונים ולמהנדסים כדי לבדוק נתונים, לפתח מודלים, לשתף ידע ולבצע איטרציות בצורה יעילה. שיתוף פעולה ושיתוף ידע באמצעות מחברות מאיצים באופן משמעותי את הפיתוח, את בקרות הקוד ואת העברת הידע. מחברות עוזרות לייעל את תהליכי העבודה ולצמצם את המאמץ הכפול.
במקום לרכוש ולנהל חומרה יקרה לסביבת הפיתוח, אתם יכולים להשתמש בתשתית הגמישה והזמינה לפי דרישה של Gemini Enterprise Agent Platform Workbench ו-Colab Enterprise.
Agent Platform Workbench היא סביבת פיתוח של מחברת Jupyter לכל תהליך העבודה של מדעי הנתונים. אתם יכולים ליצור אינטראקציה עם Agent Platform ושירותים אחרים Google Cloud מתוך מחברת Jupyter של מופע. השילובים והתכונות של Agent Platform Workbench עוזרים לכם:
- גישה לנתונים ממחברת Jupyter ועיון בהם באמצעות שילובים של BigQuery ו-Cloud Storage.
- אפשר להפוך עדכונים חוזרים של מודל לאוטומטיים באמצעות הפעלות מתוזמנות של קוד שפועל ב-Agent Platform.
- עיבוד מהיר של נתונים על ידי הפעלת מחברת באשכול Managed Service for Apache Spark.
- מריצים notebook כשלב בצינור עיבוד נתונים באמצעות Agent Platform Pipelines.
Colab Enterprise היא סביבת notebook משותפת ומנוהלת עם יכולות האבטחה והתאימות של Google Cloud. Colab Enterprise הוא פתרון אידיאלי אם בין סדרי העדיפויות של הפרויקט שלכם נכללים פיתוח שיתופי וצמצום המאמץ הנדרש לניהול התשתית. Colab Enterprise משתלב עם Google Cloud שירותים ועזרה מבוססת-AI שמשתמשת ב-Gemini. Colab Enterprise מאפשר לכם:
- עבודה במחברות בלי לנהל תשתית.
- אתם יכולים לשתף מחברת עם משתמש יחיד, קבוצת Google או דומיין Google Workspace. אפשר לשלוט בגישה למחברת באמצעות ניהול זהויות והרשאות גישה (IAM).
- אינטראקציה עם תכונות שמוטמעות ב-Agent Platform וב-BigQuery.
כדי לעקוב אחרי שינויים ולחזור לגרסאות קודמות כשצריך, אתם יכולים לשלב את מחברות ה-Notebook עם כלי ניהול גרסאות כמו Git.
מתחילים עם מודלים קיימים שעברו אימון מראש
אימון מודלים מורכבים מאפס, במיוחד מודלים של למידה עמוקה, דורש משאבי מחשוב וזמן משמעותיים. כדי לזרז את תהליך בחירת המודל והפיתוח שלו, כדאי להתחיל עם מודלים קיימים שאומנו מראש. המודלים האלה, שאומנו על מערכי נתונים עצומים, מייתרים את הצורך לאמן מודלים מאפס ומקצרים משמעותית את זמן הפיתוח.
צמצום עלויות ההכשרה והפיתוח
בחירת מודל או API מתאימים לכל משימת ML ושילוב שלהם כדי ליצור תהליך פיתוח ML מקצה לקצה.
Model Garden מציע אוסף עצום של מודלים שאומנו מראש למשימות כמו סיווג תמונות, זיהוי אובייקטים ועיבוד שפה טבעית. המודלים מחולקים לקטגוריות הבאות:
- מודלים של Google כמו משפחת המודלים של Gemini ו-Imagen ליצירת תמונות.
- מודלים בקוד פתוח כמו Gemma ו-Llama.
- מודלים של צד שלישי משותפים כמו Anthropic.
Google Cloud מספקת ממשקי API של AI ולמידת מכונה שמאפשרים למפתחים לשלב יכולות AI מתקדמות באפליקציות בלי לבנות מודלים מאפס.
- Cloud Vision API מאפשר לכם להסיק תובנות מתמונות. ה-API הזה שימושי לאפליקציות כמו ניתוח תמונות, ניהול תוכן והזנת נתונים אוטומטית.
- Cloud Natural Language API מאפשר לכם לנתח טקסט כדי להבין את המבנה והמשמעות שלו. ממשק ה-API הזה שימושי למשימות כמו ניתוח משוב מלקוחות, סיווג תוכן והבנת מגמות ברשתות החברתיות.
- Speech-to-Text API ממיר אודיו לטקסט. ה-API הזה תומך במגוון רחב של שפות וניבים.
- Video Intelligence API מנתח תוכן של סרטונים כדי לזהות אובייקטים, סצנות ופעולות. אפשר להשתמש ב-API הזה לניתוח תוכן וידאו, לסינון תוכן ולחיפוש סרטונים.
- Document AI API מעבד מסמכים כדי לחלץ, לסווג ולהבין נתונים. ה-API הזה עוזר לכם להפוך לאוטומטיים תהליכי עבודה של עיבוד מסמכים.
- Dialogflow API מאפשר ליצור ממשקים לשיחות, כמו צ'אט בוטים ועוזרים קוליים. אפשר להשתמש ב-API הזה כדי ליצור בוטים לשירות לקוחות ועוזרים וירטואליים.
- Gemini API מאפשר גישה למודל ה-AI הכי מתקדם ורב-תכליתי של Google.
צמצום עלויות ההתאמה
כדי לצמצם את הצורך בנתונים נרחבים ובזמן חישוב, כדאי לבצע כוונון עדין של מודלים שאומנו מראש על מערכי נתונים ספציפיים. מומלץ להשתמש בגישות הבאות:
- העברת למידה: שימוש בידע ממודל שאומן מראש למשימה חדשה, במקום להתחיל מאפס. הגישה הזו דורשת פחות נתונים וזמן חישוב, וכך עוזרת לצמצם את העלויות.
- כוונון מתאמים (כוונון יעיל בפרמטרים): התאמת מודלים למשימות או לדומיינים חדשים בלי לבצע כוונון מלא. הגישה הזו דורשת משאבי מחשוב נמוכים משמעותית ומערך נתונים קטן יותר.
- כוונון עדין מפוקח: התאמת התנהגות המודל באמצעות מערך נתונים עם תוויות. הגישה הזו מפשטת את הניהול של התשתית הבסיסית ואת מאמצי הפיתוח שנדרשים לעבודת אימון בהתאמה אישית.
התנסות ב-Agent Studio ב-Gemini Enterprise Agent Platform
באמצעות Agent Studio אתם יכולים לבדוק, ליצור אב טיפוס ולפרוס במהירות אפליקציות של AI גנרטיבי.
- שילוב עם Model Garden: מאפשר גישה מהירה למודלים העדכניים ביותר, ומאפשר לפרוס את המודלים ביעילות כדי לחסוך זמן ועלויות.
- גישה מאוחדת למודלים ייעודיים: גישה מאוחדת למגוון רחב של מודלים וממשקי API שאומנו מראש, כולל מודלים וממשקי API לשיחות, לטקסט, למדיה, לתרגום ולדיבור. הגישה המאוחדת הזו יכולה לעזור לכם לצמצם את הזמן שאתם משקיעים בחיפוש שירותים ספציפיים ובשילוב שלהם.
שימוש בשירותים מנוהלים לאימון מודלים או להצגתם
שירותים מנוהלים יכולים לעזור להפחית את העלות של אימון המודל ולפשט את ניהול התשתית, וכך לאפשר לכם להתמקד בפיתוח ובאופטימיזציה של המודל. הגישה הזו יכולה להוביל לחיסכון משמעותי בעלויות ולשיפור היעילות.
צמצום התקורה התפעולית
כדי לצמצם את המורכבות והעלות של ניהול התשתית, כדאי להשתמש בשירותים מנוהלים כמו:
- Agent Platform Managed Training מספקת סביבה מנוהלת מלאה לאימון המודלים שלכם בהיקף נרחב. אתם יכולים לבחור מתוך מגוון מאגרי תגים מוכנים מראש עם מסגרות פופולריות של ML, או להשתמש במאגרי תגים מותאמים אישית משלכם. Google Cloud מטפל בהקצאת משאבים, בהרחבה ובתחזוקה של התשתית, כך שאתם נהנים מתקורה תפעולית נמוכה יותר.
- Agent Platform Inference מטפל בהרחבת התשתית, באיזון העומסים ובניתוב הבקשות. אתם מקבלים זמינות וביצועים גבוהים בלי התערבות ידנית.
- Ray on Gemini Enterprise Agent Platform מספק אשכול Ray מנוהל באופן מלא. אתם יכולים להשתמש באשכול כדי להריץ עומסי עבודה מורכבים של AI בהתאמה אישית שמבצעים הרבה חישובים (כוונון היפרפרמטרים, כוונון עדין של מודלים, אימון מודלים מבוזרים ולמידת חיזוק ממשוב אנושי) בלי שתצטרכו לנהל את התשתית שלכם.
שימוש בשירותים מנוהלים כדי לייעל את ניצול המשאבים
פרטים על שימוש יעיל במשאבים זמינים במאמר אופטימיזציה של השימוש במשאבים.
שותפים ביצירת התוכן
מחברים:
- אייזק לו | מנהל פיתוח עסקי בתחום ה-AI
- Anastasia Prokaeva | Field Solutions Architect, Generative AI
- איימי סאות'ווד | יועצת בנושא פתרונות טכניים, ניתוח נתונים ו-AI
תורמי תוכן אחרים:
- Filipe Gracio, PhD | Customer Engineer, AI/ML Specialist
- קומאר דהנגופאל | מפתח פתרונות חוצי-מוצרים
- Marwan Al Shawi | Partner Customer Engineer
- ניקולס פינטו (Nicolas Pintaux) | Customer Engineer, Application Modernization Specialist