הגדרת גרסת המסנן

במאמרי עזרה הזה מוסבר איך פועלות גרסאות המסננים של הגנה מוגברת על המודל ואיך להנחות את הגנה מוגברת על המודל להשתמש בגרסה ספציפית של מסנן או בכינוי של גרסת מסנן בפעולות.

‫הגנה מוגברת על המודל משתמשת במסננים כדי לזהות ולחסום תוכן פוגעני, מידע אישי רגיש, כתובות URL זדוניות ומתקפות החדרת פרומפטים בפרומפטים ובתשובות של LLM. מידע נוסף זמין במאמר בנושא מסנני הגנה מוגברת על המודל.

גרסאות המסננים של Model Armor מספקות יציבות לעומסי עבודה של ייצור וגישה למודלים העדכניים ביותר לזיהוי איומים. מגדירים גרסה אחת של מסנן ברמת התבנית. אי אפשר לציין גרסאות שונות לפילטרים נפרדים.

מתי כדאי להגדיר גרסאות של מסננים וכינויים

הנה כמה תרחישי שימוש נפוצים:

• נעילת התנהגות סינון דטרמיניסטית: הגדרת תבניות לגרסת סינון ספציפית כדי למנוע שינויים בלוגיקה של זיהוי איומים במערכות קריטיות.
• קבלת עדכוני אבטחה אוטומטיים: משתמשים בכינוי Stable כדי להטמיע באופן אוטומטי מודלים מעודכנים לזיהוי איומים, אחרי שהם עוברים אימות.
• בדיקת יכולות זיהוי עתידיות: אפשר להשתמש בכינוי Latest בסביבות טרום-ייצור כדי להעריך כללי סינון חדשים בהשוואה לדפוסי תנועה בעולם האמיתי.
• הפעלת מחזורי השקה צפויים: אימות עומסי עבודה מול גרסאות מסננים חדשות לפני עדכון ידני של תבניות ייצור.

כינויי גרסה

בתבנית הגנה מוגברת על המודל, אפשר להשתמש בכינוי כדי לציין את גרסת המסנן המועדפת. שם כינוי מייצג שלב במחזור החיים של הגרסה. כל כינוי מוגדר לגרסה המתאימה ככל שמחזור החיים מתקדם.

אם בוחרים כינוי, התבנית משתמשת בגרסה שהכינוי מוגדר לה. כשמעדכנים את הגרסה הבסיסית של הכינוי (לדוגמה, כשמקודמים גרסה חדשה ל-Stable), תבניות שמשתמשות בכינוי משתמשות אוטומטית בגרסה החדשה. אם לא רוצים שהגרסה של המסנן תשתנה, צריך להפנות את התבנית לגרסה ספציפית של המסנן.

אפשר לבחור מבין הכינויים הבאים:

• ‫Latest: הכינוי עם המודלים וההגנות העדכניים ביותר, עם עדכונים תכופים נגד איומים חדשים. כינוי כזה מציע יעדים סטנדרטיים ברמת השירות (SLO), אבל היציבות עשויה להשתנות בין הגרסאות. הוא מתאים לבדיקות, לסביבות פיתוח ולעומסי עבודה שבהם יש עדיפות למודלים עדכניים של זיהוי על פני התנהגות עקבית של מסננים.
• ‫Stable: הכינוי שמוגדר כברירת מחדל לגרסאות עם תבניות זמינות. הכינוי הזה מספק לוגיקה אמינה לזיהוי שלא משתנה, והוא מתאים לסביבות ייצור ולעומסי עבודה שבהם נדרש התנהגות סינון שלא משתנה. כשגרסה חדשה הופכת ל-Stable, הגרסה הקודמת של Stable הופכת ל-Legacy.
• ‫Legacy: הכינוי לגרסה קודמת של Stable שעדיין זמינה למשך 90 ימים אחרי שגרסה חדשה של Stable יוצאת. במהלך התקופה הזו, תוכלו להעביר את מערכות הייצור שלכם לגרסה החדשה של Stable בכל שלב. אי אפשר ליצור תבניות חדשות באמצעות גרסה של Legacy.
• ‫Retired: הכינוי לגרסה שעברו 90 יום מאז שהיא יצאה משימוש, והיא כבר לא זמינה. ‫הגנה מוגברת על המודל משתמשת בגרסה Stable כדי לבצע הסרת תוכן זדוני או רגיש של קריאות לתבניות שעדיין משתמשות בגרסה Retired.

מסננים שלא משתמשים בגרסאות של מסננים

ההגדרה של גרסת המסנן לא משפיעה על המסננים של Sensitive Data Protection ושל כתובות URL זדוניות.

מחזור החיים של הגרסה

Google Cloud מספקת התראות על שינויים במחזור החיים של הגרסה, כולל מתי גרסה הופכת לגרסה Legacy ותאריך ההוצאה משימוש שמתקרב בכל תשובה של sanitize API. צריך להעביר כל תבנית שמשתמשת בגרסה Legacy לגרסה Stable או Latest תוך 90 יום.

בדוגמה הבאה מתואר מחזור החיים של הגרסה:

1. גרסה (Latest): Google משיקה גרסה חדשה של המסנן (v2) בתור Latest.
2. קידום (Latest ל-Stable): כש-Google מקדמת את גרסה Latest לגרסה Stable (v2 הופכת ל-Stable), קורה הדבר הבא:
   1. ‫Google מעבירה את הגרסה הקודמת Stable (v1) אל Legacy.
   2. גרסה חדשה (v3) הופכת ל-Latest החדש. ‫Google מקדמת גרסה אחרי שהיא עוברת בדיקות קפדניות, אחרי שמוכח שיש לה שימוש יומי עקבי, אחרי שמתגלה שיש לה בעיות מינימליות אצל הלקוחות או כשמתעורר צורך בהגנה מפני איומים קריטיים.
3. הוצאה משימוש (Legacy עד Retired): אחרי שגרסת מסנן נשארת במצב Legacy למשך 90 יום, Google מוציאה אותה משימוש והיא כבר לא זמינה.

ציר הזמן של פרסום הגרסה

בטבלה הבאה מפורטים פרטים על גרסאות של מסננים, כולל שמות, תאריכי השקה, תאריכי הוצאה משימוש ואזורים נתמכים.

מידע על השינויים בכל גרסה זמין במאמר בנושא סינון היסטוריית הגרסאות.

התנהגות התבנית

ההתנהגות של התבנית תלויה בגרסת המסנן שבה משתמשים, והיא מאופיינת בתכונות הבאות:

• תבניות ללא גרסה: תבניות ללא גרסה מוגדרת, חדשות או קיימות, מוגדרות כברירת מחדל לגרסה Stable.

• תבניות עם כינויים Latest או Stable: התבניות האלה משתמשות באופן אוטומטי בגרסה שמוקצית לכינויים האלה. לדוגמה, כשגרסה חדשה של מסנן הופכת לגרסה Stable, תבניות שמשתמשות בכינוי Stable עוברות לגרסה החדשה בלי שנדרשים שינויים בתבנית.

• תבניות שמשתמשות בגרסה ספציפית:

  • אם הגרסה תואמת לגרסה Latest או Stable, התבנית מתנהגת כמצופה.
  • אם הגרסה תואמת לגרסה Legacy, התבנית תפעל כמצופה כשמשתמשים בה לפעולות הסרת תוכן זדוני או רגיש למשך 90 יום. אחרי 90 יום, הגרסה עוברת לשלב Retired. במהלך השלב הזה, אתם צריכים להעביר את התבניות לגרסה Latest או לגרסה Stable.

שינוי גרסת ברירת המחדל של המסנן בהגדרות אבטחה מינימליות

הגדרות אבטחה מינימליות משתמשות בStable גרסת המסנן כברירת מחדל. בשילוב של Gemini Enterprise Agent Platform, אם רוצים לשנות את ההגדרה הזו, צריך לציין תבנית בקריאה generateContent למודל Gemini. כדי לעשות את זה, יוצרים תבנית עם גרסה או כינוי ספציפיים של מסנן באותו אזור שבו מתכננים לשלוח את הבקשה ל-Gemini.

export TEMPLATE_CONFIG='{
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "alias": "FILTER_VERSION_ALIAS"
    }
  }
}'

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  -d "$TEMPLATE_CONFIG" \
  "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

מחליפים את מה שכתוב בשדות הבאים:

• ‫FILTER_VERSION_ALIAS: הכינוי של גרסת המסנן המועדפת. אפשר להשתמש ב-FILTER_VERSION_ALIAS_STABLE או ב-FILTER_VERSION_ALIAS_LATEST.
• ‫PROJECT_ID: מזהה הפרויקט שהתבנית שייכת לו.
• ‫TEMPLATE_ID: המזהה של התבנית שרוצים ליצור.
• ‫LOCATION: האזור שבו מאחסנים את תבנית Model Armor. האזור הזה צריך להיות זהה לאזור שבו אתם מתכננים לשלוח את הבקשה ל-Gemini. אחרת, Agent Platform תקבל שגיאה.Template not found רשימת האזורים שנתמכים בשילוב הזה מופיעה במאמר שילוב עם Gemini Enterprise Agent Platform.

מציינים את מזהה התבנית באובייקט model_armor_config בקריאה ל-Gemini. הגדרת המסנן שצוינה בתבנית חלה במקום הגדרת מחיר המינימום ברמת הפרויקט.

curl -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  "https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/publishers/google/models/gemini-2.5-flash:generateContent" \
  -d '{
  "contents": [
    {
      "role": "user",
      "parts": [
        {
          "text": "Your prompt here"
        }
      ]
    }
  ],
  "model_armor_config": {
    "prompt_template_name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
    "response_template_name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"
  }
}'

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID: מזהה הפרויקט ב- Google Cloud .
• ‫REGION: Google Cloud האזור של נקודת הקצה של Gemini.
• ‫LOCATION: האזור שבו מאוחסנת תבנית Model Armor. האזור הזה צריך להיות זהה לאזור שצוין עבור REGION.
• ‫TEMPLATE_ID: המזהה של תבנית Model Armor.

הגדרת גרסת מסנן לתבנית

יש שתי דרכים להגדיר את גרסת המסנן בתבנית:

• באמצעות כינוי: משתמשים בכינויים דינמיים כמו Stable או Latest כדי שהתבנית תשתמש אוטומטית במספר גרסה שמתאים לכינוי המועדף. כך לא תצטרכו לבצע עדכונים ידניים כשהגרסה הבסיסית תשתנה.
• באמצעות מספר גרסה: אפשר להשתמש במספר גרסה כמו v1 כדי לוודא שתבנית מוגדרת לגרסה מסוימת, וכך להבטיח התנהגות קבועה שלא משתנה גם כשמתבצע עדכון של כתובות אימייל חלופיות.

יצירת תבנית באמצעות כינוי גרסה

כדי ליצור תבנית באמצעות כינוי גרסה ספציפי, מריצים את הפקודה הבאה:

export TEMPLATE_CONFIG='{
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "alias": "FILTER_VERSION_ALIAS"
    }
  }
}'

curl -X POST \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d "$TEMPLATE_CONFIG" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

מחליפים את מה שכתוב בשדות הבאים:

• ‫FILTER_VERSION_ALIAS: הכינוי של גרסת המסנן המועדפת. אפשר להשתמש ב-FILTER_VERSION_ALIAS_STABLE או ב-FILTER_VERSION_ALIAS_LATEST.
• ‫PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית.
• ‫TEMPLATE_ID: המזהה של התבנית שרוצים ליצור.
• ‫LOCATION: המיקום של התבנית.

התגובה אמורה להיראות כך:

{
  "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
  "createTime": "2026-04-05T17:57:46.976854398Z",
  "updateTime": "2026-04-05T17:57:46.976854398Z",
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "alias": "FILTER_VERSION_ALIAS"
    }
  }
}

יצירת תבנית באמצעות גרסה ספציפית של מסנן

אם אתם צריכים שהמסנן לא ישתנה, אתם יכולים ליצור תבנית שתואמת לגרסה ספציפית. כדי לעשות את זה, מריצים את הפקודה הבאה:

export TEMPLATE_CONFIG='{
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "version": "FILTER_VERSION_NUMBER"
    }
  }
}'

curl -X POST \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d "$TEMPLATE_CONFIG" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית.
• ‫TEMPLATE_ID: המזהה של התבנית שרוצים ליצור.
• ‫LOCATION: המיקום של התבנית.
• ‫FILTER_VERSION_NUMBER: מספר הגרסה המועדפת של המסנן (לדוגמה, v1).

התגובה אמורה להיראות כך:

{
  "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
  "createTime": "2026-04-05T18:03:29.134974974Z",
  "updateTime": "2026-04-05T18:03:29.134974974Z",
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "version": "FILTER_VERSION_NUMBER"
    }
  }
}

עדכון גרסת המסנן של תבנית

כדי לעדכן את הגרסה או הכינוי של מסנן בתבנית קיימת, מריצים את הפקודה הבאה:

export TEMPLATE_CONFIG='{
  "templateMetadata": {
    "filterVersionSelector": {
      "alias": "FILTER_VERSION_ALIAS"
    }
  }
}'

curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d "$TEMPLATE_CONFIG" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID?updateMask=templateMetadata.filterVersionSelector"

מחליפים את מה שכתוב בשדות הבאים:

• ‫FILTER_VERSION_ALIAS: הכינוי של גרסת המסנן המועדפת. אפשר להשתמש ב-FILTER_VERSION_ALIAS_STABLE או ב-FILTER_VERSION_ALIAS_LATEST.
• ‫PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית.
• ‫TEMPLATE_ID: המזהה של התבנית שרוצים ליצור.
• ‫LOCATION: המיקום של התבנית.

התגובה אמורה להיראות כך:

{
  "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
  "createTime": "2026-04-05T18:03:29.134974974Z",
  "updateTime": "2026-04-05T18:04:07.711205953Z",
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "alias": "FILTER_VERSION_ALIAS"
    }
  }
}

הצגת גרסת המסנן שנעשה בה שימוש בפעולות ניקוי

המטא-נתונים של התגובה של Sanitize API כוללים מידע על גרסת המסנן שנעשה בה שימוש במהלך הסניטציה. תקבלו אזהרה על הוצאה משימוש בתגובה של ה-API לניקוי נתונים, 30 יום לפני ש-Google תוציא את הגרסה משימוש.

בדוגמה הבאה מוצגת תגובה של API שכוללת את גרסת המסנן:

"sanitizationResult": {
    "filterMatchState": "NO_MATCH_FOUND",
    "invocationResult": "SUCCESS",
    "filterResults": {
      "csam": {
        "csamFilterFilterResult": {
          "executionState": "EXECUTION_SUCCESS",
          "matchState": "NO_MATCH_FOUND"
        }
      },
      "malicious_uris": {
        "maliciousUriFilterResult": {
          "executionState": "EXECUTION_SUCCESS",
          "matchState": "NO_MATCH_FOUND"
        }
      },
      "rai": {
        "raiFilterResult": {
          "executionState": "EXECUTION_SUCCESS",
          "matchState": "NO_MATCH_FOUND",
          "raiFilterTypeResults": {
            "sexually_explicit": {
              "matchState": "NO_MATCH_FOUND"
            },
            "hate_speech": {
              "matchState": "NO_MATCH_FOUND"
            },
            "harassment": {
              "matchState": "NO_MATCH_FOUND"
            }
          }
        }
      },
      "pi_and_jailbreak": {
        "piAndJailbreakFilterResult": {
          "executionState": "EXECUTION_SUCCESS",
          "matchState": "NO_MATCH_FOUND"
        }
      },
      "sdp": {
        "sdpFilterResult": {
          "inspectResult": {
            "executionState": "EXECUTION_SUCCESS",
            "matchState": "NO_MATCH_FOUND"
          }
        }
      }
    },
  "sanitizationMetadata": {
    "filterVersionConfig": {
      "filterVersion": "v2",
      "filterVersionAlias": "FILTER_VERSION_ALIAS_LEGACY",
      "releaseDate": {
        "year": 2025,
        "month": 6,
        "day": 19
      },
      "projectedDeprecationDate": {
        "year": 2026,
        "month": 12,
        "day": 17
      },
      "messageItems": [
        {
          "messageType": "WARNING",
          "message": "This filter version (v2) is in LEGACY state and will be
          RETIRED on 2026-12-17. Please migrate your template to the STABLE or
          LATEST version to ensure continued protection."
        }
      ]
   }
  },
}

‫הגנה מוגברת על המודל יוצר יומנים של הפלטפורמה לבקשות להסרת תוכן זדוני או רגיש ולתגובות שלהן ב-Cloud Logging. מידע נוסף על יומני הביקורת שנוצרים אוטומטית זמין במאמר בנושא רישום ביומן ביקורת של הגנה מוגברת על המודל.