Konkludimi me përparësi

Gemini Priority API është një nivel i parashikimit premium i krijuar për ngarkesat e punës që janë kritike për biznesin që kërkojnë vonesë më të ulët dhe besueshmëri më të lartë me një çmim premium. Trafiku i nivelit të përparësisë ka përparësi mbi trafikun e nivelit standard të API-së dhe nivelit Flex.

Konkluzioni me përparësi ofrohet në pikat fundore të Interactions API.

Si të përdorësh "Përparësinë"

Për të përdorur nivelin "Me përparësi", cakto fushën service_tier në kërkesën tënde në priority. Niveli i parazgjedhur është standard nëse fusha hiqet.

from google import genai

client = genai.Client()

interaction = client.interactions.create(
    model="gemini-3.8-flash",
    input="Triage this critical customer support ticket immediately.",
    service_tier='priority'
)
print(interaction.output_text)

import { GoogleGenAI } from '@google/genai';

const ai = new GoogleGenAI({});

async function main() {
    const interaction = await ai.interactions.create({
        model: "gemini-3.8-flash",
        input: "Triage this critical customer support ticket immediately.",
        service_tier: "priority"
    });
    console.log(interaction.output_text);
}

await main();

import com.google.genai.Client;
import com.google.genai.gaos.models.interactions.CreateModelInteraction;
import com.google.genai.gaos.models.interactions.Interaction;
import com.google.genai.gaos.models.interactions.InteractionsInput;
import com.google.genai.gaos.models.interactions.Model;
import com.google.genai.gaos.models.interactions.ServiceTier;
import com.google.genai.gaos.models.operations.CreateInteractionRequestBody;

Client client = new Client();

CreateModelInteraction params =
    CreateModelInteraction.builder()
        .model(Model.of("gemini-3.8-flash"))
        .input(InteractionsInput.of("Perform a priority inference task."))
        .serviceTier(ServiceTier.PRIORITY)
        .build();

Interaction interaction =
    client.interactions.create(CreateInteractionRequestBody.of(params)).interaction().get();

System.out.println(interaction.outputText().orElse(""));

package main

import (
    "context"
    "fmt"
    "log"

    "google.golang.org/genai"
    "google.golang.org/genai/interactions/models/interactions"
    "google.golang.org/genai/interactions/models/operations"
)

func main() {
    ctx := context.Background()
    client, err := genai.NewClient(ctx, nil)
    if err != nil {
        log.Fatal(err)
    }

    res, err := client.Interactions.Create(ctx, operations.CreateInteractionRequest{
        Body: operations.NewCreateInteractionRequestBody(interactions.CreateModelInteraction{
            Model:       interactions.Model("gemini-3.8-flash"),
            Input:       interactions.NewInteractionsInput("Perform a priority inference task."),
            ServiceTier: interactions.ServiceTierPriority.ToPointer(),
        }),
    })
    if err != nil {
        log.Fatal(err)
    }
    if res.Interaction.OutputText != nil {
        fmt.Println(*res.Interaction.OutputText)
    }
}

curl -X POST "https://generativelanguage.googleapis.com/v1beta/interactions" \
  -H "Content-Type: application/json" \
  -H "x-goog-api-key: $GEMINI_API_KEY" \
  -d '{
    "model": "gemini-3.8-flash",
    "input": "Triage this critical customer support ticket immediately.",
    "service_tier": "priority"
  }'

Si funksionon nxjerrja e përfundimeve për "Përparësinë"

Itineraret e përfundimeve me përparësi i drejtojnë kërkesat te radhët e llogaritjeve me nivel të lartë kritik, duke ofruar performancë të parashikueshme dhe të shpejtë për aplikacionet e përdoruesve. Mekanizmi i tij kryesor është një ulje e nivelit në anën e serverit në përpunim standard për trafikun që tejkalon kufijtë dinamikë, duke siguruar qëndrueshmërinë e aplikacionit në vend që të dështojë kërkesa.

Përfitimet kryesore

• Vonesë e ulët: Projektuar për kohë përgjigjeje në sekonda për vegla interaktive të IA-së për përdoruesit.
• Besueshmëri e lartë: Trafiku trajtohet me nivelin më të lartë të rëndësisë dhe është rreptësisht i pashmangshëm.
• Degradimi i butë: Rritjet e trafikut që tejkalojnë kufijtë dinamikë ulen automatikisht në nivelin "Standard" për përpunim në vend që të dështojnë, duke parandaluar ndërprerjet e shërbimit.
• Fërkim i ulët: Përdor të njëjtën metodë sinkrone create si niveli standard dhe ai Flex.

Rastet e përdorimit

Përpunimi me përparësi është ideal për flukset e punës kritike për biznesin ku performanca dhe besueshmëria janë parësore.

• Aplikacionet ndërvepruese të IA-së: Robotët e bisedës dhe bashkëpilotët e shërbimit të klientit ku përdoruesit paguajnë një premium dhe presin përgjigje të shpejta dhe të qëndrueshme.
• Motorët e vendimmarrjes në kohë reale: Sistemet që kërkojnë rezultate shumë të besueshme me vonesë të ulët, si p.sh. triazhi i biletave drejtpërdrejt ose zbulimi i mashtrimeve.
• Veçoritë e klientëve premium: Zhvilluesit që duhet të garantojnë objektiva më të lartë të nivelit të shërbimit (SLO) për klientët që paguajnë.

Kufijtë e kursit të këmbimit

Konsumimi me përparësi ka kufijtë e vet të normës edhe pse konsumimi llogaritet për kufijtë e normës së përgjithshme të trafikut interaktiv. Kufijtë e parazgjedhur të normës për përfundimin e "Përparësisë" janë 0,3 herë kufiri standard i normës për modelin / nivelin

Logjika e uljes së nivelit me hapa të ngadaltë

Nëse kufijtë e "Përparësisë" tejkalohen për shkak të mbingarkesës, kërkesat e tepërta ulen automatikisht dhe me mirësjellje në përpunimin "Standard" në vend që të dështojnë me një gabim 503 ose 429. Kërkesat e ulura në nivel tarifohen me tarifën standarde, jo me tarifën premium të "Përparësisë".

Përgjegjësia e klientit

• Monitorimi i përgjigjes: Zhvilluesit duhet të monitorojnë kokën x-gemini-service-tier në përgjigjen e API-së për të zbuluar nëse kërkesat po ulen shpesh në standard.
• Riprovat: Klientët duhet të zbatojnë logjikën e riprovës/kohën e pritjes eksponenciale për gabimet standarde, si p.sh. DEADLINE_EXCEEDED.

Çmimet

Konkluzioni me përparësi ka një çmim 75-100% më të lartë se API-ja standarde dhe faturohet për çdo dërgim.

Modelet e mbështetura

Modelet e mëposhtme mbështesin nxjerrjen e përfundimeve me përparësi:

Çfarë ka më pas

• Deduksioni Flex për reduktimin e kostos.
• Tokenët: Kupto tokenët.