Beitrag von KINEWS24

Unternehmensseite für KINEWS24 anzeigen

101 Follower:innen

Oxford THRONE – Erkennt Fehler von Sprachmodellen und Halluzinationen - Fokus auf Halluzinationen: Vision-Language Modelle können inkorrekte, aber plausible Details generieren, die in kritischen Anwendungen irreführend sein können. - Neues Bewertungssystem THRONE: Entwickelt, um Halluzinationen in offenen Antwortformaten zu erkennen, die detaillierte Bildbeschreibungen erfordern. - Verwendung öffentlich zugänglicher Modelle: THRONE nutzt existierende Sprachmodelle zur Evaluation und verbessert damit die Zugänglichkeit und Vergleichbarkeit der Ergebnisse. - Präzision betont: Das System legt besonderen Wert auf die Präzision der Antworten, um die negativen Auswirkungen von falsch positiven Ergebnissen zu minimieren. - Erkenntnisse aus der THRONE-Evaluation: Trotz des fortschrittlichen Ansatzes liegt die Rate der Halluzinationen bei einigen Modellen bei etwa 20%, was die Notwendigkeit weiterer Forschungen unterstreicht. #KI #AI #ArtificialIntelligence https://lnkd.in/esrxPzHm

Profil von Oliver Welling anzeigen

Geschäftsführer Brain-Two GmbH Gründer KINEWS24.de. Engagiert in der Vermittlung von KI-Wissen durch Vorträge, Workshops und Beratung von Unternehmen für praxisnahe Lösungen für KI im Arbeitsalltag.

Oxford THRONE – Erkennt Fehler von Sprachmodellen und Halluzinationen - Fokus auf Halluzinationen: Vision-Language Modelle können inkorrekte, aber plausible Details generieren, die in kritischen Anwendungen irreführend sein können. - Neues Bewertungssystem THRONE: Entwickelt, um Halluzinationen in offenen Antwortformaten zu erkennen, die detaillierte Bildbeschreibungen erfordern. - Verwendung öffentlich zugänglicher Modelle: THRONE nutzt existierende Sprachmodelle zur Evaluation und verbessert damit die Zugänglichkeit und Vergleichbarkeit der Ergebnisse. - Präzision betont: Das System legt besonderen Wert auf die Präzision der Antworten, um die negativen Auswirkungen von falsch positiven Ergebnissen zu minimieren. - Erkenntnisse aus der THRONE-Evaluation: Trotz des fortschrittlichen Ansatzes liegt die Rate der Halluzinationen bei einigen Modellen bei etwa 20%, was die Notwendigkeit weiterer Forschungen unterstreicht. #KI #AI #ArtificialIntelligence https://lnkd.in/eCUi7rEE

Zum Anzeigen oder Hinzufügen von Kommentaren einloggen

Themen ansehen