Google veröffentlicht sein Prüfverfahren für Genauigkeit, Sicherheit und Nutzen seiner KI-Modelle im Gesundheitsbereich
Ein mit Elizabeth McGlynn und Dana Gelb Safran verfasstes Whitepaper kombiniert geschlossene Benchmarks, automatische Bewerter und Expertenprüfung; neue Werte für eigene Modelle nennt Google nicht.
Warum es wichtig ist
Gesundheitsfragen gehören zu den häufigsten Chatbot-Anliegen, doch es gibt kein anerkanntes Verfahren, um die Sicherheit der Antworten zu prüfen. Googles Paper ordnet die Bewertung den Lebensphasen eines Produkts zu, vom Basismodell bis zur Überwachung nach dem Einsatz, und drei Bereichen: Genauigkeit, Sicherheit und Nutzen. Es ist eine Methode, keine Ergebnistabelle; ein Vergleich mit Konkurrenzmodellen ist damit nicht möglich. Offen ist, ob Gesundheitssysteme, Einkäufer oder Aufsichtsbehörden es übernehmen, was die Autoren anstreben.
Die wichtigsten Fakten
- Drei Bereiche: Genauigkeit, Sicherheit, Nutzen
- Methoden: geschlossene Benchmarks, Autorater, Expertenprüfung
- Mit Elizabeth McGlynn und Dana Gelb Safran
- Paper am 3. Nov. 2026 auf arXiv