Seit der Einführung der KI-gestützten Funktion „AI Overview“ in der Google-Suche in den USA sind beunruhigende und peinliche Fehler ans Licht gekommen. Diese Funktion, die den Nutzern direkte Antworten auf ihre Fragen liefert, hat offenbar Schwierigkeiten, zwischen seriösen Informationen und humoristischen oder satirischen Inhalten zu unterscheiden. Dies führte zu teilweise absurden Empfehlungen wie dem Vorschlag, Pizzakäse mit ungiftigem Klebstoff zu befestigen oder der Behauptung, dass Hunde in der NBA und NFL spielen.

Warum passieren diese Fehler?

Die Ursache für diese Fehler liegt in der Unfähigkeit der KI, Scherze und Satire von echten Informationen zu unterscheiden. Die Software bezieht ihre Antworten aus Quellen wie witzigen Beiträgen in sozialen Medien oder Artikeln auf Satire-Websites wie The Onion. Ein Beispiel ist die absurde Behauptung, Geologen würden empfehlen, jeden Tag einen kleinen Stein zu essen.

Eine Google-Sprecherin erklärte, dass diese Fehler auf sehr ungewöhnliche Suchanfragen zurückzuführen seien und nicht dem entsprächen, was die meisten Nutzer suchten oder erlebten. Dennoch würden diese Beispiele genutzt, um das Produkt zu verbessern.

Kritik und Herausforderungen

Bereits bei der Vorstellung der Funktion auf der Google-Konferenz I/O gab es Kritik. In einer Demo wurde ein Mann gezeigt, der die KI nach einer Lösung für seine nicht funktionierende Kamera fragte. Die Antwort „öffne die Rückseite der Kamera und entferne vorsichtig die Filmrolle“ zeigte die Unzuverlässigkeit der KI, da moderne Kameras keine Filmrollen mehr verwenden.

Historische Probleme mit KI-Werkzeugen

Google ist nicht das einzige Unternehmen, das mit den Herausforderungen von KI-Tools kämpft. Bereits im Februar musste sich Google für Fehler seiner KI-Software Gemini rechtfertigen, die unpassende Bilder erzeugte. Solche Vorfälle zeigen, dass die Technologie noch nicht ausgereift und fehleranfällig ist.

Lesen Sie auch >   Fehlendes Gendern für KI: Das generische Maskulinum ist der digitale Tod der Frau

Auswirkungen und Zukunft von „AI Overview“

Trotz der Fehleranfälligkeit plant Google, die „AI Overview“-Funktion bis Ende des Jahres in weiteren Ländern einzuführen. Dies sorgt für Unruhe bei vielen Website-Betreibern und Medien, die befürchten, dass Google durch die KI-Zusammenfassungen weniger Traffic auf ihre Seiten lenken wird. Google hingegen argumentiert, dass die Quellen der Informationen in den Zusammenfassungen sogar mehr Traffic erhalten.

Fragen und Antworten

Warum hat Google die KI-Übersicht eingeführt, obwohl sie so fehleranfällig ist?
Google verfolgt den Ansatz, innovative Features schnell einer breiten Nutzerbasis zugänglich zu machen, um aus realen Nutzerdaten zu lernen und die Produkte zu verbessern. Die Einführung von „AI Overview“ trotz bekannter Fehler dient diesem Ziel, auch wenn dies kurzfristig zu peinlichen Fehlern führt.

Wie reagiert Google auf die Kritik an den KI-Fehlern?
Google erkennt die Fehler an und arbeitet an der Verbesserung der KI-Technologie. Feedback und Kritik werden genutzt, um die Algorithmen zu optimieren und zukünftige Fehler zu vermeiden. Dies ist ein fortlaufender Prozess, der ständige Anpassungen und Verbesserungen erfordert.

Welche Maßnahmen ergreift Google, um die Zuverlässigkeit der KI-Antworten zu erhöhen?
Google implementiert laufend neue Filter und Prüfsysteme, um die Quellen der Informationen besser zu verifizieren. Darüber hinaus werden Mitarbeiter und externe Experten eingesetzt, um die Qualität und Genauigkeit der Antworten zu überprüfen und sicherzustellen, dass die KI keine irreführenden Informationen liefert.

Wie beeinflussen die Fehler der KI das Vertrauen der Nutzer in Google?
Die fehlerhaften Antworten können das Vertrauen der Nutzer in die Zuverlässigkeit der Google-Suche beeinträchtigen. Langfristig könnte dies zu einem Imageproblem für Google führen, wenn die KI-Fehler nicht behoben werden. Daher ist es wichtig, dass Google schnell und effektiv reagiert, um das Vertrauen wiederherzustellen.

Lesen Sie auch >   Erste „Miss AI“-Wahl wegen unrealistischer Schönheitsstandards in der Kritik

Was können Nutzer tun, um korrekte Informationen zu erhalten?
Nutzer sollten sich bewusst sein, dass KI-generierte Antworten nicht immer korrekt sind und daher zusätzliche Quellen zur Überprüfung heranziehen. Es ist ratsam, bei wichtigen oder ungewöhnlichen Fragen mehrere Informationsquellen zu konsultieren und die Ergebnisse kritisch zu hinterfragen.

Fazit

Die Einführung von KI-gestützten Funktionen wie „AI Overview“ zeigt, dass die Technologie noch in den Kinderschuhen steckt und fehleranfällig ist. Google und andere Unternehmen stehen vor der Herausforderung, ihre KI-Systeme zu verfeinern, um verlässlichere und genauere Informationen zu liefern. Trotz der derzeitigen Probleme bietet die Weiterentwicklung dieser Technologien das Potenzial, die Effizienz und Benutzerfreundlichkeit von Suchmaschinen erheblich zu verbessern.

Bleiben Sie auf dem Laufenden und abonnieren Sie den Mimikama-Newsletter. Nutzen Sie auch die Online-Vorträge und Workshops.

Quelle: derStandard

Hinweise: 1) Dieser Inhalt gibt den Stand der Dinge wieder, der zum Zeitpunkt der Veröffentlichung aktuell war. Die Wiedergabe einzelner Bilder, Screenshots, Einbettungen oder Videosequenzen dient zur Auseinandersetzung der Sache mit dem Thema.
2) Einzelne Beiträge entstanden durch den Einsatz von maschineller Hilfe und wurde vor der Publikation gewissenhaft von der Mimikama-Redaktion kontrolliert. (Begründung)