Die Wahrheit über KI-Halluzinationen: Forscher schlagen eine vulgäre, aber genauere Bezeichnung vor

Es handelt sich um ein überzeugendes philosophisches Argument. Laut einer Gruppe von Forschern der University of Glasgow in Schottland spuckt ChatGPT tatsächlich ‚Unsinn‘ aus.

In einem neuen Artikel in der Zeitschrift Ethics and Information Technology argumentieren drei Philosophieforscher, dass die Neigung von Chatbots, Unsinn zu produzieren, nicht als ‚Halluzinationen‘ bezeichnet werden sollte, da es tatsächlich etwas viel weniger schmeichelhaftes ist.

Die Forscher erklären, dass die Maschinen nicht versuchen, etwas zu kommunizieren, an das sie glauben oder wahrnehmen. Ihre Ungenauigkeit ist nicht auf Fehlwahrnehmung oder Halluzination zurückzuführen. Sie reden einfach Unsinn.

Der Kern der Behauptung der Forscher Michael Townsen Hicks, James Humphries und Joe Slater basiert auf dem Philosophen Harry Frankfurts epochemachendem Werk ‚On Bullshit‘ aus dem Jahr 2005. Frankfurt definiert ‚Bullshit‘ als jede Äußerung, bei der der Sprecher gleichgültig gegenüber der Wahrheit ist.

ChatGPT ist laut den Forschern mindestens ein sanfter Bullshitter oder eine Bullshit-Maschine. Anstatt eine Absicht oder Agenda zu haben, haben Chatbots nur ein einziges Ziel: menschenähnlichen Text auszugeben.

Laut dem Team der University of Glasgow haben LLMs bewiesen, dass sie geschickte Bullshitter sind. Diese Art von Verhalten könnte immer gefährlicher werden, da Menschen weiterhin auf Chatbots angewiesen sind.

‚Investoren, politische Entscheidungsträger und Mitglieder der Öffentlichkeit treffen Entscheidungen darüber, wie sie diese Maschinen behandeln und darauf reagieren sollen, nicht aufgrund eines tiefgreifenden technischen Verständnisses ihrer Funktionsweise, sondern aufgrund der oft metaphorischen Art und Weise, wie ihre Fähigkeiten und Funktion kommuniziert werden‘, erklären die Forscher.

Weiterführende Informationen zu KI-Unsinn: Dieses einfache Logikrätsel bringt selbst die fortschrittlichste KI ins Stocken.