ChatGPT: KI-Chatbot vermasselt Berichterstattung von Nachrichtenpartnern

Ein Bericht des Tow Center for Digital Journalism der Columbia University hat ergeben, dass OpenAIs ChatGPT-Suche, eine neuere Version des Flaggschiff-Chatbots von OpenAI, regelmäßig Berichte von Nachrichtenagenturen verfälscht. Dazu gehören auch OpenAI ‚Nachrichtenpartner‘, die Lizenzvereinbarungen mit dem KI-Branchenführer abgeschlossen haben.

Laut dem Columbia Journalism Review analysierten die Forscher ‚zweihundert Zitate aus zwanzig Publikationen und baten ChatGPT, die Quellen jedes Zitats zu identifizieren‘. Die Genauigkeit des Chatbots war gemischt: Manche Antworten lieferten vollständig korrekte Zuschreibungen, andere komplett falsche Angaben und wieder andere eine Mischung aus Fakten und Fiktion.

Die Suche von ChatGPT funktioniert über Webcrawler, die Informationen aus dem Web als KI-umformulierte Ausgaben zurückliefern. Einige Publikationen haben beispielsweise OpenAIs Webcrawler durch ihre robots.txt-Seiten vollständig blockiert. Andere erlauben es den Webcrawlern, ihre Websites zu durchsuchen, darunter auch OpenAI-Nachrichtenpartner, die dem KI-Unternehmen Zugriff auf ihre journalistischen Inhalte gewähren.

Laut dem Bericht des CJR fand das Tow Center heraus, dass ChatGPT in Fällen, in denen es aufgrund von robots.txt-Beschränkungen keine korrekte Quelle für ein Zitat finden konnte, häufig dazu neigte, Quellenmaterial zu erfinden anstatt den Benutzer darauf hinzuweisen. Mehr als ein Drittel aller Antworten enthielten diesen Fehler.

Selbst Publikationen, die ChatGPTs Webcrawler durchsuchen lassen, wurden nicht verschont. Der Bericht zeigte häufig vollständig oder teilweise falsche Zuschreibungen für Geschichten von Journalisten an OpenAI-partnernden Institutionen.

Es ist ein schlechter Ruf für das KI-gestützte Suchwerkzeug, das in einem Blogbeitrag als Werkzeug beworben wurde, das ’schnelle Antworten mit Links zu relevanten Webquellen‘ bietet. Die Forscher fanden auch heraus, dass ChatGPT manchmal plagiierte Inhalte zurückgab.

Die Medienbranche wird größtenteils durch klickbasierte Anzeigeneinnahmen angetrieben. Wenn ChatGPT weiterhin Fehler macht, könnten Lizenzvereinbarungen und Abonnements nicht lukrativ genug sein. Die Frage bleibt: Soll generative KI zum Hauptinstrument der Internetnutzer werden? Kann man sich darauf verlassen?