Die dunkle Seite der KI-Generierung: Wie eine beliebte Nachrichten-App komplett falsche Artikel veröffentlichte

NewsBreak – die meist heruntergeladene Nachrichten-App in den USA – veröffentlichte laut einer Untersuchung von Reuters gefälschte Nachrichtenartikel, die von KI generiert wurden. Die App, unter der Leitung von CEO Jeff Zheng, ist ein Nachrichtenaggregator, der lizenzierte Nachrichten von einer Vielzahl nationaler und internationaler Verlage syndiziert. In letzter Zeit nutzte sie KI, um lokale Nachrichten und Pressemitteilungen neu zu schreiben und wieder zu veröffentlichen. Laut Reuters waren die KI-Bemühungen von NewsBreak jedoch mit gravierenden Fehlern behaftet: Seit 2021 hat der Dienst angeblich mindestens 40 ungenaue KI-generierte Nachrichtengeschichten veröffentlicht, viele davon unter erfundenen Autorennamen.

Viele dieser gefälschten KI-Artikel hatten realweltliche Auswirkungen. Laut dem Bericht behaupteten mehrere NewsBreak-Beiträge wiederholt und ungenau, dass eine Küche in Colorado zu Zeiten Lebensmittel verteile, zu denen es gar nicht kam, was dazu führte, dass die Küche hungrige Gemeindemitglieder abweisen musste. Ein ähnliches Problem trat in Pennsylvania auf, wo KI-generierte NewsBreak-Artikel fälschlicherweise behaupteten, dass eine örtliche Wohltätigkeitsorganisation eine 24-Stunden-Fußpflegeklinik für Obdachlose veranstalten würde.

In einem weiteren vom Reuters aufgezeigten Fall veröffentlichte NewsBreak einen KI-generierten Artikel über einen angeblichen Weihnachtstag-Schusswechsel in New Jersey, der sich als vollständig falsch herausstellte und lokale Polizeibeamte zwang, eine Stellungnahme abzugeben. Alle fünf dieser fehlerhaften Artikel wurden angeblich unter nicht existierenden Autorennamen veröffentlicht, was den Fluss bereits schlechter Informationen weiter verwirrte – ganz zu schweigen davon, dass es das Ansehen und die Vertrauenswürdigkeit der Plattform als Ganzes untergrub.

Selbst intern blieb das Problem nicht unbemerkt. In einem Memo im Mai 2022 an Zheng wies Norm Pearlstine – ein ehemaliger Chefredakteur des Wall Street Journal und der Los Angeles Times, der zu diesem Zeitpunkt für NewsBreak beratend tätig war – auf fragwürdige KI-Praktiken bei NewsBreak hin und sagte dem CEO laut Reuters: „Ich kann mir keinen schnelleren Weg vorstellen, um die Marke NewsBreak zu zerstören.“ Dennoch stoppte NewsBreak nicht den Einsatz des KI-Werkzeugs. Im März dieses Jahres fügte sie laut Reuters jedoch einen Haftungsausschluss auf ihrer Homepage hinzu, dass ihre Artikel „nicht immer fehlerfrei sein könnten“.

Es ist ein schlechter Ruf für den Service, der sich darauf beruft, die „führende lokale Nachrichten-App des Landes“ zu sein in einer Zeit, in der lokale Nachrichten rapide und besorgniserregend abnehmen. Leider ist dies nur das jüngste Beispiel eines Aggregators von Nachrichten und Informationen, der mit KI seinem Kernprodukt Schaden zufügt.