Fehlinformationen-Fiasko: Apple KI meldet fälschlicherweise, dass Luigi Mangione sich erschossen hat

Apple’s generative AI sollte Schlagzeilen machen. Stattdessen erfindet es welche.

Nur wenige Tage nach dem Start in Großbritannien gab das Technologieunternehmen Apple Intelligence ein völlig erfundenes Gerücht über Luigi Mangione heraus, den 26-jährigen Mann, der in diesem Monat wegen des Mordes an Brian Thompson, dem CEO von UnitedHealthcare, verhaftet wurde.

Die KI von Apple fasste die Berichterstattung der BBC falsch zusammen und ließ es so klingen, als ob der Verdächtige versucht hätte, Selbstmord zu begehen. ‚Luigi Mangione erschießt sich‘, lautete die falsche Benachrichtigung der KI.

Ein Sprecher der BBC erklärte, dass der Sender bei Apple Beschwerde eingereicht hat, um dieses Problem zu beheben. Apple hat bisher öffentlich keinen Kommentar abgegeben.

Dies ist jedoch kein Einzelfall. Der Bericht identifiziert einen weiteren Fehler von Apple Intelligence in seinen Nachrichtenbenachrichtigungen.

Die Technologie ist noch nicht ausgereift und birgt die reale Gefahr der Verbreitung von Fehlinformationen. Generative KI-Modelle halluzinieren regelmäßig und erfinden Fakten. Sie haben kein Verständnis für Sprache, sondern verwenden statistische Vorhersagen, um Texte zu generieren, die auf menschlichen Schreibweisen basieren.

Tech-Unternehmen wollen sich nun in diesen Prozess einschalten mit einer Technologie, die nur annähernd das Richtige sagt – und wir sehen bereits die dummen Konsequenzen davon.