Verwirrung bei Nutzern, als KI unerwartet laut zu weinen beginnt

In einem bizarren Video scheint ein KI-Musikgenerator wie ein Mensch zu weinen und überrascht den Reddit-Nutzer, der es veröffentlicht hat. Der Clip wurde auf r/SunoAI gepostet, einem Subreddit, das der gleichnamigen Musikgenerierungssoftware gewidmet ist. Der Nutzer u/BloodMossHunter teilte einen 24-sekündigen Clip, in dem die KI klingt, als würde sie weinen, was nicht Teil des vom Nutzer eingegebenen Befehls zu sein scheint.

Wie andere Nutzer feststellten, sind emotional klingende Ausbrüche und andere gruselige Audioelemente am Ende dieser KI-generierten Songs scheinbar ein ziemlich häufiges Phänomen bei der Software. Ein Nutzer teilte beispielsweise einen Song auf Spotify, der am Ende schreckliche Echo-Schreie von „Nein!“ enthält.

In einer anderen Anekdote berichtete u/SkyDemonAirPirates von einem Song mit dem Titel „Ignorance Was Bliss“, den sie auf Sunos Website veröffentlichten. Hier fragt eine fehlerhafte weibliche Stimme den Hörer, ob er „noch am Leben“ sei, bevor sie manisch lacht.

Bei der Diskussion über die möglichen Ursachen des Problems wurde die Theorie aufgestellt, dass die KI versucht, zufällige Dialoge am Ende von menschengenerierten Songs nachzuahmen. Wenn Nutzer Stichwörter wie „emotional“ eingeben, könnte Suno daraufhin Weinen einfügen.

Wir haben Suno kontaktiert, um herauszufinden, was hier vor sich geht. Die Theorie der Nutzer scheint jedoch im Einklang mit anderen Fehlern von generativen KIs zu sein und zeigt auf beunruhigende Weise die potenziellen Risiken dieser Technologie auf.