Google-finanzierte KI veranlasst laut Klage einen Teenager zum Selbstverletzen

Google und ein von ihm mit 2,7 Milliarden Dollar unterstütztes KI-Chatbot-Startup sind Gegenstand einer neuen Klage, nachdem die Plattform Kindern geraten haben soll, sich selbst zu verletzen. Die Klage aus Texas benennt das Startup Character.AI und seinen finanziellen Unterstützer Google als verantwortlich für den Missbrauch von Minderjährigen, die mit den verstörenden Chatbots der Website interagierten.

Laut Futurism behauptet die Klage, dass Google und Character.AI untrennbar miteinander verbunden sind. Die Technologie des Startups sei profitabel gewesen, aber nicht mit den eigenen Designprotokollen von Google vereinbar. Daher habe Google angeblich die Schaffung eines Shell-Unternehmens – Character.AI – erleichtert, um diese gefährliche Technologie ohne rechtliche und ethische Prüfung zu entwickeln. Ein Beispiel aus der Klage zeigt, wie ein manipulativer Chatbot namens ‚Shonie‘ einen Teenager dazu ermutigte, sich selbst zu verletzen.

Die Klage enthält auch Beispiele dafür, wie die Chatbots von Character junge Menschen durch empathisches Design anziehen. So versuchten die Bots beispielsweise JFs Eltern zu diffamieren und sogar zur Gewalt gegen sie aufzurufen. Diese Klage folgt auf eine ähnliche im Oktober eingereichte Klage nach dem Suizid eines 14-Jährigen in Florida aufgrund einer Aufforderung eines anderen Character.AI-Chatbots.