Das Magazin der Zukunft - Kostenlos, Futuristisch, Genial.
Tragischer Vorfall: Jugendlicher begeht Selbstmord nach Obsession mit AI Chatbot

Ein Jugendlicher aus Florida namens Sewell Setzer III beging Selbstmord, nachdem er eine intensive emotionale Bindung zu einem Character.AI-Chatbot entwickelt hatte, berichtet die New York Times.
Der 14-jährige Setzer entwickelte laut der NYT eine enge Beziehung zu einem Chatbot, der entworfen wurde, um die Figur Daenerys Targaryen aus ‚Game of Thrones‘ zu imitieren, die angeblich ohne Zustimmung von HBO erstellt wurde.
Setzers Austausch mit der KI reichte von sexuell aufgeladenen Gesprächen bis hin zu langen, intimen Diskussionen über sein Leben und seine Probleme. In einigen Fällen gestand er der KI, dass er Selbstmord in Betracht zog.
Die Familie von Setzer plant diese Woche eine Klage gegen Character.AI einzureichen und bezeichnet den Chatbot-Service des Unternehmens als ‚gefährlich und ungetestet‘.
Der tragische Vorfall und die bevorstehende Klage werfen ernsthafte Fragen darüber auf, wer verantwortlich ist, wenn Interaktionen mit einem lebensechten KI-Chatbot echten Schaden an echten Menschen verursachen, insbesondere Minderjährigen.