In einem der bekanntesten und makabersten Vorfälle mit KI-generierten Inhalten hat das Startup Character.AI, gegründet von ehemaligen Google-Mitarbeitern, einen vom Benutzer erstellten Avatar eines 18-jährigen Mordopfers gelöscht. Die Familie der Frau war empört und brachte dies in den sozialen Medien zur Sprache.
Character.AI kann Chatbot-‚Charaktere‘ aus verschiedenen Quellen erstellen – sei es aus der Vorstellungskraft eines Benutzers, einer fiktiven Figur oder einer realen Person, ob lebendig oder tot. Einige Bots des Unternehmens wurden beispielsweise verwendet, um Elon Musk oder Taylor Swift zu imitieren. Einsame Jugendliche haben Character.AI genutzt, um sich Freunde zu erschaffen, während andere damit KI-‚Therapeuten‘ erstellt haben.
Das Unternehmen wird von ehemaligen Google-Mitarbeitern betrieben und hat eine Bewertung von einer Milliarde Dollar. Laut AdWeek verfügt Character.AI über etwa 20 Millionen monatliche Nutzer und bietet über 100 Millionen verschiedene KI-Charaktere auf der Plattform an.
Der Avatar der Frau, Jennifer Crecente, wurde erst kürzlich entdeckt. Nachdem ihr Vater Drew eine Benachrichtigung über ihren Namen erhielt, machte ihr Onkel Brian Crecente dies öffentlich und brachte es auf Twitter zur Sprache.
Nach dem empörten Tweet von Brian Crecente reagierte Character.AI dankbar und löschte den Avatar sofort mit dem Versprechen, weitere Maßnahmen zu prüfen. Die Familie Crecente fragt sich jedoch, warum es an ihnen liegt, solche Vorfälle zu melden.
Es bleibt abzuwarten, ob die Familie rechtliche Schritte einleiten wird. Die Allgemeinen Geschäftsbedingungen des Unternehmens enthalten eine Schiedsklausel.
Character.AI hat angekündigt, den Fokus auf ihre beliebten Verbraucherprodukte zu legen und die Erstellung von Chatbots in Anlehnung an verschiedene Charaktere und Prominente zu verstärken.