UnitedHealth versehentlich macht Anspruch-entscheidende KI öffentlich zugänglich

UnitedHealthcare CEO Brian Thompson’s murder hat zu Problemen geführt. Der Chatbot ‚SOP Chatbot‘ von UnitedHealth Group’s Optum Rx wurde aus Versehen öffentlich gemacht. Jeder mit der IP-Adresse konnte darauf zugreifen. Die AI zeigte Logs, in denen Mitarbeiter Fragen stellten wie ‚Wie überprüfe ich das Ablaufdatum der Police?‘ und ‚Was sollte die Entscheidung des Anspruchs sein?‘. Es scheint jedoch, dass dieser Chatbot nicht der gleiche Algorithmus ist, der zuvor von UnitedHealthcare verwendet wurde. Nachdem TechCrunch die Geschichte veröffentlichte, wurde der Chatbot gesperrt. Laut einem Optum-Sprecher war der Chatbot nur ein Demo-Tool und wurde nie in Betrieb genommen. Trotzdem ist es beunruhigend, dass UnitedHealths Tochtergesellschaft solch eine KI getestet hat.