Die dunkle Seite der KI: Warnung eines ehemaligen OpenAI-Direktors vor den Gefahren jenseits des Tötens

Ein ehemaliger OpenAI-Direktor warnt davor, dass künstliche Intelligenz nicht nur dazu fähig ist, Menschen zu töten. Helen Toner äußerte in einem Interview während des AI+ Gipfels von Axios, dass die Risiken, die KI für die Menschheit darstellt, nicht nur aus Science-Fiction-Szenarien stammen.

Toner sagte: „Ich denke manchmal hören die Leute den Begriff ‚existenzielles Risiko‘ und denken sofort an Skynet und Roboter, die auf Menschen schießen“, womit sie auf die böse KI-Technologie aus den „Terminator“-Filmen anspielte, die oft als Metapher für worst-case-Szenarien von KI-Prognosen verwendet wird.

Als führende Forscherin am Center for Security and Technology der Georgetown University hat Toners Karriere darin bestanden, Technologiebedrohungen zu erforschen. Während ihrer Arbeit an der Georgetown University kritisierte sie OpenAIs Sicherheitsprotokolle in einem Sicherheitsbericht, der möglicherweise zur kurzzeitigen Absetzung von CEO Sam Altman Ende letzten Novembers führte.

Seit diesem „Thanksgiving-Massaker“, das letztendlich zu Toners Rücktritt aus dem OpenAI-Vorstand führte, hat sich die Forscherin weitgehend bedeckt gehalten über den Grund, warum sie und einige ihrer Kollegen das Vertrauen in die Führung des CEOs verloren hatten.

In ihren Äußerungen gegenüber Axios‘ Ina Fried deutete sie an, dass Menschen Angst haben, weil sie nicht wissen, wie die Technologie funktioniert – ein Zustand, den OpenAI beheben könnte, indem es offener über seine Produkte spricht.

Jenseits der Entmystifizierung von KI singt Toner jedoch jetzt ein anderes Lied als noch vor sechs Monaten. Sie sagte während des Axios-Gipfels: „Ich möchte dem neuen Vorstand definitiv eine Chance geben. Sie haben viele neue Strukturen implementiert, die wir vor November nicht umsetzen konnten.“