OpenAI entwickelt Software zur Erkennung von KI-Schreiben mit 99,9% Genauigkeit, weigert sich jedoch, sie freizugeben

OpenAI hat interne Tools zur Wasserzeichen und Verfolgung von KI-generierten Inhalten mit 99,9% Genauigkeit entwickelt, berichtet das Wall Street Journal – weigert sich jedoch, sie freizugeben.

Effektive Tools zur Kennzeichnung von KI-generierten Texten könnten in verschiedenen Situationen nützlich sein, von der Bekämpfung von Schülern, die betrügen, bis hin zum Durchsuchen des KI-generierten Mülls im Web.

Deshalb ist es so überraschend, dass OpenAI laut WSJ Tools zurückhält, die genau das tun könnten. „Es ist nur eine Frage des Knopfdrucks“, sagte eine Quelle mit dem Projekt vertraut dem WSJ.

Laut WSJ begann OpenAI über die Notwendigkeit eines funktionalen Wasserzeichentools zu diskutieren oder Software zu entwickeln, die ein Artefakt einbettet und ein Stück Inhalt als KI-generiert kennzeichnet. Die fragliche Software wurde kurz darauf erstellt und funktioniert laut internen Dokumenten mit 99,9% Genauigkeit bei „genügend“ ChatGPT-erstelltem Text.

Aber OpenAI hat gezögert, ob es das Tool veröffentlichen sollte. Im April 2023 fand eine weltweite Umfrage von OpenAI überwältigende Unterstützung der Öffentlichkeit für die Implementierung von Wasserzeichentools. Eine weitere Umfrage unter den Nutzern von OpenAI im selben Monat ergab jedoch, dass 30% ihrer Kunden ChatGPT nicht mehr nutzen würden, wenn es Wasserzeichen einsetzen würde und ein konkurrierendes Unternehmen nicht. Laut WSJ hat diese letzte Umfrage weitere Diskussionen über Wasserzeichen stark beeinflusst.

Ein Sprecher von OpenAI sagte dem WSJ, dass die Zögerlichkeit des Unternehmens auf einem Übermaß an Vorsicht beruht. „Die Text-Wasserzeichnungsmethode, an der wir arbeiten, ist technisch vielversprechend, birgt aber wichtige Risiken, die wir abwägen während wir Alternativen erforschen“, sagte der Sprecher. „Wir glauben, dass der bewusste Ansatz den wir gewählt haben notwendig ist angesichts der Komplexitäten und ihrer wahrscheinlichen Auswirkungen auf das breitere Ökosystem jenseits von OpenAI.“

Aber während wir genauso für die Risikominderung bei KI sind wie der nächste Mensch ist dies eine extrem paradoxale Linie für OpenAI. ChatGPT war jahrelang in öffentlicher Hand. Es ist schwer zu sehen was so riskant daran sein könnte seine Wasserzeichnungssoftware einzuführen – abgesehen vom Bedarf von OpenAI sein Benutzerbasis zu wachsen und zu pflegen.