AI: Die Gefahr des Roadblocking für künstliche Intelligenz

Die Flut von KI-generierten Texten und Bildern im Internet könnte ironischerweise ein großes Problem für generative KI-Modelle darstellen. Das Training dieser Modelle mit AI-generierten Inhalten führt laut wachsender Forschung dazu, dass die Modelle abgebaut werden. Ähnlich wie bei Inzucht entsteht ein Abflachungszyklus; das Phänomen wurde letztes Jahr von Jathan Sadowski als ‚Habsburg AI‘ bezeichnet.

Die steigende Menge an KI-Inhalten im Web könnte es viel schwieriger machen, diesen Abflachungseffekt zu vermeiden. KI-Modelle sind extrem datenhungrig und Unternehmen haben sich auf riesige Datenmengen aus dem Web verlassen, um ihre Programme zu trainieren.

Weder KI-Unternehmen noch ihre Nutzer sind jedoch derzeit verpflichtet, KI-Offenlegungen oder Wasserzeichen auf den von ihnen generierten Inhalten anzubringen. Dies erschwert es den Herstellern, synthetische Inhalte aus den Trainingssets fernzuhalten.

Eine Studie in der Zeitschrift Nature zeigte beispielsweise die Auswirkungen von AI-Inzucht. Nach nur vier Iterationen begann das Modell Unsinn zu produzieren. Ein weiteres Problem ist die mögliche Verringerung der Vielfalt in den Ausgaben durch zu viel AI-Inhalt.

Hochwertige, menschengemachte Daten waren entscheidend für Fortschritte in der generativen KI-Technologie. Doch mit AI-generierten Inhalten wird die Unterscheidung zwischen real und gefälscht immer schwieriger.