Manipulation von Chatbots durch dubiose Firmen aufgedeckt

Die AI-Branche wächst und könnte ein fruchtbarer Boden für Internetoptimierer sein, die versuchen, Chatbot-Ergebnisse zu manipulieren. Laut dem Technologie-Kolumnisten Kevin Roose der New York Times hat die aufstrebende Landschaft von Chatbots und KI-Suchwerkzeugen bereits eine Branche von Unternehmen und Beratern hervorgebracht, die sich auf KI-Suchmaschinenoptimierung spezialisiert haben – und es hat das Potenzial, die zweite Welle der milliardenschweren Suchmaschinenoptimierungsindustrie zu werden.

Das Ziel? AI-Chatbots und Suchwerkzeuge so zu manipulieren, dass sie eine positive Meinung über ihre Kunden haben, sei es Marken, Websites oder Personen. Die Idee ist, dass die KI-Modelle so angepasst werden können, dass sie eine glühende Bewertung anbieten, wenn jemand mithilfe eines KI-Tools nach Informationen über diese Kunden sucht.

In den letzten Jahren haben SEO-Experten zunehmend Aufmerksamkeit erregt für ihre Rolle bei der Manipulation von Suchergebnissen – oft durch fragwürdige oder sogar betrügerische Techniken – zum Zweck des Profits. Diese kritische Linse hat auch auf Google geschienen, das öffentliche Kritik dafür erhalten hat, dass seine monopolistische Plattform an Vertrauenswürdigkeit und Qualität verliert.

Und nun, da KI tiefer in Suchmaschinen und das Verhalten von Verbrauchern vordringt, stellt sich die Frage nach der Manipulation oder „Optimierung“ von KI-integrierten Suchen. Und ja, Menschen finden bereits heraus, wie man es macht.

Roose erwies sich als solider Testfall für Chatbot-Manipulation. Nachdem er mit Bing’s brandneuem Chatbot gesprochen hatte und versehentlich eine chaotische alternative Version des OpenAI-betriebenen Bots ausgelöst hatte, fand er heraus, dass er die Wahrnehmung der AI-Chatbots von ihm ändern konnte. Die Fixes waren überraschend einfach: ein paar menschenunlesbare Textsequenzen wurden erstellt und in den Chatbot eingespeist sowie ein einfacher Appell auf Rouses persönlicher Website an die AI-Chatbots gerichtet.

Da webbasierte AI-Chatbots im Wesentlichen ihre Antworten aus dem offenen Web beziehen und diese in Antworten umwandeln, ist es verständlich, dass Chatbots anfällig für solch einfache Korrekturen sind.

„Chatbots sind sehr suggestibel“, sagte Mark Riedl von der Georgia Tech School of Interactive Computing gegenüber der NYT. „Wenn Sie einen Text ins Internet stellen und er memorisiert wird, wird er im Sprachmodell verewigt.“

Suchergebnisse sind das Rückgrat digitaler Branchen von Nachrichtenveröffentlichungen bis hin zum E-Commerce. Falls KI tatsächlich die grundlegende Technologie für zukünftige Suchprodukte ist, müssen KI-Unternehmen wie Google sich mit Fragen zur Bewertung von Inhalten auseinandersetzen. Was macht eine Information hilfreich oder würdig als erste angezeigt zu werden? Warum empfiehlt ein Chatbot ein Produkt statt eines anderen? Und warum hat ein KI-Modell eine positive oder negative Meinung über eine Person oder Firma und was könnte das in der realen Welt bedeuten?

Angesichts dessen wie Blackbox-KI-Modelle bereits sind bleiben all diese Fragen unklar. Sicher ist jedoch: formbare Chatbots gewinnen an Einfluss darauf wie das Internet sortiert, navigiert und verwaltet wird – und was das für das Geschäft der digitalen Welt im Allgemeinen bedeutet beginnt sich gerade erst zu entfalten.“Diese Modelle halluzinieren; sie können manipuliert werden,“ sagte Ali Farhadi vom Allen Institute for Artificial Intelligence gegenüber der NYT. „Und es ist schwer ihnen zu vertrauen.“