Google’s AI ‚Reimagine‘ Tool Allows Wild Photo Alterations in Camera App

Google hat ein neues KI-Fotobearbeitungstool namens ‚Reimagine‘ eingeführt, das es ermöglicht, Objekte in einem Foto mithilfe eines Texteingabefelds hinzuzufügen oder zu entfernen – mit ‚verblüffenden‘ Ergebnissen, wie The Verge berichtet.

Beispiele, die von Chris Welch von The Verge geteilt wurden, umfassen ein fotorealistisches Bild des Nachwirkens eines Fahrrad- und Autounfalls, eines Löwen, der hinter einem verschlossenen Tor streift, und einer ‚mysteriösen Flüssigkeit, die aus einem Metro-North-Zug strömt‘.

Während des Tests stieß The Verge auf sehr wenige Sicherheitsvorkehrungen für das neue Feature. Es war leicht möglich, ‚Autounfälle, rauchende Bomben an öffentlichen Orten, Laken, die blutige Leichen zu bedecken scheinen, und Drogenutensilien zu Bildern hinzuzufügen‘.

In einem separaten Test lud The Verge ein bearbeitetes Bild in eine Instagram-Story hoch, um zu sehen, ob Meta einen Hinweis anwenden würde, um andere Benutzer darüber zu informieren, dass es gefälscht war. Das System versäumte jedoch dies zu tun.

Insgesamt macht Googles neues Fotobearbeitungstool die Technologie äußerst zugänglich und setzt damit einen gefährlichen Präzedenzfall für eine Zukunft voller gefälschter Bilder. Dies könnte besonders problematisch sein, da ehemaliger Präsident Donald Trump bereits die Technologie genutzt hat, um gegen seine Rivalin Kamala Harris vorzugehen.