Das Pentagon plant, soziale Medien mit künstlichen AI-Personen zu überfluten. Laut einem Bericht von The Intercept zeigt eine Wunschliste des Joint Special Operations Command (JSOC) – einer geheimen Anti-Terrorismus-Gruppe im US-Verteidigungsministerium -, dass die Agentur daran interessiert ist, generative KI einzusetzen, um gefälschte Online-Benutzer zu erstellen.
Obwohl die US-Regierung immer wieder vor Deepfakes und anderen KI-generierten Inhalten warnt, die die Desinformationskrise vertiefen und zu einem undurchsichtigeren Informationsökosystem für alle führen könnten, möchte JSOC Technologien einsetzen, um überzeugende Online-Personas für den Einsatz auf Social-Media-Plattformen und anderen Online-Inhalten zu generieren.
Die Technologie soll es den Special Operations Forces ermöglichen, Informationen aus öffentlichen Online-Foren zu sammeln. Das Pentagon setzt verstärkt auf KI, um seine digitalen Überwachungs- und Einflussbemühungen zu verstärken. Experten warnen jedoch davor, dass dies andere Nationen dazu ermutigen könnte, ähnliche täuschende Praktiken anzuwenden und die Unterscheidung von Wahrheit und Fiktion zunehmend erschweren könnte.
Die Nutzung von KI zur Verbesserung der digitalen Aktivitäten des Verteidigungssektors könnte globale Auswirkungen haben und das geopolitische Umfeld verkomplizieren. Es bleibt abzuwarten, wie sich diese Entwicklung auf die digitale Landschaft auswirken wird.