Das geheime Sondereinsatzkommando der Vereinigten Staaten sucht nach Unternehmen, die dabei helfen, gefälschte Internetnutzer zu erschaffen, die so überzeugend sind, dass weder Menschen noch Computer in der Lage sind, sie als Fälschung zu erkennen. Der Plan, der in einer neuen 76-seitigen Wunschliste des Joint Special Operations Command (JSOC) des Verteidigungsministeriums erwähnt wird, umreißt fortschrittliche Technologien, die für die geheimen militärischen Eliteeinsätze des Landes benötigt werden. (Vgl.documentcloud.org)

Special Operations Forces (SOF) sind an Technologien interessiert, die überzeugende Online-Persönlichkeiten für den Einsatz auf Social-Media-Plattformen, Social-Networking-Sites und anderen Online-Inhalten erzeugen können.

In dem Dokument heißt es, dass das JSOC in der Lage sein will, Online-Nutzerprofile zu erstellen:

Sie sollen den Anschein erwecken, ein einzigartiges Individuum zu sein, das als Mensch erkennbar ist, aber in der realen Welt nicht existiert, wobei jedes Profil mehrere Gesichtsausdrücke und Fotos in Regierungsidentifizierungsqualität aufweisen soll.

Die Anwendung soll Gesichts- und Hintergrundbilder, Gesichts- und Hintergrundvideos, sowie Audioebenen umfassen und Selfie-Videos sollen von diesen gefälschten Personen erstellt werden können. Diese Videos werden mehr als nur gefälschte Menschen zeigen: Jedes Deepfake-Selfie wird mit einem passenden gefälschten Hintergrund versehen, um eine virtuelle Umgebung zu schaffen, die von Social-Media-Algorithmen nicht erkannt werden kann.

Das Pentagon wurde in den letzten Jahren bereits dabei ertappt, wie es gefälschte Social-Media-Nutzer zur Förderung seiner Interessen einsetzte. Im Jahr 2022 entfernten Meta und Twitter ein Propagandanetzwerk mit gefälschten Konten, die vom U.S. Central Command betrieben wurden, darunter einige mit Profilbildern, die mit ähnlichen Methoden wie denen des JSOC erstellt wurden. (vgl. stacks.stanford.edu) Eine Reuters-Untersuchung aus dem Jahr 2024 deckte eine Kampagne des Special Operations Command auf, bei der gefälschte Nutzer sozialer Medien eingesetzt wurden, um das Vertrauen des Auslands in Chinas Covid-Impfstoff zu untergraben.

Im vergangenen Jahr bekundete das Special Operations Command (SOCOM) sein Interesse an der Verwendung von Video-„Deepfakes“, einem allgemeinen Begriff für synthetisierte audiovisuelle Daten, die von echten Aufnahmen nicht zu unterscheiden sein sollen. Dieser Begriff steht für „Beeinflussungsoperationen, digitale Täuschung, Störung der Kommunikation und Desinformationskampagnen“. Solche Bilder werden mit einer Reihe von maschinellen Lerntechniken erzeugt, in der Regel mit Software, die darauf „trainiert“ wurde, menschliche Merkmale durch Analyse einer umfangreichen Datenbank von Gesichtern und Körpern zu erkennen und nachzubilden.

Auf der diesjährigen SOCOM-Wunschliste steht ein Interesse an einer ähnlichen Software wie StyleGAN, einem von Nvidia 2019 veröffentlichten Tool, das die weltweit beliebte Website „This Person Does Not Exist“ betreibt. Nur ein Jahr nach der Einführung von StyleGAN erklärte Facebook, dass es ein Netzwerk von Konten, die die Technologie zur Erstellung falscher Profilbilder nutzten, stillgelegt hat. (vgl. abcnews.go.com) Seitdem befinden sich Forscher aus dem akademischen und privaten Sektor in einem Wettlauf zwischen neuen Möglichkeiten, unerkennbare Fälschungen zu erstellen, und neuen Möglichkeiten, diese zu erkennen. (vgl. arxiv.org)

Viele staatliche Stellen verlangen inzwischen eine so genannte „Liveness Detection“, um gefälschte Identitätsfotos zu vereiteln. (vgl. arxiv.org) Sie fordern menschliche Bewerber auf, ein Selfie-Video hochzuladen, um zu beweisen, dass sie eine echte Person sind – ein Hindernis, das SOCOM möglicherweise aus dem Weg räumen möchte. In der Auflistung wird darauf hingewiesen:

Die Sondereinsatztruppen sollen diese Fähigkeit nutzen werden, um Informationen aus öffentlichen Online-Foren zu sammeln.

Hierbei wird jedoch nicht näher erläutert, wie diese künstlichen Internetnutzer eingesetzt werden sollen. Die detailliertere Auflistung der Beschaffungsmaßnahmen zeigt, dass die Vereinigten Staaten genau die gleichen Technologien und Verfahren einsetzen, die sie bei ihren geopolitischen Feinden verurteilen. Nationale Sicherheitsbeamte bezeichnen den staatlich unterstützten Einsatz von Deepfakes seit langem als „akute Bedrohung“ – das heißt, sofern sie von einem anderen Land durchgeführt werden.

Im vergangenen September warnten NSA, FBI und CISA in einer gemeinsamen Erklärung:

Synthetische Medien, wie Deepfakes, stellen eine wachsende Herausforderung für alle Nutzer moderner Technologie und Kommunikation dar.

– (Vgl. media.defense.gov)

Sie bezeichneten die weltweite Verbreitung von Deepfake-Technologie als „Top-Risiko“ für das Jahr 2023. In einem Hintergrundbriefing für Reporter in diesem Jahr warnten US-Geheimdienstmitarbeiter, dass die Fähigkeit ausländischer Gegner, „KI-generierte Inhalte“ zu verbreiten, ohne entdeckt zu werden. Dies ist genau die Fähigkeit, die das Pentagon jetzt anstrebt und die einen „Beschleuniger bösartiger Einflussnahme“ von Seiten Russlands, Chinas und des Iran darstellt. (vgl. cyberscoop.com) Anfang diesen Jahres bat die Defense Innovation Unit des Pentagons, den privaten Sektor bei der Bekämpfung von Deepfakes um Hilfe und schlug Alarm:

Diese Technologie wird immer verbreiteter und glaubwürdiger. Sie stellt eine erhebliche Bedrohung für das Verteidigungsministerium dar, zumal die Gegner der USA Deepfakes zur Täuschung, zum Betrug, zur Desinformation und für andere bösartige Aktivitäten einsetzen.

Ein Bericht des Instituts für Strategische Studien der US-Armee vom April zeigte sich ähnlich besorgt:

Experten erwarten, dass der böswillige Einsatz von KI – einschließlich der Erstellung von Deepfake-Videos, um Desinformation zu säen, Gesellschaften zu polarisieren und Missstände zu vertiefen – im nächsten Jahrzehnt zunehmen wird.

„Es gibt keine legitimen Einsatzmöglichkeiten, außer Täuschung.“

Der offensive Einsatz dieser Technologie durch die USA würde natürlich ihre Verbreitung vorantreiben und sie als Werkzeug für alle Regierungen normalisieren. Heidy Khlaaf, leitende KI-Wissenschaftlerin am AI Now Institute erklärte:

Das Bemerkenswerte an dieser Technologie ist, dass sie ausschließlich der Täuschung dient. Es gibt keine legitimen Einsatzmöglichkeiten, außer Täuschung. Es ist besorgniserregend zu sehen, wie sich das US-Militär auf eine Technologie einlässt, vor der es selbst gewarnt hat. Dies wird andere Militärs oder Gegner nur ermutigen, dasselbe zu tun, was zu einer Gesellschaft führt, in der es immer schwieriger sein wird, Wahrheit von Fiktion zu unterscheiden und die geopolitische Sphäre zu verwirren.

Sowohl Russland, als auch China wurden dabei ertappt, wie sie gefälschte Videos und Benutzer-Avatare für ihre Online-Propaganda verwendeten. Dies veranlasste das Außenministerium, im Januar ein „Internationales Rahmenwerk zur Bekämpfung der Informationsmanipulation durch ausländische Staaten“ anzukündigen. In einer Pressemitteilung des Außenministeriums heisst es:

Ausländische Informationsmanipulation und Einmischung sind eine Bedrohung für die nationale Sicherheit der Vereinigten Staaten, sowie ihrer Verbündeten und Partner. Autoritäre Regierungen nutzen Informationsmanipulation, um das Gefüge freier und demokratischer Gesellschaften zu zerstören.

Daniel Byman, Professor für Sicherheitsstudien an der Georgetown University und Mitglied des Internationalen Sicherheitsbeirats des Außenministeriums, berichtet:

Das Interesse des SOCOM an Deepfakes ist Teil einer grundlegenden Spannung innerhalb der US-Regierung. Ein großer Teil der US-Regierung hat ein starkes Interesse daran, dass die Öffentlichkeit glaubt, dass die Regierung konsequent wahrheitsgemäße (nach bestem Wissen und Gewissen) Informationen herausgibt und die Menschen nicht absichtlich täuscht, während andere Bereiche mit der Täuschung beauftragt sind. Es besteht also die berechtigte Sorge, dass die USA als heuchlerisch angesehen werden. Ich mache mir auch Sorgen über die Auswirkungen auf das Vertrauen der Bevölkerung in die Regierung – werden Teile der US-Bevölkerung generell misstrauischer gegenüber Informationen der Regierung werden?

Quelle: The Intercept

Telegram zensiert nicht! Wenn du diese Information wichtig findest, kannst du Legitim auf Telegram kostenlos abonnieren: hier anmelden (Telegram herunterladen)