Anthropic sagt, von den VAE verknüpfte KI‑Kampagne habe UN‑Beamte im Sudan ins Visier genommen

Anthropic kündigte am Donnerstag an, dass es eine hochentwickelte Desinformationskampagne identifiziert und unterbrochen habe, die es mit hoher Sicherheit mit Beamten der United Arab Emirates in Verbindung brachte. Die Operation nutzte den Claude‑Chatbot des Unternehmens, um Berichte, Lobby‑Material, Social‑Media‑Beiträge und sogar gefälschte Zeugenaussagen für die United Nations zu erstellen, wobei der Fokus auf der Muslim Brotherhood und UN‑Sonderberichterstattern lag, die die Rolle der UAE im Sudan kritisieren.

Wie das KI‑gesteuerte Schema funktionierte

Die Kampagne, die sich um eine KI‑Persona namens „Deadshot“ drehte, folgte einer Doktrin, die als „koordinierte transatlantische und regionale Operation zur weltweiten Zerschlagung der Muslim Brotherhood“ beschrieben wird. Sie erzeugte, was Anthropic „Gegen‑Accountability‑Dossiers“ auf UN‑Sonderberichterstattern nannte, und erfand die Identität einer echten sudanesischen Menschenrechtsgruppe, um für zwei Personen Zeugenaussagen zu verfassen. Ziel war es, das Material so erscheinen zu lassen, als käme es von unabhängigen lokalen Zeugen und nicht von staatlich gesponserten Botschaften.

Anthropic schätzt, dass die Operation etwa 300 gefälschte Social‑Media‑Konten betrieben hat. Es konnte nicht bestätigen, ob die gefälschten Dossiers oder Zeugenaussagen ihr vorgesehenes UN‑Publikum erreicht oder politische Entscheidungen beeinflusst haben.

Warum die UN und die übrige Welt sich dafür interessieren sollten

Seit April 2023 ist Sudan in einen Krieg zwischen der Nationalarmee und den paramilitärischen Rapid Support Forces (RSF) verwickelt, ein Konflikt, den die United Nations als eine der schlimmsten humanitären Krisen der Welt bezeichnet hat. Die UAE wurden wiederholt, auch von UN‑Expert*innen, beschuldigt, die RSF zu unterstützen, eine Behauptung, die Abu Dhabi bestreitet. Wenn KI‑Werkzeuge eingesetzt werden, um staatliche Beteiligung zu verschleiern, wird es für die UN und NGOs schwieriger, die Herkunft von Informationen zu verifizieren, was diplomatische Reaktionen verfälschen kann.

"Untätigkeit bedeutet mehr Leiden und Tod", sagte der US‑Stellvertreterbotschafter Jeffrey Bartos während einer kürzlichen Sitzung des Sicherheitsrats.

Die unabhängige Untersuchungskommission der UN zu Sudan hat kürzlich hervorgehoben, dass private Akteure und Rekrutierer, die aus den UAE und anderen Ländern operieren, Transitpunkte in Chad, Libya und Somalia nutzten, um Personal, Ausbildung, Waffen und Logistik an die RSF zu leiten.

Was als Nächstes passieren könnte

Anthropics Offenlegung erfolgt, während der Sicherheitsrat der UN darüber debattiert, das Waffenembargo, das derzeit western Darfur abdeckt, zu erweitern. Die United States argumentieren, das Embargo sei "outdated" und unzureichend, während Russia, ein permanentes Council‑Mitglied, das mit Sudan’s army verbündet ist, jede Ausweitung der Sanktionen ablehnt.

Sollte die UN strengere Verifizierungsprotokolle für KI‑generierte Inhalte einführen, könnte dies den Einfluss solcher verdeckten Kampagnen eindämmen. In der Zwischenzeit haben die UAE nicht auf Anfragen zu einem Kommentar reagiert, sodass die internationale Gemeinschaft die Lage genau beobachten muss.

Für mehr Informationen zu Anthropics Haltung zur KI‑Sicherheit, siehe Anthropic verteidigt Sicherheitsbilanz, während KI‑Risiko‑warnungen auftauchen.