Palantir: „Künstliche Intelligenz“ dominiert zunehmend die Schlachtfelder im Kriegseinsatz

Palantir, der große und  Dienstleister für moderne Kriege

„Die Ukraine ist ein lebendes Labor, in dem einige dieser KI-gestützten Systeme durch Live-Experimente und ständige, schnelle Wiederholung zur Reife gelangen können“,

„Wir stehen an der Seite Israels“, erklärte das in Denver ansässige Unternehmen in Posts auf X und LinkedIn . „Der Vorstand von Palantir trifft sich nächste Woche in Tel Aviv zu seiner ersten Sitzung im neuen Jahr. Unsere Arbeit in der Region war noch nie so wichtig. Und wir werden sie fortsetzen.“

.

KI ermöglicht die schnelle Identifikation von Massen an Zielen

Wie funktioniert Lavender:

In einem Vortrag spricht der Kommandant des Zentrums für Künstliche Intelligenz bei der berühmten Einheit 8200 der israelischen Streitkräfte, Oberst Yoav, über eine neue, hochentwickelte Zielmaschine der israelischen Armee, die „gefährliche Personen“ anhand ihrer Ähnlichkeit mit bestehenden Listen bekannter Militanter erkennt, an denen sie trainiert wurde.

„Mit Hilfe des Systems gelang es uns, Kommandeure der Raketeneinheiten der Hamas zu identifizieren“,

sagte Oberst Yoav in einem Vortrag und bezog sich dabei auf die israelische Militäroperation im Mai 2021 in Gaza, bei der die Maschine erstmals eingesetzt wurde.

Inzwischen wurden auch einige Informationen öffentlich, wie Lavender funktioniert. Kerngedanke ist, daß Charakteristika gesammelt werden, die für Hamas-Angehörige zutreffen:

Diese Anleitung enthält mehrere Beispiele für die „Hunderttausenden“ von Merkmalen, die die Bewertung einer Person verbessern können, wie etwa die Mitgliedschaft in einer WhatsApp-Gruppe mit einem bekannten Militanten, der Handywechsel alle paar Monate und häufige Adresswechsel. 

„Je mehr und vielfältigere Informationen, desto besser“, schreibt der Kommandant. „Visuelle Informationen, Mobilfunkdaten, Social-Media-Verbindungen, Informationen vom Schlachtfeld, Telefonkontakte, Fotos.“ Während Menschen diese Merkmale zunächst auswählen, so der Kommandant weiter, werde die Maschine mit der Zeit die Merkmale selbstständig erkennen. Dies, so sagt er, könne es Militärs ermöglichen, „Zehntausende von Zielen“ zu erstellen, während die eigentliche Entscheidung, ob sie angegriffen werden oder nicht, weiterhin beim Menschen liege.

Den ebenfalls bei +972 und Local Call entnehmbaren Folien des Vortrags kann man entnehmen, wie Lavender genau funktioniert:

Die Software wird mit Daten über tatsächlich existierende Hamas-Aktivisten gefüttert, „lernt“, deren Gemeinsamkeiten erkennen und bewertet dann Andere danach, wie ähnlich sie den Militanten sind.

„Wir bewerten die Ergebnisse und legen die Schwelle [ab der ein Ziel angegriffen werden soll] fest“,

sagte „Col. Yoav“ in seinem Vortrag und betonte, dass

„letztendlich Menschen aus Fleisch und Blut die Entscheidungen treffen. Im Verteidigungsbereich legen wir aus ethischer Sicht großen Wert darauf. Diese Instrumente sollen [Geheimdienstmitarbeitern] helfen, ihre Barrieren zu überwinden.“ 

Schritt 1: Identifikation tausender Ziele mit Hilfe von „Lavender“

In der Vor-KI-Zeit fand der Begriff „menschliches Ziel“ in der israelischen Armee auf einen hochrangigen Militärangehörigen Anwendung. Die Abteilung für Völkerrecht der israelischen Armee hatte für derartige Ziele eine Bekämpfung in dessen Privathaus auch dann freigegeben, wenn sich Zivilisten in der Nähe befanden.

Geheimdienstquellen bestätigten seither gegenüber +972 und Local Call, daß in früheren Kriegen diese „menschlichen Ziele“ durch die israelische Armee sehr sorgfältig markiert wurden. Deswegen wurden bisher nur hochrangige Militärkommandanten in ihren Häusern bombardiert, um dem völkerrechtlichen Verhältnismäßigkeitsgrundsatz zu genügen, wenn bei derartigen Einsätzen dann auch eine ganze Familie getötet wurde.

Das hat sich im aktuellen Kampf Israels gegen die Hamas im Gaza-Streifen und der Nutzung von KI offenbar geändert:

Im Rahmen der „Operation Eiserne Schwerter“ beschloss die Armee, alle Aktivisten des militärischen Flügels der Hamas als menschliche Ziele zu klassifizieren, unabhängig von ihrem Rang oder ihrer militärischen Bedeutung. Und das änderte alles.

Nun wurden mit Hilfe von KI auch als „Nachwuchskämpfer“ identifizierte Personen mit in die Identifikation der Ziele aufgenommen.

„Aber wenn es um einen jungen Kämpfer geht, will man weder Personal noch Zeit investieren“, sagte er. „Im Krieg fehlt die Zeit, jedes Ziel zu belasten. Daher ist man bereit, die Fehlerquote des Einsatzes künstlicher Intelligenz in Kauf zu nehmen, Kollateralschäden und den Tod von Zivilisten sowie das Risiko eines irrtümlichen Angriffs zu riskieren und damit zu leben.“

Das aber schuf neue Probleme, denn damit nahmen auch die Verwechslungen zu. Bei früheren Operationen umfasste die Liste der Ziele nur wenige Dutzend hochrangige Agenten. Mit der Abarbeitung einer derartigen Liste  konnten wurden einzelne Geheimdienstmitarbeiter betraut, die die Belastungs- und Ortungsarbeit höchstpersönlich übernahmen.

Nach der politisch gewollten Ausgabe von tausenden von Zielen ist ein derartiges Vorgehen hingegen für den Geheimdienst unmöglich geworden und er griff auf „Künstliche Intelligenz“ zurück:

„Wir wussten nicht, wer die Nachwuchskräfte waren, weil Israel sie [vor dem Krieg] nicht routinemäßig verfolgte“, erklärte der leitende Offizier B. gegenüber +972 und Local Call und erläuterte damit den Grund für die Entwicklung dieser speziellen Zielmaschine für den aktuellen Krieg. „Sie wollten uns ermöglichen, [die Nachwuchskräfte] automatisch anzugreifen. Das ist der Heilige Gral. Sobald man automatisiert ist, spielt die Zielgenerierung verrückt.“

Bisher wurden von der KI generierten ca. 10% Fehler durch einen Menschen, der die von der KI generierten Ergebnisse überprüfte, korrigiert:

Quellen erklärten beispielsweise, dass das Lavender-Gerät manchmal fälschlicherweise Personen markierte, deren Kommunikationsmuster denen bekannter Hamas- oder PIJ-Mitglieder ähnelten. Dazu gehörten Polizisten und Mitarbeiter des Zivilschutzes, Verwandte von Militanten, Einwohner, deren Name und Spitzname zufällig mit denen eines Mitglieds übereinstimmten, sowie Gaza-Bewohner, die ein Gerät verwendeten, das einst einem Hamas-Mitglied gehörte.

Geheimdienstmitarbeiter hatten bis dahin die Genauigkeit einer zufällig ausgewählten Stichprobe von mehreren hundert Zielen, die vom KI-System ausgewählt worden waren, manuell überprüft. Aufgrund der Masse an Zielen wurde dann der Mensch als Kontroll-Instanz zwei Wochen nach Beginn der Operation praktisch ersetzt:

„Alles war statistisch, alles war ordentlich – es war sehr trocken“, sagte B. Er merkte an, dass dieser Mangel an Kontrolle geduldet wurde, obwohl interne Kontrollen zeigten, dass Lavenders Berechnungen nur in 90 Prozent der Fälle als korrekt galten. Mit anderen Worten: Es war im Voraus bekannt, dass 10 Prozent der für die Ermordung vorgesehenen menschlichen Ziele überhaupt keine Mitglieder des militärischen Flügels der Hamas waren.

Das Ausschalten der Überprüfung durch den Menschen hatte jedoch schwerwiegende Folgen: Der Einfluss von Lavender auf die Militäroperationen wurde so groß, daß die Ergebnisse der KI-Maschine praktisch wie eine „menschliche Entscheidung“ behandelt wurden.

Von diesem Moment an, so Quellen, wurde Lavenders Entscheidung, eine Person als Hamas-Kämpfer zu identifizieren, im Wesentlichen als Befehl behandelt. Es sei nicht erforderlich gewesen, die Gründe für diese Entscheidung der Maschine selbst zu prüfen oder die zugrunde liegenden Rohdaten des Geheimdienstes zu untersuchen.

Eine Quelle offenbarte den Journalisten, daß das menschliche Personal die Entscheidungen der Maschine oft nur durchgewunken hat weil diese sich normalerweise nur etwa 20 Sekunden lang persönlich mit jedem Ziel befassen konnte, bevor sie einen Bombenangriff genehmige. Diese Zeit genügte gerade, um  sicherzustellen, daß das von Lavender markierte Ziel männlich sei.

Schritt 2: Eingabe tausender Ziele in Ortungsprogramme

Das Lavender-System ist „lediglich“ geeignet, die gesuchten mutmaßlichen Aktivisten der militärischen Flügel der Hamas und des Palästinensischen Islamischen Dschihad zu identifizieren. Je nach Einstellung kann man sich auf die höherrangigen Ziele begrenzen oder auch alle Ziele ausgeben lassen, wovon dann auch die niederrangigen Ziele erfasst sind und als potenzielle Bombenziele markierbar sind. Lavender gab in den ersten Wochen des Gegenschlags bis zu 37.000 mutmaßliche Militante als Ziele für mögliche Luftangriffe aus.

Durch das Hinzufügen eines Namens aus den von Lavender erstellten Listen zum „Where’s Daddy?“-Hausortungssystem, erklärte A., würde die markierte Person permanent überwacht und könnte angegriffen werden, sobald sie ihr Haus betritt, wodurch das Haus über allen darin befindlichen Personen zusammenbricht.

Schritt 3 Auswahl einer Waffe:

Darüber hinaus setzte die Armee den Quellen zufolge bei Angriffen auf mutmaßliche Nachwuchskämpfer, die mit „Lavender“ markiert waren, ausschließlich ungelenkte Raketen ein, die gemeinhin als „dumme“ Bomben (im Gegensatz zu „intelligenten“ Präzisionsbomben) bezeichnet werden und ganze Gebäude samt ihren Bewohnern zerstören und so erhebliche Verluste verursachen können. „Man will keine teuren Bomben an unwichtige Personen verschwenden – das ist sehr kostspielig für das Land und es herrscht ein Mangel [an solchen Bomben]“, sagte C., einer der Geheimdienstoffiziere. Einer anderen Quelle zufolge hätten sie persönlich die Bombardierung von „Hunderten“ von Privathäusern mutmaßlicher Nachwuchskämpfer, die mit „Lavender“ markiert waren, autorisiert, wobei bei vielen dieser Angriffe Zivilisten und ganze Familien als „Kollateralschaden“ ums Leben kamen.

Sogar die ausführenden Stellen waren überrascht von dieser Änderung in der Einsatztaktik:

„Es war für mich eine große Überraschung, dass wir aufgefordert wurden, ein Haus zu bombardieren, um einen Bodensoldaten zu töten, dessen Bedeutung in den Kämpfen so gering war“, sagte eine Quelle über den Einsatz von KI zur Markierung mutmaßlich niederrangiger Militanter. „Ich nannte diese Ziele ‚Müllziele‘. Dennoch fand ich sie ethischer als die Ziele, die wir nur zur ‚Abschreckung‘ bombardierten – Hochhäuser, die evakuiert und gestürzt wurden, nur um Zerstörung anzurichten.“ (a.a.O.)

Schritt 4: Autorisierung des Umfangs  ziviler Verluste als „Kollateralschäden“

Einer Quelle zufolge wurde bei Angriffen auf junge Kämpfer – darunter auch solche, die von KI-Systemen wie Lavender markiert wurden – die Zahl der Zivilisten, die sie neben jedem Ziel töten durften, in den ersten Kriegswochen auf bis zu 20 festgelegt. Eine andere Quelle behauptete, die festgelegte Zahl habe bei bis zu 15 gelegen. Diese „Kollateralschadensgrade“, wie das Militär sie nennt, wurden den Quellen zufolge pauschal auf alle mutmaßlichen jungen Kämpfer angewendet, unabhängig von ihrem Rang, ihrer militärischen Bedeutung und ihrem Alter. Es erfolgte auch keine spezifische Einzelfallprüfung, um den militärischen Vorteil einer Tötung gegen den zu erwartenden Schaden für die Zivilbevölkerung abzuwägen.

Laut A., der im aktuellen Krieg als Offizier in einem Zielkontrollraum tätig war, hat die Völkerrechtsabteilung der Armee noch nie zuvor ein so hohes Maß an Kollateralschäden so umfassend gebilligt. „Es ist nicht nur so, dass man jeden Hamas-Soldaten töten darf, was völkerrechtlich eindeutig erlaubt und legitim ist“, sagte A. „Sie sagen einem aber direkt: ‚Man darf sie zusammen mit vielen Zivilisten töten.‘“

„Jede Person, die in den letzten ein oder zwei Jahren eine Hamas-Uniform trug, konnte bombardiert werden, wobei 20 Zivilisten als Kollateralschaden starben, selbst ohne Sondergenehmigung“, fuhr A. fort. „In der Praxis existierte das Prinzip der Verhältnismäßigkeit nicht.“

Die Folgen: eine hohe Quote an „Kollateralschäden“

Diese Politik wird auch durch die Daten deutlich: Im ersten Kriegsmonat gehörten mehr als die Hälfte der Todesopfer – 6.120 Menschen – 1.340 Familien an, von denen viele laut UN-Angaben in ihren Häusern völlig ausgelöscht wurden. Der Anteil der im aktuellen Krieg in ihren Häusern bombardierten Familien ist viel höher als während der israelischen Operation im Gazastreifen 2014 (die bis dahin Israels tödlichster Krieg im Gazastreifen war), was die Bedeutung dieser Politik weiter unterstreicht.

Problem 1: Durchwinken der Ergebnisse der KI durch Menschen

Ein erstes Problem bestand darin, daß die Ergebnisse der KI nicht mehr ernsthaft durch Personal gegengeprüft wurden:

Die Quellen sagten, die automatische Übernahme von Lavenders Todeslisten, die zuvor nur als Hilfsmittel genutzt worden waren, sei etwa zwei Wochen nach Kriegsbeginn genehmigt worden… Als sich herausstellte, dass Lavenders Ergebnisse bei der Identifizierung einer Person mit Hamas-Zugehörigkeit eine Genauigkeit von 90 Prozent erreichten, genehmigte die Armee den umfassenden Einsatz des Systems. Von diesem Moment an, so Quellen, wurde Lavenders Entscheidung, eine Person als Hamas-Kämpfer zu identifizieren, im Wesentlichen als Befehl behandelt.

Problem 2: Die Algorithmen berücksichtigen das reale Leben nicht

Ein weiteres Problemfeld ergibt sich an der Schnittstelle der KI zum realen Leben:

Laut B. trat ein häufiger Fehler auf, „wenn das [Hamas-]Ziel [sein Telefon] seinem Sohn, seinem älteren Bruder oder einfach einem beliebigen Mann gab. Diese Person wurde in ihrem Haus mit ihrer Familie bombardiert. Das kam häufig vor. Dies waren die meisten von Lavender verursachten Fehler“, sagte B.

„die meisten Angriffe “

Elektronische Kampfführung in der Ukraine

„Wir wurden mit so viel militärischem Verteidigungsmaterial von [Startups] bombardiert, die sagten: ‚Ich habe diese Idee, wie man den Krieg gewinnt‘“,

KI im Kriegseinsatz in der Ukraine

In der britischen Zeitschrift „The Time“ führten Reporter seither weitere Details für den KI-Krieg in der Ukraine aus:

Ukrainische Beamte erzählten mir, sie nutzten die Datenanalyse des Unternehmens für Projekte, die weit über nachrichtendienstliche Erkenntnisse aus Gefechtssituationen hinausgehen, darunter die Sammlung von Beweisen für Kriegsverbrechen , die Räumung von Landminen, die Umsiedlung vertriebener Flüchtlinge und die Bekämpfung von Korruption. Palantir war so erpicht darauf, seine Fähigkeiten zu demonstrieren, dass es sie der Ukraine kostenlos zur Verfügung stellte.

Regierungsbeamte wurden in der Nutzung eines Palantir-Tools namens MetaConstellation geschult, das kommerzielle Daten, darunter Satellitenbilder, nutzt, um ein nahezu Echtzeitbild eines bestimmten Gefechtsgebiets zu liefern. Die Software von Palantir integriert diese Informationen mit kommerziellen und geheimen Regierungsdaten, auch von Verbündeten, sodass Militärs den Kommandeuren vor Ort feindliche Positionen mitteilen oder entscheiden können, ein Ziel anzugreifen. Dies ist Teil dessen, was Karp eine digitale „Kill Chain“ nennt.

Auch deutsche Drohnenhersteller sind dabei