DENVER – Einsatz von Palantir-Software zur Vorhersage von Kriminalität in New Orleans, Los Angeles, New York wegen nicht erfüllter Versprechen gescheitert.
.
.
Das Software-Unternehmen Palantir wurde vor fast 20 Jahren von den Unternehmern Peter Thiel und Alex Karp in den USA gegründet und ist inzwischen eines der größten, aber auch eines der umstrittensten Datenanalyseunternehmen der Welt.
Die Mehrheit seiner weltweiten Kunden sind Regierungsbehörden. Das Unternehmen arbeitet weltweit mit Geheimdiensten und Strafverfolgungsbehörden zusammen, die wiederum mit den sensibelsten personenbezogenen Daten umgehen.
Trotz seines jungen Alters hat die Firma eine bewegte und umstrittene Vergangenheit, denn sie hat sich an umstrittenen Operationen der US-Einwanderungs- und Zollbehörde (ICE) beteiligt und hatte eine unklare Zusammenarbeit mit der in Ungnade gefallenen Politikberatungsfirma Cambridge Analytica.
Seine ersten Aufträge erhielt die Firma – so weit bekannt – für Einsätze in Kriegen, um z.B. lohnenswerte Ziele zu identifizieren.
„…Es geht darum, Muster zu erkennen. In einer Gesellschaft, in der immer mehr unserer Aktivitäten online stattfinden, wird PET die Möglichkeit haben, diese Informationen hinter verschlossenen Türen abzurufen und sie mit anderen Daten abzugleichen, um genau die Nadeln im Heuhaufen zu finden, die vor einem bevorstehenden Terroranschlag oder vor Spionage oder Sabotage warnen können“, sagt Peter Hummelgaard.“
Einsatz von Palantir im Inneren?
Das Interesse an und die Investitionen in Predictive-Policing-Technologien nahm ab 2009 rasant zu, als das US-amerikanische National Institute of Justice begann, Zuschüsse für Pilotprojekte zur Kriminalitätsprognose zu vergeben. Diese Zuschüsse bilden die Grundlage für einige der bekanntesten – und am meisten untersuchten – Predictive-Policing-Projekte in Chicago und Los Angeles.
Die Programme sind unterschiedlich, und die Algorithmen sind oft proprietär, doch alle zielen darauf ab, riesige Datenmengen – Geografie, Strafregister, Wetter, Social-Media-Verläufe – zu verarbeiten und Vorhersagen über Personen oder Orte zu treffen, die wahrscheinlich in ein Verbrechen verwickelt sind.
Palantir und Los Angeles
Palantir bot auch Datenanalyse und -integration 2011 auch für das Los Angeles Police Department an. Diese Vereinbarung wurde jedoch über die LA Police Foundation und nicht über das LAPD selbst getroffen. Die Palantir-Software, die das LADP seit 2011 nutzt, analysiert Daten aus unzähligen Polizeiquellen, die laut LAPD dazu beitragen, chronische Straftäter ins Visier zu nehmen und die Kriminalitätsrate zu senken. Doch eine Evaluation meiner Soziologin erkennt Anfang 2021 die Gründe für sich ändernde Ergebnisse nicht in der Software, sondern in der Bedienmannschaft der Software:
Am Ende des Jahres 2021 beendete die Stadt Los Angeles diese Zusammenarbeit mit Palantir.
Palantir und New York
In New York wurde der Vertrag mit Palantir durch den Stadtkämmerer „aus Sicherheitsgründen“ nicht offengelegt (das NYPD tut dies aber bei Verträgen über Überwachungsgeräte ) und dem Stadtrat nie zur Genehmigung vorgelegt. Palantirs Zusammenarbeit mit dem NYPD wurde erst öffentlich, als Dokumente über die turbulente Beziehung des Unternehmens mit der größten Polizeibehörde des Landes an BuzzFeed -Reporter William Alden durchsteckte. Letzterer hat bereits mehrere Beiträge zu Palantir verfaßt gehabt. Mitte 2017 endete die seit ca. 2015 bestehende Kooperation abrupt:
Palantir und New Orleans
In New Orleans scheinen laut ausführlicher Berichterstattung von The Verge nur das Büro von Bürgermeister Landrieu, der Stadtanwalt und die Polizei von New Orleans über die Tätigkeit der Firma in der Stadt informiert zu sein. Wichtige Mitglieder des Stadtrats wussten erst von der Tätigkeit von Palantir in New Orleans, als The Verge sie ansprach.
Vor dem New Orleans-Programm im Jahr 2012 gibt es keine öffentlich zugänglichen Aufzeichnungen darüber, dass Palantir sich an Predictive Policing gewagt hat. Die Stadt New Orleans war also die Stadt, mit der es Palantir gelang, sein – bis dahin – auf den Kriegseinsatz ausgerichtetes Produkt für den Einsatz im Inneren umzubauen und mit der „prädiktiven Polizeiarbeit“ neue Geschäftsfelder zu erschließen. Die Kooperation endete nach dreimalig verlängertem Pro-Bono-Vertrag im Jahr 2018. eines der Eergebnisse: das Programm hält nicht, was Palantir verspricht:
Predictive Policing funktioniert auf lokaler Ebene nicht gut. KI-Programme wie dieses mögen zwar bei der Vorhersage von Terrorismus und anderen nationalen Bedrohungen hilfreich sein, funktionieren aber auf lokaler Ebene nicht gut. Die Polizei von New York hätte zwar zusätzliche Beweise sammeln können, um bestehende Bandenmitglieder strafrechtlich zu verfolgen, doch Untersuchungen der RAND Corporation bestätigen, dass die bestehende Predictive-Policing-Technologie nicht effektiv ist. So verwendet beispielsweise Chicago seit mehreren Jahren eine sogenannte „Heat List“, um Personen zu identifizieren, die am wahrscheinlichsten Gewalttaten begehen oder Opfer von Gewalttaten werden. Dennoch standen nur drei der 405 Mordopfer zwischen 2013 und 2014 auf der Liste (weniger als 1 Prozent).
2016 unterzeichneten die dänische Polizei und die Geheimdienste einen 84-monatigen Vertrag mit Palantir – der dänischen Presse zufolge einen Wert zwischen 14,8 und 41,4 Millionen US-Dollar – für ein prädiktives Technologiepaket zur Identifizierung potenzieller Terroristen. Laut Ausschreibungsunterlagen nutzt das Programm Daten der Strafverfolgungsbehörden wie Aufzeichnungen von Kennzeichenlesern, Videoüberwachungsvideos und Polizeiberichte, um Vorhersagen über die Wahrscheinlichkeit terroristischer Handlungen zu treffen. Um die Software von Palantir erwerben zu können, musste der dänische Gesetzgeber eine Ausnahme von den Datenschutzbestimmungen der Europäischen Union genehmigen. Vor dem Vertrag mit Dänemark im Jahr 2016 wurde in der berichteten Zusammenarbeit von Palantir Technologies mit Strafverfolgungsbehörden nie von Prognose- oder Vorhersagefähigkeiten gesprochen.
2017 berichtete die israelische Zeitung Haaretz , dass Israels Sicherheitsdienste Analysesysteme nutzten, die soziale Medien und andere Daten durchsuchten, um potenzielle Einzeltäter aus palästinensischen Gemeinden im Westjordanland vorherzusagen. Palantir war zudem eines von nur zwei Technologieunternehmen, das israelische Sicherheitsorganisationen mit prädiktiven Informationssystemen versorgte. Das Projekt in New Orleans ist der erste Fall, in dem Palantir Social-Media-Daten im Rahmen seiner Netzwerkanalyse nutzte.
.
„Predictive-Policing“ Verbrechensvorhersage per Software?
Laut Interviews und Dokumenten, die The Verge vorliegen, trat Palantir 2012 erstmals über einen bekannten Mittelsmann an New Orleans heran: James Carville ist ein Strippenzieher der linken US-Democrats und Architekt von Bill Clintons erfolgreichem Präsidentschaftswahlkampf im Jahr 1992. Carville ist aber auch ein bezahlter Berater von Palantir, dessen Verbindungen zu dem Data-Mining-Unternehmen mindestens bis ins Jahr 2011 zurückreichen. Carville war es, der das Palantir-Produkt seinen linken Parteifreund-Bürgermeistern in New Orleans, New York, Los Angeles unterbrachte, worauf er selbst stolz ist:
Ein Linker Strippenzieher bringt Palantir bei linkem Bürgermeister unter
In einem Interview mit The Verge erklärte Carville voller Stolz, er sei der Anstoß für die Zusammenarbeit zwischen Palantir und New Orleans gewesen.
„Ich bin der alleinige treibende Faktor dieses Projekts. Es war ganz allein meine Idee“,
sagte Carville und fügte hinzu, er und Palantir-CEO Alex Karp seien nach New Orleans geflogen, um Bürgermeister Landrieu, wie er auch Mitglied der liken US-Democrats, zu treffen.
Die Dokumente, die Palantirs Beziehung zu New Orleans beschreiben, beschreiben die Rolle des Unternehmens als „pro bono“ und philanthropisch. Tatsächlich dürfte es eher so gewesen sein, daß die Stadt New Orleans Palantir die Möglichkeit gab, ihre Idee mit Hilfe von New Orleans und den von der Stadt bereitgestellten Daten erst zu entwickeln.
Im Jahr 2015 erwähnte Palantir die eigene Arbeit in New Orleans in seinem jährlichen philanthropischen Bericht und bezeichnete die Bemühungen als:
Carvilles weitere Äußerungen bei einem öffentlich-rechtlichen Radiosender in der Bay Area ergänzen, wie Palantirs Beziehung zur Stadt zustande kam:
Bei einem Auftritt in der KQED-Talkshow „Forum“ im Januar 2014 priesen Carville und seine Frau Mary Matalin Palantirs Arbeit in New Orleans als einen wesentlichen Faktor für den zweijährigen Rückgang der Mordrate in der Stadt.
erzählte Carville dem Moderator des KQED-Forums, Michael Krasny, ohne seine berufliche Beziehung zu Palantir zu erwähnen.
Mary Matalin, die ebenfalls als „Politikberaterin“ tätig ist, machte Krasny klar, daß es sich bei der Vorhersagearbeit, die die Firma aus Palo Alto mit dem New Orleans Police Department (NOPD) durchführt, um einen Prototyp handele, der aber auch das Potenzial habe, unschuldige Menschen zu erfassen.
gestand Matalin ein und beruhigte:
Ronal Serpas, von 2010 bis August 2014 Polizeichef von New Orleans, erinnerte sich an seinen ersten Kontakt mit Palantirs Mitarbeitern während eines von Bürgermeister Landrieus Büro initiierten Treffens.
sagte Serpas während eines Interviews in seinem Büro an der Loyola University.
Die Geschäftsbeziehung zwischen New Orleans und Palantir wurde am 23. Februar 2012 besiegelt, als Bürgermeister Landrieu eine Vereinbarung unterzeichnete.
Palantir erhielt in New Orleans erstmals Zugang zu Daten
Der Vorteil dieser Vereinbarung für Palantir war, daß die Firma dadurch Zugang zu massenhaften Daten der Stadt New Orleans erhielt und dadurch erst in die Lage versetzt wurde, mit Hilfe dieser Daten Software so umzuschreiben/anzupassen, daß sie für eine Kommune brauchbar ist. Mit Hilfe der Daten aus New Orleans gelang es Palantir also erst sein neues Geschäftsfeld aufzubauen.
Kurz darauf, im Januar 2013 erlaubte New Orleans Palantir zudem, sein Strafverfolgungskonto für das Produkt Accurint von LexisNexis zu nutzen. Dieses Produkt umfasst Millionen durchsuchbarer öffentlicher Aufzeichnungen, Gerichtsakten, Führerscheine, Adressen, Telefonnummern und Social-Media-Daten. Das Unternehmen erhielt außerdem kostenlosen Zugriff auf Daten der Stadt von Kriminellen und Nicht-Kriminelle, um seine Software zur Kriminalitätsprognose trainieren zu können.
Feige in Philantropiepartnerschaft versteckt
Das Problem: Weder die Einwohner von New Orleans noch die wichtigen Stadtratsmitglieder, die für die Nutzung der städtischen Daten zuständig sind, wussten von Palantirs Zugriff auf Unmengen ihrer Daten.
In New Orleans kam noch hinzu, daß das Programm der Öffentlichkeit verheimlicht wurde. Der Grund dazu war, daß der von den linken US-Democrats gestellte Bürgermeister von New Orleans, Mitch Landrieus, den Einsatz der Software in der philantropischen Partnerschaft „NOLA For Life“ mit der Stadt versteckte. Eben wegen dieses philanthropischen Status und des New Orleanser Regierungsmodells des „starken Bürgermeisters“ wurde diese Vereinbarung mit Palantir nie öffentlich ausgeschrieben.
Das offizielle Ziel: Reduktion von Kriminalität
Patent zur Vorhersage von Terroranschlägen
Wie bei der Kriegsführung
Der Grundgedanke des Einsatzes von Palantir im Inneren ist identisch mit dem Grundgedanken des Einsatzes von Palantir im Krieg, z.B. im Ukraine-Krieg und/oder im Gaza-Konflikt.
„Sie erstellen eine Zielliste, aber wir verfolgen nicht Al-Qaida in Syrien“,
sagte ein ehemaliger Polizeibeamter, der Palantirs Arbeit und die Verkaufsgespräche des Unternehmens für Predictive Policing persönlich beobachtet hat. Der ehemalige Beamte sprach unter der Bedingung der Anonymität, um offen über seine Bedenken hinsichtlich Data Mining und Predictive Policing sprechen zu können.
sagte der ehemalige Beamte.
Wie funktioniert die „predictive policing“ bei Palantir?
Es gelang den Journalisten von The Verge nicht, Palantir-Mitarbeiter oder Behördenvertreter aus New Orleans zur Funktionsweise der Initiative zur Kriminalitätsprognose zu befragen.
Ersatzweise liegen jedoch Dokumente vor, die The Verge einsehen konnten. Hierbei handelt es sich um externe Studien und die Erinnerungen des ehemaligen Polizeichefs Serpas über den Betatest der Predictive Policing-Initiative aus den vergangenen sechs Jahren.
Social Network Analysis (SNA)
Kernelement ist eine bei Nachrichtendiensten eingesetzte Software:
Wie dies aussieht ist auf einem Bild des Bayerischen Rundfunks erkennbar. Auf dem Bild werden Verbindungen zwischen Personen, Orten und Ereignissen aufzeigt.
Nach Eingabe eines Suchbegriffs – etwa
- eines Teils des Nummernschilds,
- eines Spitznamens,
- einer Adresse,
- einer Telefonnummer oder
- eines Social-Media-Namens oder -Posts –
überprüfte der Analyst die von Palantirs Software gesammelten Informationen und ermittelte anhand ihrer Verbindung zu bekannten Opfern oder Tätern, welche Personen am stärksten gefährdet sein könnten, Gewalt zu begehen oder Opfer zu werden.
Die Daten hierfür zu den einzelnen Personen stammten wiederum aus sozialen Medien sowie aus den Datenbanken über Kriminelle des z.B. New Orleans Police Department für
- Ballistik,
- Banden,
- Bewährungs- und Haftentlassungsdaten,
- Telefonaten aus dem Gefängnis,
- Notrufen,
- dem zentralen Fallmanagementsystem (d. h. jedem beim New Orleans Police Department erfassten Fall) und
- dem Archiv der Befragungskarten der Behörde.
Letztgenannte Datenbank enthält jede dokumentierte Begegnung des New Orleans Police Department mit Bürgern, auch jene, die nicht zu Festnahmen führen.
Die in New Orleans vorhandenen Daten sind besonders umfangreich, da deren Polizeichef Serpas einmal angeordnet hatte, erstellte Befragungskarten als Maßstab für die Leistung eines Beamten und eines Distrikts zu verwenden, was dazu führte, dass in den Jahren 2011 und 2012 über 70.000 Befragungskarten ausgefüllt wurden, wie The Times-Picayune bereits 2010 enthüllte.
Diese Vorgehensweise ähnelte dem „Stop and Frisk“-Programm des NYPD und wurde mit dem ausdrücklichen Ziel eingeführt, möglichst viele Informationen über die Einwohner von New Orleans zu sammeln, unabhängig davon, ob sie eine Straftat begangen hatten oder nicht.
„Das NOLA-Modell.“
Laut Palantirs eigener Dokumentation führten Asher und seine Kollegen von 2011 bis 2013 soziale Netzwerkanalysen aller Opfer tödlicher oder nicht tödlicher Schießereien in New Orleans durch. Mit Hilfe dieser Methode, die Asher „NOLA-Modell“ nannte, erstellte die Stadt eine Liste von rund 3.900 Personen, die aufgrund ihrer Verbindung zu einem früheren Schützen oder Opfer dem höchsten Risiko ausgesetzt waren, in Waffengewalt verwickelt zu werden.
„Wir können 30–40 % der Schießereiopfer identifizieren“,
behauptete Asher auf Palantirs interner Konferenz 2014. Wiederholte Interviewanfragen lehnte Asher ab.
Kriminalpolitische Grundüberlegungen
Theoretisch ist Ashers Ansatz maßgeblich von der Forschung des Yale-Professors Andrew Papachristos beeinflusst, der Gewalt wie eine übertragbare Krankheit verfolgte, die sich über Netzwerke verbreitet. Da seine Arbeit jedoch als wissenschaftliche Grundlage für die von PredPol und der Chicagoer Polizei eingesetzten Kriminalitätsprognosemodelle zitiert wurde, versucht Papachristos, seine Forschung von diesen Methoden zu distanzieren.
Sobald das NOPD seine Liste mit wahrscheinlichen Schützen und Opfern erstellt hatte, wählten die Polizeibehörde und die Sozialdienste – als „Zuckerbrot“ von NOLA For Life – Personen aus, die entweder inhaftiert waren oder unter gerichtlicher Aufsicht standen, für ein „Call-in-Meeting“.
Bürgermeister Landrieus Büro lobte das Programm häufig und bezeichnete es als wesentlichen Bestandteil der Strafrechtspolitik von New Orleans. Auch Palantir würdigte dies:
„Wir helfen, den Teufelskreis der Gewalt in New Orleans zu durchbrechen“,
heißt es im Philanthropy Engineering-Bericht des Unternehmens aus dem Jahr 2015. Die tatsächlichen Auswirkungen sind jedoch unklar.
Von den 308 Personen, die zwischen Oktober 2012 und März 2017 an den Call-Ins teilnahmen, schlossen
- sieben eine Berufsausbildung ab,
- neun absolvierten ein „bezahltes Praktikum“,
- keiner schloss einen Highschool-Abschluss oder einen GED-Kurs ab, und
- 32 fanden durch Vermittlung eine Anstellung.
- 50 Teilnehmer wurden nach ihrem Call-In festgenommen,
- zwei sind inzwischen verstorben.
Nur kurzfristige Erfolge
Im Gegensatz dazu verfolgten die Strafverfolgungsbehörden ihren Teil des Programms energisch. Von November 2012, als die neue Multi-Agency Gang Unit gegründet wurde, bis März 2014 nahmen die Anklagen wegen organisierter Kriminalität zu: Einer internen Präsentation von Palantir zufolge wurden in diesem 16-Monats-Zeitraum 83 mutmaßliche Bandenmitglieder aus acht Banden angeklagt .
Nach den ersten zwei Jahren der Zusammenarbeit von Palantir mit dem NOPD verzeichnete die Stadt einen deutlichen Rückgang der Morde und der Waffengewalt, der jedoch nur von kurzer Dauer war. Selbst der ehemalige NOPD-Chef Serpas glaubt, dass der präventive Effekt der Einberufung Dutzender gefährdeter Personen – und deren Anklageerhebung – nachließ.
sagte Serpas mit Blick auf die Anklagen wegen organisierter Kriminalität.
Eine Evaluation konnte keinen Effekt durch Palantir feststellen
Die Stadt erstellte eine Liste mit rund 3.900 Personen, bei denen das höchste Risiko besteht, in Waffengewalt verwickelt zu werden. Robert Goodman, ein gebürtiger New Orleanser, der nach Verbüßung einer Mordhaftstrafe Gemeindeaktivist wurde, arbeitete bis August 2016 als „Responder“ für das städtische CeaseFire-Programm und riet Menschen von Vergeltungsgewalt ab. Nick Corsaro, Professor an der University of Cincinnati, der die Bandendatenbank des New Orleans Police Department mit aufgebaut hat, arbeitete auch an einer Evaluierung der CeaseFire-Strategie von New Orleans. Er stellte fest, dass der allgemeine Rückgang der Mordrate in New Orleans mit der Umsetzung des CeaseFire-Programms zusammenfiel. In den vom Programm betroffenen Stadtteilen in der Innenstadt gab es jedoch
„keine statistisch signifikanten Rückgänge, die mit dem Beginn im November 2012 korrespondierten“.
Mit der Zeit bemerkte Goodman eine stärkere Betonung der „harten“ Komponente des Programms und eine stärkere Kontrolle der nicht-strafenden Aspekte durch die Stadtverwaltung, was seiner Meinung nach die Interventionsarbeit untergrub.
sagte er.
.
Kritik an „predictive policing“ mit Palantir-Produkten
Das Konzept einer „vorausschauenden Polizeiarbeit“ ist überall dort, wo sie eingesetzt wird, höchst umstritten. Im Kern bedeutet das, daß mit Hilfe bestehender Tätermuster zukünftige Taten „vorhergesagt“ werden.
WikiLeaks hat dazu ein Whitepaper von Palantir aus dem Jahr 2011 veröffentlicht, in dem die eigene Organisation durch Palantir ausdrücklich als „Bedrohung“ bezeichnet wird. Das Dokument legt nahe, dass Palantir die Server von WikiLeaks, dessen Gründer Julian Assange und Mitarbeiter überwachte. Es deutete auch auf Palantirs Absicht hin, aus den Schwachstellen von WikiLeaks „Kapital zu schlagen“ und die Gruppe zu „bekämpfen“.
Ob das gelingen könnte ist fraglich, denn die Städte New Orleans, New York und Los Angeles beendeten die Kooperation mit Palantir schnell wieder, als sie bemerkten, daß deren Software offenbar nicht die Erfolge brachten, die in Aussicht gestellt wurden.
The Intercept berichtete 2017 außerdem, dass die ICE mithilfe von Palantir-Tools US-Bürger anhand biometrischer Daten verfolgen und auf geheime Informationen zugreifen konnte – sogar von der CIA.
Laut Vice und The Intercept wurde die Software von Palantir von der US-Einwanderungs- und Zollbehörde (ICE) sogar für Razzien am Arbeitsplatz, Abschiebungen und Familientrennungen verwendet.
„Predictive Policing“ stößt in Studien auf Widerstand
Als immer mehr Behörden und Unternehmen mit prädiktiver Polizeiarbeit (Predictive Policing) zu experimentieren begannen, säten staatlich finanzierte Studien Zweifel an deren Wirksamkeit und unabhängige Wissenschaftler stellten fest, dass die Methode ungleiche Auswirkungen auf arme farbige Bevölkerungsgruppen haben kann. Eine Studie aus dem Jahr 2016 untersuchte den Algorithmus von PredPol per Reverse Engineering und fand heraus, dass dieser eine „systemische Voreingenommenheit“ gegenüber übermäßig polizeilich überwachten farbigen Bevölkerungsgruppen reproduzierte und dass historische Kriminalitätsdaten zukünftige kriminelle Aktivitäten nicht genau vorhersagten. Einer der Forscher, William Isaac, Doktorand an der Michigan State University, hatte zuvor noch nie von der Partnerschaft zwischen New Orleans und Palantir gehört, erkannte jedoch das Datenmapping-Modell, das das Herzstück des Programms bildet.
„Ich denke, die von ihnen verwendeten Daten geben Anlass zu ernsthaften Zweifeln an ihrer Vorhersagekraft. Wir haben sehr wenig über ihre Fähigkeit gesehen, Gewaltverbrechen vorherzusagen“,
sagte Isaac. Er habe außerdem schon lange den Verdacht, dass Palantir eine Art individuelles Prognoseprogramm betreibe.
„Sie haben lediglich öffentlich eingeräumt, in welchem Ausmaß ihre Technologie der Konfliktlösung und Visualisierung von Daten dient“,
sagte Isaac. Nachdem er die Dokumentation des New Orleans-Projekts von Palantir durchgegangen war, sagte Isaac, das Programm weise bemerkenswerte Ähnlichkeiten mit dem individuellen „Heat List“-Modell von Chicago auf, das laut einer Studie der RAND Corporation keinerlei Einfluss auf die Gewaltkriminalität habe und überwiegend aus jungen Afroamerikanern und Latinos mit umfangreichen Kontakten zu den Strafverfolgungsbehörden bestehe.
„Dieselben Mängel, die bereits im Vorhersageprogramm von Chicago auftraten, werden sich auch im Datensatz von New Orleans verstärken.“
„Wenn man etwas vorhersagen will, braucht man eine repräsentative Darstellung des gesamten Universums, das man vorhersagen will. Um Kriminalität vorherzusagen, braucht man positive und negative Beispiele für jedes mögliche Vergehen“,
sagte Isaac. Polizeidienststellen verfügen in der Regel über gute Daten zu Gemeinden, in denen sie präsent sind, aber nur über wenige Daten zu Gemeinden, in denen sie weniger intensiv patrouillieren – also in der Regel wohlhabende und weiße Bevölkerungsgruppen.
„Dieselben Mängel, die bereits im Vorhersageprogramm von Chicago vorhanden waren, werden sich auch im Datensatz von New Orleans verstärken“,
sagte Isaac.
Los Angeles: riesiger Aufwand, minimales Ergebnis
Die Datenschützer hegen besondere Bedenken hinsichtlich Palantirs Einsatz von Methoden zur „ Polizeiprognose “. Die Gruppe testet ihre Prognosesysteme seit 2013 in aller Stille und mit Unterbrechungen in Städten wie Los Angeles und New Orleans. Das in Los Angeles eingesetzte System verarbeitet zwei Jahre lang personenbezogene Daten von Personen mit Vorstrafen und setzt Personen, die einen bestimmten Risikowert (berechnet anhand von Faktoren wie Polizeikontrollen und bekannter Bandenzugehörigkeit) überschreiten, auf ein „Bulletin für chronische Straftäter“. Personen, die auf dieser Liste landen, sind verstärkter polizeilicher Aufmerksamkeit (und potenzieller Datenschutzverletzungen) ausgesetzt, unabhängig davon, ob sie aktuell Verdächtige in einem Strafverfahren sind oder nicht. Eine weitere Software von Palantir prognostiziert Brennpunkte der Eigentumskriminalität und verstärkt dort während der erwarteten Spitzenzeiten die Streifen.
Ein numerisches Bewertungsverfahren lehnt sogar Palantir ab
Am 23. Mai 2016 antwortete Courtney Bowman, zuständig für Bürgerrechte bei Palantir, auf eine Anfrage des NOPD-Kriminalanalytikers Zach Donnini, ob Palantir dabei helfen könne, numerische Rankings für das Risiko von Personen zu erstellen, eine Schießerei zu begehen oder Opfer einer Schießerei zu werden.
„Ich habe ernsthafte Bedenken hinsichtlich der Einführung eines Ranking- oder numerischen Bewertungsverfahrens. Genau dieser Aspekt des Chicagoer „Heat“-Listenmodells hat die CPD einer starken öffentlichen Kritik ausgesetzt“,
heißt es in der E-Mail, die auf zwei Artikel verweist, die Chicagos Predictive-Policing-Ansatz kritisieren.
Das Problem vorenthaltener Beweismittel zur Verteidigung
Die Geheimhaltung des NOPD-Programms wirft auch die Frage auf, ob Angeklagten Beweise vorgelegt wurden, auf die sie ein Recht haben. Sarah St. Vincent, Forscherin bei Human Rights Watch, veröffentlichte kürzlich eine 18-monatige Untersuchung zur Parallelkonstruktion, also zur Praxis der Strafverfolgungsbehörden, durch Überwachungsaktivitäten gewonnene Beweise zu unterdrücken. In einem Interview erklärte St. Vincent, dass die Zurückhaltung von Strafverfolgungsbehörden bei der Informationsbeschaffung oder -analyse, wie sie etwa bei der Predictive-Policing-Arbeit in New Orleans zum Ausdruck kommt, die Kontrolle und das Gleichgewicht des Strafrechtssystems effektiv behindert. Auf der Überwachungskonferenz 2017 des Cato Institute im Dezember äußerte St. Vincent Bedenken, warum Informationen aus Predictive-Policing-Systemen nicht in Anklagen oder Beschwerden auftauchen.
„Es ist die Aufgabe des Richters, zu beurteilen, ob das Vorgehen der Regierung in diesem Fall rechtmäßig war“,
sagte St. Vincent über das Programm in New Orleans.
„Ich denke, Verteidiger sollten sich zu Recht Sorgen über den Einsatz von Programmen machen, die ungenau, diskriminierend oder auf verfassungswidrigen Daten basieren könnten.“
Wäre Palantirs Partnerschaft mit New Orleans öffentlich gewesen, hätten die Fragen der Rechtmäßigkeit, Transparenz und Korrektheit in einem öffentlichen Forum in einer fundierten Diskussion mit Gesetzgebern, Strafverfolgungsbehörden, dem Unternehmen und der Öffentlichkeit geklärt werden können. Sechs Jahre lang geschah dies aber nie.
Problem mit der Beweisverwertung
Palantir erzeugt keine gerichtsverwertbaren Beweise: Jason Williams, Präsident des Stadtrats von New Orleans und ehemaliger Strafverteidiger, prüfte auf Anfrage von The Verge die Dokumentation der Zusammenarbeit von Palantir mit dem NOPD. Williams sagte, er habe noch nie von einer Beteiligung des Unternehmens an dem NOPD gehört.
„Ich glaube nicht, dass es irgendjemanden im Rat gibt, der sagen würde, er hätte davon gewusst, dass dies überhaupt passiert ist, weil dies weder Bestandteil unserer Haushaltszuweisungen noch unserer Aufsicht war“,
sagte Williams in einem Interview während einer Ratssitzung.
Meine größte Sorge wäre, wie das System in meiner Stadt eingesetzt wird. Wenn es dazu genutzt wird, marginalisierte Menschen zu identifizieren, die gefährdet sind, Schaden zu erleiden, und sie davor zu bewahren, werde ich das ganz anders bewerten, als wenn das System schändlich eingesetzt wird.
Ohne soziale Akzeptanz nicht verwendbar; Geheimhaltung schadet:
Courtney Bowman, ein Palantir-Beauftragter für Bürgerrechte, der maßgeblich an der Zusammenarbeit des Unternehmens mit dem New Orleans Police Department beteiligt ist, lobte in einem öffentlichen Auftritt die Wirksamkeit der Arbeit des Unternehmens in New Orleans. Er räumte ein, dass übermäßige Geheimhaltung die Kluft zwischen Strafverfolgungsbehörden und überpolizeilichen Gemeinden vertiefen könnte. In einem Vortrag am 6. Mai 2016 auf der DataEdge-Konferenz der UC Berkeley School of Information sagte Bowman:
Kritik am Einsatz von Palantir in Europa
Im Jahr 2020 forderte die niederländische Datenschutzgruppe SOMI eine Untersuchung der geheimen Zusammenarbeit von Palantir mit EU-Polizei- und Geheimdiensten, darunter Europol und den deutschen Landespolizeien.
Das Unternehmen arbeitet außerdem an einem System zur Überwachung der britischen Grenz- und Zolldaten nach der Trennung von der EU.
SOMI warf in diesem Zusammenhang Palantir vor, zivile Daten zu missbrauchen und eine „prädiktive Polizeiarbeit“ voranzutreiben, die die Unschuldsvermutung untergräbt.
Die Liste der Beschwerden von SOMI enthält mehrere Punkte: Die niederländische Datenschutzorganisation wirft Palantir vor, zu viel Kontrolle über die persönlichen Daten von EU-Bürgern zu haben, zu anfällig für Fehler zu sein, die Bürgerdaten offenlegen, und aufgrund seiner engen Verflechtung mit US-Behörden eine Bedrohung für die nationale Sicherheit der EU-Mitgliedsstaaten darzustellen. Sie weist darauf hin, dass Palantir offenbar während des Großteils seiner Geschichte Verluste gemacht und von Aufträgen und Subventionen der US-Regierung gelebt habe.
Ein interessanter Punkt in diesem Bereich, auf den SOMI hinweist, ist, dass Palantir dem „Foreign Intelligence Surveillance Act“ (FISA) unterliegt. Das bedeutet, dass US-Geheimdienste Zugriff auf die von Palantir über Nicht-US-Bürger gesammelten Daten erhalten müssen. Dieser Punkt spiegelt die Kernaussage des Schrems-II-Urteils wider , das den transatlantischen digitalen Handel erschüttert hat. Darin wurde erfolgreich argumentiert, dass Datenschutzverletzungen im Sinne der Datenschutz-Grundverordnung (DSGVO) stattgefunden haben.