LONDON – Die neue „Find- und Profil“-App der britischen Polizei nutzt maschinelles Lernen, um die von den Kameras aufgezeichneten Nummernschilddaten zu analysieren und Routen zu verfolgen, um so nicht mehr nur verdächtige Fahrzeuge, sondern in Zukunft sogar „verdächtige“ Fahrten und identifizieren zu können.
.
.
Bereits im Jahr 2021 war die britische Hauptstadt London mit 73,3 Kameras je 1.000 Einwohnern auf dem dritten Platz weltweit und lag damit sogar einen Platz vor der chinesischen Hauptstadt Peking auf Platz 2. Berlin befand sich im Jahr 2021 mit seinen damals 22.289 Kameras im öffentlichen Raum auf Platz 50. Im Vergleich zum Jahr 2020 hat die flächendeckende Überwachung allerdings deutlich zugenommen. Innerhalb diesen Jahres wurden in Berlin knapp 4.800 zusätzliche Kameras installiert!
Aus datenschutzrechtlicher Sicht geht es nicht nur um die Erhebung von Reisedaten, sondern auch um die daraus ableitbaren Schlussfolgerungen. Durch die Verknüpfung von Millionen von Reisen mit Verhaltensmodellen könnte das System schließlich eine Live-Karte der Bewegungen von Menschen im ganzen Land erstellen. Sobald diese analytischen Fähigkeiten Teil der routinemäßigen Polizeiarbeit werden, könnte die Unterscheidung zwischen der Verfolgung von Verdächtigen und der Überwachung von Bürgern völlig verschwimmen.
Automatische Kennzeichenerkennung als das neue „Normal“
Der Status Quo: „Künstliche Intelligenz“ erkennt „verdächtige Fahrten“
Die Polizeikräfte in ganz Großbritannien experimentieren aktuell mit künstlicher Intelligenz um mit Hilfe des umfangreichen Nummernschilderkennungsnetzes des Landes automatisch die Bewegungen von Fahrern überwachen und kategorisieren zu können.
Interne Aufzeichnungen, die Liberty Investigates und The Telegraph erhalten haben, zeigen, dass drei der neun regionalen Einheiten zur Bekämpfung der organisierten Kriminalität in England und Wales ein von Faculty AI entwickeltes Programm testen, das aus Fahrzeugbewegungsdaten lernt und Fahrten erkennt, die von Algorithmen als „verdächtig“ eingestuft werden.
Die britische Zeitung The Telegraph beschreibt dieses System wie folgt:
Seit Jahren erfasst das System zur automatischen Kennzeichenerkennung (ANPR) täglich mehr als 100 Millionen Fahrzeugsichtungen, hauptsächlich um zu bestätigen, ob ein bestimmtes Kennzeichen in einem bestimmten Gebiet aufgetaucht ist.
Das Ziel: „Künstliche Intelligenz“ erkennt „verdächtige Fahrten“
Doch nun wurden der Zeitung The Telegraph Informationen zugesteckt, denen gemäß die Regierung eine massive Ausweitung dieser Praxis anstrebt. Die neue Initiative ändert diese Logik grundlegend. Anstatt einzelne Kennzeichen zu überprüfen, trainiert sie die Software, ganze Routen zu verfolgen und nach Verhaltensmustern zu suchen, die den Reisegewohnheiten krimineller Netzwerke ähneln, die für den Drogenhandel über Landkreisgrenzen hinweg bekannt sind.
Das Projekt mit dem Namen Operation Ignition stellt eine Veränderung in Umfang und Ambition dar.
Im Gegensatz zu den bisherigen Warnmeldungen, bei denen Beamte manuell „Fahrzeuge von Interesse“ melden, lernt das maschinelle Lernmodell aus vergangenen Daten, um seine eigene Liste potenzieller Ziele zu erstellen.
In offiziellen Dokumenten wird eingeräumt, dass der Prozess „Millionen von Fahrzeugzulassungen“ betreffen könnte und dass die gesammelten Informationen künftige Entscheidungen über den ethischen und operativen Einsatz solcher Technologien beeinflussen könnten:
Was als vom Innenministerium finanziertes Pilotprojekt im Nordwesten Englands begann und die Regionen Merseyside, Greater Manchester, Cheshire, Cumbria, Lancashire und Nordwales umfasste, hat sich mittlerweile zu drei regionalen Kriminalitätsbekämpfungseinheiten ausgeweitet.
Die Behörden bezeichnen dies als ein technisches Experiment, doch Dokumente deuten auf langfristige Pläne für eine landesweite Einführung hin.
Sorgen über Sorgen
Bürgerrechtsgruppen warnen davor, dass solche Systeme selten auf ihren ursprünglichen Zweck beschränkt bleiben.
Jake Hurfurt von Big Brother Watch sagte:
Im Kern argumentiert er damit, dass die Kameras das Versprechen nicht eingelöst haben, Verbrechen zu reduzieren. Er fügte hinzu, dass die Bekämpfung organisierter Drogenrouten zwar ein legitimes Ziel sei,
Die Such- und Profil-App wurde von Faculty AI entwickelt, einem britischen Technologieunternehmen mit engen Verbindungen zu Regierungsprojekten.
Das Unternehmen, das während der Vote Leave-Kampagne mit Dominic Cummings zusammengearbeitet hat, hat seither Datenanalysetools für den NHS und das Verteidigungsministerium entwickelt. Die Fakultät erregte kürzlich Aufsehen, nachdem sie den Auftrag erhalten hatte, eine Software zu entwickeln, die soziale Medien nach
durchsucht und später zur Überwachung von Online-Debatten über die Unterbringung von Asylbewerbern eingesetzt wurde. Die Fakultät lehnte es ab, sich zu ihrer Beteiligung an der ANPR-Initiative zu äußern.
Polizeichef Chris Todd, Vorsitzender des Daten- und Analyseausschusses des Nationalen Polizeichef-Rates, beschrieb das System als
Er sagte, dass bei dem Pilotprojekt „nur ein sehr kleiner Teil der ANPR-Daten“ verwendet wurde und betonte, dass
William Webster, der Beauftragte für Biometrie und Überwachungskameras, argumentierte, das Innenministerium berate sich über neue Rechtsvorschriften für digitale und biometrische Polizeiinstrumente, einschließlich ANPR.
„Die Aufsicht ist ein wesentlicher Bestandteil dieses Rahmens“,
sagte er und fügte hinzu, dass solche Versuche in einem „sicheren Raum“ stattfinden sollten, der
gewährleistet.
Ein Sprecher des Innenministeriums vertrat die Auffassung, die App sei
„zur Unterstützung von Ermittlungen im Bereich schwerer und organisierter Kriminalität“
konzipiert und werde
getestet.