Flocks KI findet jeden -- kein Verbrechen nötig
Das Überwachungsunternehmen Flock Safety hat jahrelang der Öffentlichkeit versichert, seine Technologie könne niemanden erkennen, identifizieren oder verfolgen. Jetzt hat es ein System gebaut, das genau das tut -- ein KI-Tool für die Polizei, das Fahrer allein anhand ihrer Bewegungsmuster identifizieren kann, ohne Kennzeichen, ohne Namen und ohne Straftat.
WIRED hat den vollständigen Code erhalten. Es heißt OS Investigate und wird mit 69 vorgefertigten Eingabeaufforderungen ausgeliefert.
Von Kennzeichenkontrollen zur Mustersuche
Flock baute sein 7,5-Milliarden-Dollar-Geschäft auf ein einfaches Versprechen: Eine Kamera fotografiert ein vorbeifahrendes Auto, wandelt das Kennzeichen in Text um und prüft es gegen eine Liste gesuchter Fahrzeuge. Nicht gesuchte Autos werden aufgezeichnet und ansonsten ignoriert. Die eigenen Vertrauensseiten des Unternehmens versichern Kunden, die Technologie sei für spezifische, fallbezogene Ermittlungen gedacht und nicht zum Beobachten von Menschen.
OS Investigate beschreibt eine Umkehrung dieser Anordnung. Ein Beamter braucht kein Kennzeichen, keinen Namen und keine Straftat mehr, um zu beginnen. Er gibt einen Ort, einen Zeitraum und ein Verhaltensmuster vor -- und das System liefert die passenden Personen zurück.
Die KI hat Zugriff auf 45 Werkzeuge: Flocks Netzwerk von 20 Milliarden monatlichen Kennzeichenscans aus 6.000 Gemeinden, Festnahmeakten, Fallakten, Einsatzprotokolle der 911, ballistische Ergebnisse und kommerzielle Datenbanken mit Sozialversicherungsnummern, Geburtsdaten, Telefonnummern, E-Mail-Adressen, Verwandten und Bekannten. Beamte tippen Eingabeaufforderungen in ein Chat-Feld -- oder wählen aus 69 vorgefertigten aus -- und das System gibt Namen, Wohnadressen und Bewegungshistorien zurück.
Die Prompts, die Flock selbst schrieb
Einige der 69 Prompts geben der Polizei Fähigkeiten, die das Unternehmen zuvor als unmöglich bezeichnet hatte. Einer lautet: Finden Sie mir Zeugen anhand von Fahrzeugen, die in einem bestimmten Stadtteil in den letzten 14 Tagen während eines täglichen Zeitrahmens am häufigsten gesehen wurden. Der Beamte füllt die Lücken aus und sendet ab. Die Ausgabe ist eine Liste von Kennzeichen, die andere Werkzeuge in Namen und Adressen umwandeln.
Ein anderer Prompt weist das System an, alle Personen aufzulisten, die in zwei Jahren mehr als zweimal festgenommen wurden (nur Betäubungsdelikte ausgeschlossen), deren Wohnorte zu kartieren, die Einsätze an ihren Adressen abzurufen und eine Überprüfung der Top-3-Personen durchzuführen. Eine solche Überprüfung liefert Fahrzeuge, frühere Verdächtigungen, Verwandte, Telefonnummern und Online-Konten -- in einem einzigen Befehl.
Mehrere Prompts beschreiben die Jagd nach Mustern statt die Abfrage eines einzelnen Datensatzes. Vierzehn erfordern kein Kennzeichen, keinen Namen und keine Beschreibung. Der Beamte liefert lediglich einen Ort, ein Zeitfenster und ein Verhalten. Eine Gruppe fragt nach Fahrzeugen, die an drei Tagen drei oder mehr Einzelhandelsgeschäfte in einer Stadt besucht haben, oder mehrere Banken in einer Woche, oder mehrere Tankstellen zwischen Mitternacht und 5 Uhr morgens. Ein eingebauter Filter entfernt Busse, Lastwagen, Lieferwagen und Anhänger, sodass Lieferfahrer ausgeschlossen werden und normale Fahrer übrig bleiben.
Dann gibt es den Kontakt-Finder. Er zählt, wie oft andere Kennzeichen innerhalb von zwei Minuten nach einem Zielfahrzeug erscheinen, und meldet jedes Auto, das drei- oder mehrmals mit einer Konfidenzschwelle von 0,75 daneben auftaucht. Der Beamte gibt ein Kennzeichen vor. Die Software findet bis zu 20 Kontakte.
Die Versprechen des Unternehmens, entlarvt durch seinen eigenen Code
Flocks langjährige Position war, dass seine Kameras Kennzeichen aufzeichnen, nicht die Fahrer dahinter. CEO Garrett Langley sagte gegenüber Vanity Fair, Flock hätte das Verschwinden von Nancy Guthrie lösen können, wenn seine Kameras dort installiert gewesen wären, wo sie verschwand. Der Slogan des Unternehmens: das erste Betriebssystem für öffentliche Sicherheit, das Kriminalität beseitigt.
Die Kluft zwischen diesen Behauptungen und dem, was OS Investigate tut, ist im Code selbst sichtbar. Das System kann nach Personen in einem auf einer Karte gezeichneten Gebiet allein anhand einer physischen Beschreibung suchen: männlich, etwa 1,80 m, schwarzer Hoodie, Unterarm-Tätowierung. Es kann nach Geschlecht, Rasse, ethnischer Zugehörigkeit, Größe, Gewicht, Statur, Narben, Muttermalen und Tätowierungen aus Polizeiakten filtern.
Der Widerspruch tritt vor dem Hintergrund wachsender Missbrauchsfälle auf. Ein texanischer Beamter durchsuchte mehr als 83.000 Flock-Kameras im ganzen Land, während er nach einer Frau suchte, die eine Selbstabtreibung vorgenommen hatte, wie aus Protokollen hervorgeht, die 404 Media erhielt. Die Washington Post fand 50 Beamte, die wegen Missbrauchs von Kennzeichenlesesystemen angeklagt oder beschuldigt wurden -- 26 davon, um Ehefrauen, Freundinnen, Ex-Partnerinnen und Frauen, die sie kennenlernen wollten, zu verfolgen.
Warum Experten alarmiert sind
Der Oberste Gerichtshof der USA entschied im Juni, dass Bürger ein berechtigtes Interesse an der Privatsphäre ihrer Aufenthaltsorte haben und der Vierte Verfassungszusatz greift, wenn die Polizei diese Daten von einem Unternehmen verlangt. OS Investigate kehrt diesen Schutz um: Polizeibehörden kaufen die Fähigkeit direkt, was Razzien in einem Ausmaß ermöglicht, das die ACLU als beispiellos bezeichnet.
Jay Stanley von der ACLU prüfte die Prompts für WIRED. In mancher Hinsicht wie China -- sehr wenig Raum zwischen dem, was getan werden kann, und dem, was getan wird. Noel Pichardo, ein ehemaliger Polizeibeamter aus Rhode Island, der vor dem Landesparlament gegen die Flock-Technologie ausgesagt hatte, war nach dem Anblick des Codes deutlicher: Ich weiß nicht, wie jemand argumentieren kann, dass Flock keine Personen überwacht.
Chad Marlow, der ACLU-Anwalt, der die Kampagne Get The Flock Out leitet, sorgt sich um den Beamten, der eine KI fragt, welche Personen sie für am wahrscheinlichsten hält, Straftaten zu begehen. Es wird keinen rechtlichen Standard des Tatverdachts entwickeln, sondern was auch immer der KI-Standard ist.
Die Schutzmaßnahmen, die zu spät kamen
Flock kündigte letzte Woche an, anomale Suchen zu überwachen, markierte Benutzer automatisch zu sperren und bis Ende 2026 Fallcodes zu verlangen. Das Prüfwerkzeug, das die Suchen einer Behörde auf verdächtige Muster scannt, kam im April 2026 -- ein Jahr, nachdem Beamte erstmals wegen Missbrauchs zur Rechenschaft gezogen wurden.
Dieser Zeitplan ist bedeutsam. Bis die Schutzmaßnahmen greifen, wird OS Investigate bereits im Feld sein. Stellenausschreibungen zeigen, dass das Unternehmen Ingenieure einstellt, um die architektonische Evolution des Systems voranzutreiben, es in Flocks größere Datenplattform einzubinden und mehrstufige KI-Workflows zu bauen, die im Namen von Ermittlern handeln -- einschließlich automatisierter Lead-Generierung und kameraübergreifender Korrelation.
Ein System, das nicht vergessen kann, wofür es gebaut wurde
Flock sagt, OS Investigate sei noch in der Entwicklung und seine Fähigkeiten müssten nicht dem entsprechen, was es letztlich verkauft. Noel Pichardo gegenüber WIRED war unmissverständlich: Ich weiß nicht, wie jemand argumentieren kann, dass Flock keine Personen überwacht.
Die Versuchung, ein solches Werkzeug zu normalisieren, ist groß. Der Detective, der mit WIRED sprach, sagte, seine Dienststelle würde es nutzen: Wir werden jedes verfügbare Werkzeug zur Verbrechensbekämpfung einsetzen. Es ist nicht kontrovers. Was OS Investigate von jeder früheren Generation von Überwachungstechnologie unterscheidet, ist nicht das, was es tut -- es ist, wie einfach es das tut und gegen wen es sich richtet. Frühere Systeme brauchten ein Kennzeichen. Dieses braucht einen Ort und eine Ahnung.
Die Schutzmaßnahmen, die Flock letzte Woche ankündigte -- Überwachung anomaler Suchen, automatische Sperrung markierter Benutzer, Pflicht zur Angabe von Fallcodes -- sind eine Reaktion auf ein Problem, das die eigene Technologie des Unternehmens geschaffen hat. Ob sie eintreffen, bevor oder nachdem OS Investigate die Polizeiarbeit in den Gemeinden, die es kaufen, neu definiert, ist eine Frage, die der Code selbst nicht beantworten kann.