Was machen wir mit all den Kameras?
Um ehrlich zu sein, hält mich diese Frage nachts in so etwas wie Terror wach.
Kameras sind der entscheidende technologische Fortschritt unserer Zeit. Sie sind der Schlüssel zu unseren Smartphones, die Augen der autonomen Drohnen von morgen und die FOMO-Engines, die Facebook, Instagram, TikTok, Snapchat und andere steuern. Billige, allgegenwärtige, virale Fotografie hat soziale Bewegungen wie Black Lives Mother ernährt, aber Kameras lösen bereits mehr Probleme aus, als wir wissen – Racheporno, Live-Stream-Terror, YouTube-Reaktionäre und andere fotografische Übel.
Und die Kameras sind noch nicht fertig. Sie werden immer billiger und – auf erstaunliche und alarmierende Weise – intelligenter. Fortschritte in der Computer-Vision geben Maschinen die Möglichkeit, Gesichter zu unterscheiden und zu verfolgen, das Verhalten und die Absichten von Menschen zu erraten und Bedrohungen in der physischen Umgebung zu erfassen und zu navigieren. In China zum Beispiel stehen intelligente Kameras am Anfang eines alles umfassenden Überwachungs-Totalitarismus, der in der Menschheitsgeschichte seinesgleichen sucht. Im Westen werden intelligente Kameras heute mit billigen Lösungen für fast jedes private und öffentliche Leid verkauft, vom Fangen von betrügerischen Ehepartnern und Paketdieben bis hin zur Verhinderung von Schulschießereien und Einwanderungsdelikten. Ich vermute, dass diese und weitaus mehr Nutzungen an Bedeutung gewinnen werden, weil ich ein eindeutiges Leitbild über die Gesellschaft herausgefunden habe: Wenn Sie eine Kamera einsetzen, wird diese verkauft. Deshalb mache ich mir wirklich Sorgen, dass wir stumm in einen Überwachungsstaat geraten. Und deshalb denke ich, dass das einzig Vernünftige, was man jetzt mit intelligenten Kameras machen kann, darin besteht, sie zu stoppen.
Erst kürzlich hat der Aufsichtsrat von San Francisco beschlossen, die Verwendung von Gesichtserkennungstechnologie zu verbieten, insbesondere die Verwendung durch Strafverfolgungsbehörden.
Vielleicht entscheiden wir uns zu einem späteren Zeitpunkt noch, uns überall Kameras zu überlassen. Aber lassen Sie uns nicht in eine allumfassende Zukunft springen, ohne die anstehenden Risiken zu kennen.
Also, was sind die Risiken?
Detroit zum Beispiel sowie mehrere andere Städte in den USA sind dabei, schnell und mit geringer öffentlicher Aufmerksamkeit Gesichtserkennungssysteme im chinesischen Stil in „Echtzeit“ zu installieren. In Detroit unterzeichnete die Stadt einen 1-Millionen-Dollar-Vertrag mit DataWorks Plus, einem Anbieter von Gesichtserkennungssystemen, für eine Software, die eine kontinuierliche Überprüfung von Hunderten von privaten und öffentlichen Kameras ermöglicht, die in der ganzen Stadt installiert sind – in Tankstellen, Fast-Food-Restaurants, Kirchen, Hotels, Kliniken, Suchtzentren, erschwinglichen Wohnungen und Schulen. Gesichter, die von der Kamera erfasst wurden, können in der Führerschein-Fotodatenbank von Michigan gesucht werden. Forscher erhielten auch die Regeln der Detroiter Polizei, die regeln, wie Beamte das System nutzen können. Die Regeln sind breit gefächert und erlauben es der Polizei, Gesichter „auf Live- oder aufgezeichnetes Video“ aus einer Vielzahl von Gründen zu scannen, darunter auch zur „Untersuchung und zur Bestätigung von Tipps und Hinweisen“. Der Polizeichef von Detroit bestreitet bisher alle „Orwell’schen Aktivitäten“ und fügte hinzu, dass er „großen Ansturm“ auf den Vorschlag nahm, dass die Polizei „die Rechte gesetzestreuer Bürger verletzen würde“.
Um ehrlich zu sein, bin ich weniger optimistisch. Die Gesichtserkennung bietet der Strafverfolgung eine einzigartige Fähigkeit, die sie noch nie zuvor erlebt hat. Und das ist bitte die Fähigkeit, biometrische Überwachungen durchzuführen – die Fähigkeit, nicht nur zu sehen, was vor Ort geschieht, sondern auch, wer es tut. Das war noch nie zuvor möglich. Bitte beachten Sie, dass wir noch nie im Geheimen Fingerabdruckscans von einer Gruppe von Personen machen konnten. Wir waren auch noch nie in der Lage, das mit DNA zu erreichen. Jetzt können sie Gesichtsscans durchführen.
Diese Fähigkeit ändert die Art und Weise, wie wir über unsere Privatsphäre in öffentlichen Räumen – unseren Räumen – nachdenken sollten. Meiner Meinung nach hat dies entsetzliche Auswirkungen auf die durch den Ersten Verfassungszusatz geschützte Rede und Versammlung. Dies bedeutet logischerweise, dass die Polizei beobachten kann, wer an Protesten gegen die Polizei teilnimmt und sie anschließend im Auge behalten kann.
Sie denken vielleicht, ich bin verrückt und übertreibe.
Tatsächlich geschieht dies bereits. Im Jahr 2015 zum Beispiel, als in Baltimore Proteste über den Tod von Freddie Gray in Polizeigewahrsam ausbrachen, benutzte die Polizei von Baltimore Gesichtserkennungssoftware, um Menschen in der Menge zu finden, die ausstehende Haftbefehle hatten – und verhaftete sie sofort im Namen der öffentlichen Sicherheit. Aber es gibt noch eine weitere wichtige Fehleinschätzung in der Debatte über die Gesichtserkennung. Nehmen wir an, dass bei aller angeblichen Macht Gesichter-Scansysteme von der Polizei auf eine übereilte, nachlässige Art und Weise benutzt werden, die ihre Ergebnisse in Frage stellen sollte.
Hier ist eine der vielen verrückten Geschichten:
Im Frühjahr 2017 wurde ein Mann auf einer Überwachungskamera erwischt, der Bier aus einem CVS-Laden in New York stahl. Aber die Kamera machte keine gute Aufnahme des Mannes, und das Gesichts- und Scan-System der Stadt lieferte keine Übereinstimmung. Die Polizei ließ sich jedoch nicht abschrecken. Ein Detektiv der Gesichtserkennungsabteilung der New Yorker Polizei dachte, der Mann im pixeligen CVS-Video sehe aus wie der Schauspieler Woody Harrelson. Also ging der Detektiv zu Google Images, machte sich ein Bild von dem Schauspieler und ließ sein Gesicht durch den Gesichtsscanner laufen. Das führte zu einer Übereinstimmung, und das Gesetz machte seinen Schritt. Ein Mann wurde wegen des Verbrechens verhaftet, nicht weil er aussah, als ob der Typ auf Band aufgezeichnet worden wäre, sondern weil Woody Harrelson es tat. Devora Kaye, eine Sprecherin der New Yorker Polizei, erklärte, dass die Abteilung die Gesichtserkennung lediglich als Ermittlungsleitung einsetzt und dass „weitere Untersuchungen immer notwendig sind, um einen wahrscheinlichen Grund für eine Verhaftung zu entwickeln“, fügte sie hinzu, dass „die NYPD unsere bestehenden Verfahren ständig überarbeitet und im Einklang damit unsere bestehenden Gesichtserkennungsprotokolle überprüft.
Diese Art der skizzenhaften Suche ist im Gesichtsgeschäft Routine. Die an die Polizei verkaufte Face-Scan-Software ermöglicht eine einfache Bearbeitung der eingegebenen Fotos. Um die Treffer, die sie auf ein Foto erzielen, zu erhöhen, wird der Polizei empfohlen, die Münder, Augen und andere Gesichtszüge der Menschen durch Modellbilder aus Google zu ersetzen. Die Software ermöglicht auch „3D-Modellierung“, im Wesentlichen durch Computeranimation, um ein Gesicht zu drehen oder anderweitig zu verändern, so dass es mit einem normalen Verbrecherfoto übereinstimmen kann. Das Beunruhigendste an all dem ist meiner Meinung nach, dass es fast keine Regeln für seine Verwendung gibt.
In einer bizarren Variante treiben einige Polizeibehörden sogar den Einsatz von Gesichtserkennung auf forensischen Skizzen voran:
Sie werden nach Gesichtern realer Menschen suchen, basierend auf der Darstellung eines Augenzeugenberichts durch Künstler, einem Prozess, der von der Art menschlicher Subjektivität durchdrungen ist, die die Gesichtserkennung verhindern sollte. Stellen Sie sich vor: Wenn wir herausfinden würden, dass ein Fingerabdruckanalytiker die Stelle, an der er dachte, dass die fehlenden Linien eines Fingerabdrucks sind, einzeichnet, wäre das der Grund für ein Fehlverhalten. Aber Menschen werden aufgrund ähnlicher Praktiken bei der Gesichtsfahndung verhaftet, angeklagt und verurteilt. Und da es keine Mandate darüber gibt, was den Angeklagten und ihren Anwälten über diese Durchsuchungen gesagt werden muss, darf die Polizei ungestraft handeln. Nichts davon ist zu sagen, dass die Gesichtserkennung für immer verboten sein sollte – verstehen Sie mich nicht falsch. Die Technologie kann einige legitime Anwendungen haben. Aber es stellt auch eine tiefgreifende rechtliche und ethische Herausforderung dar. Welche Art von Regeln sollten wir der Anwendung der Gesichtserkennung durch die Strafverfolgungsbehörden auferlegen?
Wie steht es mit dem Einsatz von intelligenten Kameras bei unseren Freunden und Nachbarn, in ihren Autos und Türklingeln?
Kurz gesagt, wer hat das Recht, andere zu überwachen – und unter welchen Umständen können Sie Einwände erheben?
Es wird Zeit und Mühe kosten, all diese Fragen zu beantworten und das Puzzle zusammenzustellen. Aber wir haben Zeit. Es gibt keinen Grund, ins Unbekannte zu stürzen, denn wenn wir die Technologie wie die Gesichtserkennung ohne Weisheit und Umsicht weiterentwickeln, kann sich unser Diener als unser Henker erweisen.