July 29, 2021

Die Verwendung der Gesichtserkennung bei Randalierern des Kapitols könnte anderen schaden

In den Tagen nach dem Aufstand am 6. Januar im Kapitol der Nation gab es eine Eile, um diejenigen zu identifizieren, die die heiligen Hallen des Gebäudes gestürmt hatten.

Instagram-Konten mit Namen wie Homegrown Terrorists tauchten auf und behaupteten, Software für künstliche Intelligenz und neuronale Netze zu verwenden, um öffentlich verfügbare Bilder zu durchsuchen, um Randalierer zu identifizieren. Der Cybersicherheitsexperte John Scott-Railton und andere Forscher sagten, sie hätten Gesichtserkennungssoftware eingesetzt, um Eindringlinge zu erkennen, darunter ein pensionierter Leutnant der Air Force, der während des Aufstands angeblich im Senat gesichtet wurde. Clearview AI, ein führendes Gesichtserkennungsunternehmen, gab am 7. Januar einen Anstieg der Nutzung durch Strafverfolgungsbehörden um 26 % an.

Ein Tiefpunkt der amerikanischen Demokratie war zu einem Höhepunkt der Gesichtserkennungstechnologie geworden.

Das Versprechen der Gesichtserkennung, dass sie den Strafverfolgungsbehörden helfen wird, mehr Fälle zu lösen und sie schnell zu lösen, hat zu ihrer zunehmenden Verwendung im ganzen Land geführt. Bedenken hinsichtlich des Datenschutzes haben die Verbreitung der Technologie nicht gestoppt – Strafverfolgungsbehörden führten zwischen 2011 und 2019 390.186 Datenbankabfragen durch, um Gesichtsübereinstimmungen für Bilder oder Videos von mehr als 150.000 Personen zu finden, so ein Bericht des US Government Accountability Office. Seine Verwendung wurde auch nicht durch die wachsende Zahl von Beweisen verlangsamt, die zeigen, dass Gesichtserkennung und andere Überwachungstechnologien Farbgemeinschaften unverhältnismäßig schaden.

Doch nach einem Aufstand, bei dem weiße Rassistenfraktionen versuchten, die Ergebnisse der Präsidentschaftswahlen zu stürzen, warnen farbige Communities vor der potenziellen Gefahr dieser Software.

“Es ist sehr knifflig”, sagte Chris Gilliard, Professor am Macomb Community College und Gastwissenschaftler am Shorenstein Center der Harvard Kennedy School. „Ich möchte nicht, dass es so klingt, als ob ich nicht möchte, dass weiße Rassisten oder Aufständische zur Rechenschaft gezogen werden. Aber ich denke, weil die meisten dieser Kräfte systematisch gegen Schwarze und Braune und Einwanderer aufgestellt werden, ist das ein sehr enges Seil. Wir müssen vorsichtig sein.”

Schwarze, braune, arme, Trans- und Einwanderergemeinschaften werden „routinemäßig überkontrolliert“, sagte Steve Renderos, Geschäftsführer von MediaJustice, und das ist bei der Überwachung nicht anders.

„Dies ist immer die Reaktion auf Krisenmomente: Lasst uns unsere Polizeiarbeit erweitern, lasst uns die Reichweite der Überwachung erweitern“, sagte Renderos. “Aber es hat nicht viel dazu beigetragen, unsere Gemeinden tatsächlich vor Gewalt zu schützen.”

Verzerrungen und Gesichtserkennung

Am 9. Januar 2020, fast ein Jahr vor den Kapitol-Unruhen, verhaftete die Polizei von Detroit einen Schwarzen namens Robert Williams wegen des Verdachts des Diebstahls. Im Verlauf seiner Vernehmung wurden zwei Punkte klargestellt: Die Polizei hatte ihn aufgrund eines Gesichtserkennungsscans von Überwachungsaufnahmen festgenommen, und der “Computer muss es falsch gemacht haben”, wie der Vernehmungsbeamte in einer Anzeige von zitiert wurde die ACLU.

Die Anklage gegen Williams wurde schließlich fallen gelassen. Es war einer von zwei bekannten Fällen einer unrechtmäßigen Festnahme aufgrund von Gesichtserkennung.

Es ist schwer zu sagen, wie oft die Gesichtserkennung dazu geführt hat, dass die falsche Person festgenommen oder angeklagt wurde, da nicht immer klar ist, wann das Tool verwendet wurde. In Williams’ Fall war das Werbegeschenk das Eingeständnis des verhörenden Beamten.

Gilliard argumentiert, dass solche Fälle häufiger vorkommen, als die Öffentlichkeit weiß. „Ich würde nicht glauben, dass dies das erste Mal war. Es ist nur das erste Mal, dass die Strafverfolgungsbehörden ausrutschen“, sagte er.

Die Gesichtserkennungstechnologie erfasst, indiziert und scannt Datenbanken mit Millionen von Bildern von Gesichtern – 641 Millionen im Fall der Gesichtserkennungseinheit des FBI im Jahr 2019 –, um Ähnlichkeiten zu identifizieren. Diese Bilder können aus staatlichen Datenbanken wie Führerscheinen oder im Fall von Clearview AI aus Dateien stammen, die aus sozialen Medien oder anderen Websites stammen.

Untersuchungen zeigen, dass die Technologie bei der korrekten Identifizierung von farbigen Personen nicht ausreichend ist. Eine 2019 veröffentlichte Bundesstudie ergab, dass schwarze und asiatische Menschen etwa 100-mal häufiger durch Gesichtserkennung falsch identifiziert werden als weiße Menschen.

Das Problem kann darin liegen, wie die Software trainiert wird und wer sie trainiert. Eine vom AI Now Institute der New York University veröffentlichte Studie kam zu dem Schluss, dass künstliche Intelligenz durch die Umgebung, in der sie gebaut wird, geformt werden kann. Dazu gehört auch die Technologiebranche, die für ihren Mangel an Geschlechter- und Rassenvielfalt bekannt ist. Solche Systeme werden fast ausschließlich in Räumen entwickelt, die „eigentlich extrem weiß, wohlhabend, technisch orientiert und männlich sind“, heißt es in der Studie. Der Mangel an Vielfalt kann sich auch auf die Datensätze erstrecken, die Gesichtserkennungssoftware zugrunde liegen, da Studien gezeigt haben, dass einige größtenteils mithilfe von Datenbanken trainiert wurden, die aus Bildern hellhäutiger Männer bestehen.

Befürworter der Gesichtserkennung argumentieren jedoch, dass, wenn die Technologie richtig entwickelt wird – ohne rassistische Vorurteile – und ausgefeilter wird, sie tatsächlich dazu beitragen kann, Fälle von Fehlidentifizierung zu vermeiden.

Hoan Ton-That, Chief Executive von Clearview AI, sagte, eine unabhängige Studie habe gezeigt, dass die Software seines Unternehmens keine rassistischen Vorurteile aufwies.

„Als Mensch gemischter Abstammung ist es mir wichtig, unvoreingenommene Technologie zu haben“, sagte Ton-That. „Der verantwortungsvolle Einsatz präziser, unvoreingenommener Gesichtserkennungstechnologie trägt dazu bei, die Wahrscheinlichkeit zu verringern, dass die falsche Person festgenommen wird. Bis heute ist uns kein Fall bekannt, in dem Clearview AI zu einer unrechtmäßigen Verhaftung geführt hat.“

Jacob Snow, ein Anwalt der ACLU, der Anfang 2020 eine Kopie der Clearview-KI-Studie in einer öffentlichen Anfrage erhalten hatte, sagte gegenüber BuzzFeed News, es sei „in vielerlei Hinsicht absurd“.

Laut der New York Times verwenden mehr als 600 Strafverfolgungsbehörden Clearview AI. Und das könnte noch zunehmen: Kurz nach dem Angriff auf das Kapitol sollen eine Polizeibehörde von Alabama und die Polizei von Miami die Software des Unternehmens genutzt haben, um Personen zu identifizieren, die an dem Aufstand beteiligt waren.

„Wir arbeiten hart daran, mit dem steigenden Interesse an Clearview AI Schritt zu halten“, sagte Ton-That.

Angesichts des Misstrauens und des mangelnden Vertrauens in die Strafverfolgung in der schwarzen Gemeinschaft ist es nicht unbedingt eine willkommene Verbesserung, die Gesichtserkennungstechnologie bei der Erkennung von farbigen Personen zu verbessern.

„Es ist kein sozialer Fortschritt, Schwarze für Software gleichermaßen sichtbar zu machen, die unweigerlich weiter gegen uns als Waffe eingesetzt wird“, schrieb die Doktorandin und Aktivistin Zoé Samudzi.

Mit Überwachung reagieren

In den Tagen nach dem Kapitol-Aufstand eroberte die Suche nach den „Bösen“ das Internet. Zu zivilen Internetdetektiven gesellten sich Akademiker, Forscher und Journalisten bei der Durchsuchung sozialer Medien, um Randalierer zu identifizieren. Einige Journalisten benutzten sogar Gesichtserkennungssoftware, um zu berichten, was im Kapitol passierte. Das FBI rief nach Tipps aus und bat insbesondere um Fotos oder Videos, die Unruhen oder Gewalt zeigen. Viele von denen, die das Internet durchsuchten oder die Gesichtserkennung nutzten, um Randalierer zu identifizieren, antworteten auf diesen Anruf.

Der Instinkt, als Reaktion auf Krisen schnell zu reagieren, ist nicht nur den Strafverfolgungsbehörden, sondern auch dem Gesetzgeber bekannt. Unmittelbar nach dem Aufstand haben die FBI-Agenten Assn. forderte den Kongress auf, häuslicher Terrorismus ein Bundesverbrechen. Präsident Biden hat um eine Einschätzung der Bedrohung durch den inländischen Terrorismus gebeten und stimmt sich mit dem Nationalen Sicherheitsrat ab, um die Bemühungen zur Bekämpfung des inländischen Extremismus zu „verstärken und zu beschleunigen“, so NBC News.

Es besteht jedoch die Sorge, dass das Gerangel zu reagieren zu überstürzten Richtlinien und einem verstärkten Einsatz von Überwachungsinstrumenten führen wird, was letztendlich schwarzen und braunen Gemeinschaften schaden könnte.

“Der Reflex besteht darin, die Bösen zu fangen”, sagte Gilliard. “Aber die Normalisierung einer ziemlich einzigartig gefährlichen Technologie verursacht viel mehr Probleme.”

Tage nach dem Aufstand half Rep. Lou Correa (D-Santa Ana) bei der Wiedereinführung des Domestic Terrorism Prevention Act und sagte, das Gesetz soll es dem Gesetzgeber erleichtern, mehr Informationen über die anhaltende Bedrohung durch den inländischen Terrorismus zu erhalten, indem drei Büros zur Überwachung eingerichtet werden three und verhindern es. Er räumte auch die potenziellen Gefahren der Gesichtserkennung ein, sagte jedoch, es gehe darum, diese mit den potenziellen Vorteilen abzuwägen.

“Gesichtserkennung ist ein scharfer, zweischneidiger Dolch”, sagte Correa. „Wenn Sie es richtig verwenden, schützt es unsere Freiheiten und schützt unsere Freiheiten. Wenn Sie es falsch handhaben, könnten unsere Privatsphäre und unsere Freiheiten, die wir zu schützen versuchen, gefährdet sein.“

Abgesehen von der Gesichtserkennung sind Aktivisten besorgt über Aufrufe an Zivilisten, soziale Medien zu scannen, um den Strafverfolgungsbehörden Tipps zu geben.

„Untrainierte Personen, die im Internet herumschnüffeln, können selbst mit den besten Absichten mehr schaden als nützen“, sagte Evan Greer, Direktor der Digital Rights and Privacy Group Fight for the Future. Greer zitierte die Reaktion auf Reddit auf den Bombenanschlag auf den Boston-Marathon, als ein Subreddit von Find Boston Bombers fälschlicherweise mehrere Personen als Verdächtige benannte.

„Man muss sich immer fragen, wie das am Ende für Sie und Ihre Community genutzt werden kann“, sagte sie.

Historisch gesehen haben Angriffe auf amerikanischem Boden Strafverfolgungs- und Überwachungspolitiken ausgelöst, die Minderheitengemeinschaften geschadet haben, legen Untersuchungen nahe. Das ist ein Grund zur Besorgnis für muslimische, arabische und schwarze Gemeinschaften nach dem Aufstand im Kapitol.

Nach der Bombardierung von Oklahoma City, bei der regierungsfeindliche Extremisten 168 Menschen töteten, erließ die Bundesregierung schnell den Antiterrorism and Effective Death Penalty Act von 1996, der, wie das Marshall-Projekt schrieb, „schwarze und braune Angeklagte sowie Einwanderer.”

Sogar Gesetze gegen Hasskriminalität haben einen unverhältnismäßigen Einfluss auf schwarze Gemeinschaften. Schwarze Menschen machten 2019 24% aller Menschen aus, denen Hassverbrechen vorgeworfen wurden, obwohl sie laut Statistiken des Justizministeriums 13% der US-Bevölkerung ausmachen.

„Immer wenn Gesetze erlassen wurden, die sich mit weißer Gewalt befassen, ist der Rückschlag für Schwarze weitaus größer“, sagte Margari Hill, Geschäftsführerin der Muslim Anti-Rassism Collaborative, bei einer Einweihungsrunde, die vom muslimischen politischen Aktionskomitee Emgage veranstaltet wird.

Als Reaktion auf 9/11 führten Bundes- und Kommunalverwaltungen im ganzen Land mehrere umfassende Überwachungsprogramme durch – am berüchtigtsten in New York City –, von denen die ACLU und andere Menschenrechtsgruppen seit langem argumentieren, dass sie die Privatsphäre und die Bürgerrechte von muslimischen und arabischen Amerikanern verletzen.

Viele Bürgerrechtsgruppen, die farbige Gemeinschaften vertreten, sind nicht zuversichtlich, dass die Strafverfolgungsbehörden dieselben Instrumente einsetzen, um Rechtsextremismus und in einigen Fällen die Vorherrschaft der Weißen auszurotten.

“[Law enforcement] weiß, dass die Vorherrschaft der Weißen eine echte Bedrohung ist, und die Leute, die sich zu Selbstjustiz-Gewalt erheben, sind die wahre Bedrohung“, sagte Lau Barrios, Kampagnenmanagerin der muslimischen Basisorganisation MPower Change, und bezog sich dabei auf einen Bericht des Heimatschutzministeriums die weiße Rassisten als die hartnäckigste und tödlichste Bedrohung identifizierten, der das Land im Oktober 2020 ausgesetzt war.

Stattdessen konzentrieren sie ihre Ressourcen auf Bewegungen wie Black Lives Matter, sagte sie. “Das war es, was ihnen mehr Angst einjagte als die Gewalt der weißen Vorherrschaft, obwohl sie in keiner Weise vergleichbar sind.”

Diese Gruppen sagen auch, dass alle Forderungen nach mehr Überwachung in der Realität unbegründet sind. Die Kapitol-Unruhen wurden offen geplant, in leicht zugänglichen öffentlichen Foren über das Internet, und die Kapitol-Polizei wurde vorzeitig von der NYPD und dem FBI gewarnt, argumentieren sie. Es gibt keinen Mangel an Überwachungsmechanismen, die den Strafverfolgungsbehörden bereits zur Verfügung stehen, sagen sie.

Der Überwachungsapparat in den USA ist riesig und umfasst Hunderte von gemeinsamen Terrorismus-Task Forces, Hunderte von Polizeibehörden, die mit Drohnen ausgestattet sind, und noch mehr, die sich mit Amazons Ring-Netzwerk zusammengeschlossen haben, sagte Renderos.

“Schwarz zu sein, Muslim zu sein, eine Frau zu sein, eine Einwandererin in den Vereinigten Staaten zu sein, bedeutet, überwacht zu werden”, sagte er. „Wie viel mehr Überwachung wird es brauchen, um uns in Sicherheit zu bringen? Die kurze Antwort ist, wird es nicht.“