July 30, 2021

Kann Gesichtsanalyse-Technologie ein kindersicheres Internet schaffen? | Ausweise

SAngenommen, Sie haben heute Morgen Ihr Telefon herausgezogen, um ein Bild in Ihrem bevorzugten sozialen Netzwerk – nennen wir es Twinstabooktok – zu posten, und wurden nach einem Selfie gefragt, bevor Sie sich anmelden konnten. Das von Ihnen eingereichte Bild würde nirgendwohin gesendet, versicherte Ihnen der Dienst, sondern nutzte modernste Techniken des maschinellen Lernens, um Ihr Alter zu ermitteln. Nach dem Einreichen des Scans können Sie aller Wahrscheinlichkeit nach weiterfahren. Wenn der Service falsch geraten ist, können Sie Einspruch einlegen, obwohl das etwas länger dauern kann.

Der Vorteil von all dem? Das soziale Netzwerk könnte erkennen, dass Sie ein erwachsener Benutzer sind, und Ihnen eine Erfahrung bieten, die weitgehend frei von elterlicher Kontrolle und paternalistischer Moderation ist, während Kinder, die sich anmelden möchten, eine eingeschränkte Version derselben Erfahrung erhalten.

Je nach Position mag das wie ein längst überfälliges Korrektiv für den Wildwest-Tech-Sektor klingen oder ein hoffnungslos restriktiver Versuch, ein unmögliches Ziel zu erreichen: ein kindersicheres Internet. So oder so, es ist viel näher an der Realität, als viele denken.

In China müssen Spieler, die sich nach 22 Uhr zum Spielen von Handyspielen anmelden möchten, ihr Alter nachweisen oder werden abgewiesen, da der Staat versucht, die Spielsucht zu bekämpfen. „Wir werden ein Gesichtsscreening für Konten durchführen, die mit echten Namen registriert sind und nachts über einen bestimmten Zeitraum gespielt haben“, sagte das chinesische Spieleunternehmen Tencent am vergangenen Dienstag. “Jeder, der die Gesichtsüberprüfung ablehnt oder nicht besteht, wird wie in der Anti-Sucht-Überwachung des Spielgesundheitssystems von Tencent beschrieben als Minderjähriger behandelt und offline geworfen.” Jetzt könnte der gleiche Ansatz auch in Großbritannien Einzug halten, wo eine Reihe von Regierungsmaßnahmen in rascher Folge in Kraft treten und das Internet möglicherweise für immer verändern werden.


Tas grundsätzliche Problem, das Alter eines Internetnutzers zu überprüfen, liegt auf der Hand: Wenn im Internet niemand weiß, dass du ein Hund bist, dann weiß er schon gar nicht, dass du 17 Jahre alt bist. In der Offline-Welt haben wir zwei Hauptansätze zur Altersüberprüfung. Die erste ist eine Form eines amtlichen Ausweises. In Großbritannien ist das oft ein Führerschein, während es für Kinder einer von wenigen privaten Personalausweisen wie CitizenCard oder MyID Card sein kann. Diese wiederum werden durch eine strenge Kette von Identitätsnachweisen unterstützt, die in der Regel zu einer Geburtsurkunde führen – dem endgültigen Altersnachweis. Aber ebenso wichtig für das alltägliche Funktionieren der Gesellschaft ist der andere Ansatz: der Blick auf den Menschen. Es braucht kein Ausweissystem, um Siebenjährige davon abzuhalten, sich in einen Film mit 18 Bewertungen einzuschleichen – es ist so offensichtlich, dass es sich nicht einmal wie eine Altersüberprüfung anfühlt.

CitizenCard: Der staatlich unterstützte Altersnachweis für Kinder ab 12 Jahren hat sich im Internet als schwer zu replizieren erwiesen. Foto: PA

Aber wie sich herausstellt, ist der Altersnachweis online eine ganz andere Sache als offline, sagt Alec Muffett, unabhängiger Sicherheitsforscher und ehemaliger Direktor der Open Rights Group: „Identität ist ein Konzept, das vor allem online weitgehend missverstanden wird. Denn „Identität“ bedeutet eigentlich „Beziehung“. Wir denken gerne in Begriffen von Identität, die „Berechtigungsnachweis“ bedeutet, wie „Reisepass“ oder „Führerschein“, aber selbst unter diesen Umständen sprechen wir tatsächlich von „Inhaber des Reisepasses“ und „British Pass“ – beides Beziehungen – mit dem dazugehörige Broschüre, die als schwer zu fälschender ‘Drehpunkt’ zwischen den beiden Beziehungen fungiert.“ Mit anderen Worten: Auch in der Offline-Welt ist ein Altersnachweis nicht nur ein Zettel mit der Aufschrift „Ich bin über 18“; es ist eher ein Eintrag in einem komplexen Zusammenhang, der besagt: „Der Aussteller dieser Karte hat bei einer zuständigen Behörde verifiziert, dass die auf der Karte abgebildete Person über 18 Jahre alt ist.“

Online, wenn Sie einfach die oberflächliche Ebene von Offline-Identitätsprüfungen replizieren – indem Sie jemandem eine Karte zeigen, die das Datum darauf überprüft –, brechen Sie diese Verbindung zwischen den Beziehungen. Der Nachweis eines gültigen Führerscheins nützt beispielsweise nichts, wenn Sie nicht auch nachweisen können, dass Sie der Name auf dem Führerschein sind. Aber wenn Sie damit einverstanden sind, wird die von Ihnen besuchte Site eine gusseiserne Aufzeichnung darüber haben, wer Sie sind, wann Sie sie besucht haben und was Sie dort gemacht haben.

In der Praxis kann die Altersüberprüfung also zu einer Identitätsüberprüfung werden, die wiederum, warnt Muffett, „der Gegenprüfung und dem Widerruf durch ein Kartell Dritter unterworfen werden kann … alle reiben sich vergnügt die Hände über die Monetarisierungsmöglichkeiten“.


TSchlauchängste haben mehr zunichte gemacht als nur Versuche, Online-Proof-of-Age-Systeme zu erstellen. Seit der Niederlage der nationalen Personalausweise in der Blair-Ära war das britische Volk vorsichtig bei allem, was wie eine nationale Datenbank aussieht. Fangen Sie an, Menschen in einem zentralisierten System zu verfolgen, befürchten sie, und dies ist der erste Schritt zu einem unaufhaltsamen Rückgang in Richtung eines Überwachungsstaats. Aber da sich das Gewicht der Gesetzgebung häuft, scheint es unvermeidlich, dass sich bald etwas ändern wird.

Der Digital Economy Act (2017) war hauptsächlich ein aufgeräumter Gesetzestext, der eine Reihe von Problemen verbessert hat, die seit der Verabschiedung des viel umfassenderen gleichnamigen Gesetzes von 2010 aufgeworfen wurden. Aber eine Bestimmung, Teil drei des Gesetzes, war ein Versuch, etwas zu tun, was noch nie zuvor getan wurde, und eine Anforderung für die Online-Altersüberprüfung einzuführen.

Das Gesetz hatte einen vergleichsweise engen Anwendungsbereich und galt nur für kommerzielle pornografische Websites, erforderte jedoch, dass ihre Benutzer über 18 Jahre alt waren. Das Gesetz legte nicht fest, wie dies zu tun war, sondern zogen es vor, die Suche nach einem akzeptable Lösung für den privaten Sektor. Es wurden pflichtbewusst Vorschläge gemacht, ausgehend von einem „Porno-Pass“, den Benutzer persönlich in einem Zeitungsladen kaufen und zu einem späteren Zeitpunkt auf der Website eingeben konnten, durch algorithmische Versuche, Kreditkartendaten und vorhandene Kreditprüfungsdienste automatisch zu nutzen (mit eine weniger als atemberaubende Erfolgsquote). Websites, die kommerzielle Pornografie für unter 18-Jährige anbieten, werden mit einer Geldstrafe von bis zu 5% ihres Umsatzes belegt, und die BBFC wurde als erwartete Regulierungsbehörde benannt, die die detaillierten Vorschriften erstellt.

Und dann… passierte nichts. Das Programm sollte 2018 beginnen, tat es aber nicht. Im Jahr 2019 wurde ein gemunkelter Frühlingsbeginn verpasst, aber die Regierung legte zwei Jahre nach der Verabschiedung des Gesetzentwurfs ein Datum fest: Juli dieses Jahres. Aber nur wenige Tage vor dem Inkrafttreten der Verordnung sagte die Regierung, sie habe es versäumt, die Europäische Kommission zu informieren, und verzögerte das Programm weiter „um etwa sechs Monate“. Dann plötzlich, im Oktober 2019, als diese Frist wieder näher rückte, wurde der Plan endgültig eingestellt.

Die Nachricht machte Aktivisten wie Vanessa Morse, Geschäftsführerin von Cease, dem Zentrum zur Beendigung aller sexuellen Ausbeutung, traurig. „Es ist erschreckend, dass Pornografieseiten noch keine Altersüberprüfung haben“, sagt sie. „Großbritannien hat die Möglichkeit, hier eine Vorreiterrolle einzunehmen. Aber weil es ausgeflippt und ins hohe Gras getreten ist, haben es viele andere Länder bereits übernommen.“

Morse argumentiert, dass das Fehlen von Age-Gating im Internet ernsthaften Schaden anrichtet. „Die kommerzielle Online-Pornografie-Branche ist beklagenswert unreguliert. Es hatte mehrere Jahrzehnte Zeit, um in Bezug auf das Wachstum zu explodieren, und es wurde kaum reguliert. Aus diesem Grund unterscheiden Pornografieseiten nicht zwischen Kindern und erwachsenen Nutzern. Sie sind nicht neutral und nicht naiv: Sie wissen, dass in Großbritannien jeden Monat 1,4 Millionen Kinder Pornoseiten besuchen.

„Und 44 % der Jungen im Alter zwischen 11 und 16 Jahren, die regelmäßig Pornos sehen, gaben an, dass sie sich dabei Gedanken über die Art von Sex gemacht haben, die sie ausprobieren wollten. Wir wissen, dass der Konsum von Online-Pornos durch Kinder in den letzten Jahren mit einem dramatischen Anstieg des sexuellen Missbrauchs von Kindern an Kindern in Verbindung gebracht wurde. Sexueller Missbrauch von Kindern an Kindern macht heute etwa ein Drittel des sexuellen Missbrauchs von Kindern aus. Es ist riesig.”

Die Yoti-App
Gesichtsanalyse: Die Yoti-App verwendet Gesichtsanalyse anstelle von Gesichtserkennung, um das Alter ihrer Benutzer zu überprüfen, und umgeht so Bedenken, dass Unternehmen Daten verwenden, um eine ID-Datenbank zu erstellen. Foto: yoti.com

Trotz Protesten von Cease und anderen zeigt die Regierung keine Anzeichen für eine Wiederbelebung des Pornoblocks. Stattdessen haben sich die Bemühungen um den Kinderschutz auf eine Reihe verschiedener Initiativen aufgeteilt. Das Gesetz über Online-Schäden, ein Gesetz aus der Ära Theresa May, wurde von der Johnson-Regierung wiederbelebt und im Mai schließlich als Entwurf vorgelegt: Es fordert, dass Social-Media-Plattformen gegen „legale, aber schädliche“ Inhalte vorgehen, wie z fördert Selbstverletzung oder Selbstmord und stellt Anforderungen an sie, um Kinder vor unangemessenen Inhalten zu schützen.

An anderer Stelle hat die Regierung den Kommunikationsdiensten unverbindliche „Ratschläge“ gegeben, wie sie „die Sicherheit Ihrer Online-Plattform verbessern“ können: „Sie können auch die Ende-zu-Ende-Verschlüsselung für Kinderkonten verhindern“, heißt es in dem Rat teilweise. weil es „es für Sie schwieriger macht, illegale und schädliche Inhalte auf privaten Kanälen zu erkennen“. Weithin als Teil eines größeren Regierungsvorstoßes interpretiert, WhatsApp dazu zu bringen, die Ende-zu-Ende-Verschlüsselung zu deaktivieren – lange Zeit ein Fluch der Strafverfolgung, die sich über die Unfähigkeit ärgert, Kommunikationen einfach abzufangen – der Rat drängt Unternehmen, ihre minderjährigen Benutzer zu erkennen und behandeln sie anders.

Am unmittelbarsten ist jedoch der Code für das altersgerechte Design. Eingeführt im Data Protection Act 2018, der die DSGVO in Großbritannien umsetzte, sieht der Kodex vor, dass das Büro des Informationskommissars einen neuen Standard für Internetunternehmen festlegt, auf die “wahrscheinlich von Kindern zugegriffen wird”. Wenn er im September dieses Jahres in Kraft tritt, wird der Kodex umfassend sein und alles abdecken, von Anforderungen an die elterliche Kontrolle über Einschränkungen bei der Datenerfassung bis hin zu Verboten, Kinder „anzustoßen“, um den Datenschutz zu deaktivieren, aber das Schlüsselwort ist „wahrscheinlich“: in der Praxis, befürchten manche, spannt es das Netz weit genug, dass das gesamte Internet verpflichtet sein wird, sich als „kinderfreundlich“ zu erklären – oder zu beweisen, dass es Kinder blockiert hat.

Die NSPCC unterstützt den Code nachdrücklich. „Soziale Netzwerke sollten Alterssicherungstechnologien verwenden, um minderjährige Benutzer zu erkennen und im Gegenzug sicherzustellen, dass ihnen keine unangemessenen Inhalte durch Algorithmen bereitgestellt werden und sie mehr Schutz erhalten, wie z. B. die strengsten Datenschutzeinstellungen“, sagt Alison Trew, Senior Child Safety Online Policy Beamter beim NSPCC. „Diese Technologie muss flexibel sein und sich an die verschiedenen Plattformen anpassen, die von jungen Menschen genutzt werden – jetzt und in Zukunft an neue Websites –, damit neben dem Datenschutz für alle Benutzer auch bessere Schutzmaßnahmen für die Rechte von Kindern auf Privatsphäre und Sicherheit eingebaut werden können.“


WDas bringt uns zurück zum Anfang, und der Social-Media-Dienst bittet um ein Selfie bei der Kontoerstellung. Da die Anforderungen des Codes weniger streng sind als die des Pornoblocks, steht es den Anbietern frei, etwas mehr zu innovieren. Beispiel Yoti: Das Unternehmen bietet eine Reihe von Altersverifizierungsdiensten an, arbeitet mit CitizenCard zusammen, um eine digitale Version seines Ausweises anzubieten, und arbeitet mit SB-Supermärkten zusammen, um mit der automatischen Alterserkennung von Personen zu experimentieren. John Abbott, Chief Business Officer von Yoti, sagt, dass das System bereits so gut wie eine Person darin ist, das Alter einer Person aus einem Video von ihnen zu erkennen, und es wurde anhand einer Vielzahl von demografischen Merkmalen – einschließlich Alter, Rasse und Geschlecht – getestet, um sicherzustellen, dass es richtig ist keine bestimmte Gruppe wild falsch kategorisieren. Der jüngste Bericht des Unternehmens behauptet, dass eine „Challenge 21“-Politik (Blockierung von unter 18-Jährigen durch die Forderung nach einem starken Altersnachweis von Personen, die unter 21 aussehen) 98 % der 17-Jährigen und 99,15 % der 16-Jährigen erwischen würde , beispielsweise.

„Es geht um Gesichtsanalyse, nicht um Gesichtserkennung“, fügt Abbotts Kollegin Julie Dawson, Direktorin für Regulierung und Politik, hinzu. “Es erkennt mein Gesicht nicht eins zu eins, es versucht nur, mein Alter herauszufinden.” Dieses System, so denkt das Unternehmen, könnte fast über Nacht in großem Maßstab eingesetzt werden, und für Unternehmen, die nur beweisen müssen, dass sie von Kindern „wahrscheinlich“ nicht genutzt werden, könnte es ein überzeugendes Angebot sein.

Es ist natürlich nichts, was einen schlauen 14-Jährigen stören würde – oder auch nur einen normalen 14-Jährigen mit einem Telefon und einem älteren Geschwister, der bereit ist, für das Selfie einzuspringen – aber vielleicht ist es ein bisschen Reibung besser als keiner.