August 2, 2021

Klage gegen Snap über Selbstmord kann den Plattformschutz testen

Eines der letzten Dinge, die Carson Bride tat, bevor er sich das Leben nahm, war, auf sein Handy zu schauen.

Der 16-Jährige hatte laut einer am Montag in Kalifornien eingereichten Bundesklage über eine beliebte Snapchat-App namens Yolo monatelang anonyme Nachrichten erhalten. Die Nachrichten enthielten sexuelle Kommentare und Spott über bestimmte Vorfälle, wie zum Beispiel die Zeit, als er im Biologieunterricht an seiner Schule in Portland, Oregon, ohnmächtig wurde.

Die Nachrichten mussten von Leuten kommen, die er kannte, aber das Design der App machte es ihm unmöglich zu wissen, wer dahinter steckte. Wenn er auf die Sticheleien antwortete, würde Yolo automatisch die ursprüngliche Nachricht veröffentlichen und der Welt seine Demütigung enthüllen.

Seine Familie fand ihn am 23. Juni 2020 tot auf. Die Historie auf seinem Telefon zeigte, dass er am Morgen nach „Yolo Benutzername online enthüllen“ gesucht hatte.

Jetzt führt Kristin Bride, Carsons Mutter, eine Klage gegen Snap, Yolo und LMK, eine weitere anonyme Messaging-App, die für Snapchat entwickelt wurde und die der Teenager vor seinem Tod benutzte. Ihre Beschwerde behauptet, dass die Unternehmen gegen Verbraucherschutzgesetze verstoßen haben, indem sie ihre eigenen Nutzungsbedingungen und Richtlinien nicht einhalten, und dass anonyme Messaging-Apps Mobbing in einem solchen Maße erleichtern, dass sie als gefährliche Produkte angesehen werden sollten.

Die Klage, die am Montag beim Bundesgericht im Northern District of California eingereicht wurde, zielt darauf ab, eine Klasse im Namen der etwa 93 Millionen US-Nutzer von Snapchat zu bilden – eine Zahl, von der das Unternehmen sagt, dass sie 90% aller Amerikaner im Alter von 13 bis 24 Jahren umfasst – zusammen mit den 10 Millionen Nutzern von Yolo und 1 Million Nutzern von LMK. Brides Nebenklägerin in diesem Fall ist die Tyler Clementi Foundation, eine gemeinnützige Organisation, die gegründet wurde, um Mobbing durch die Familie von Tyler Clementi zu verhindern, der sich 2010 im Alter von 18 Jahren das Leben nahm, nachdem er von einem Wohnheimkameraden an der Rutgers University Cyber-Belästigung erfahren hatte.

Snap lehnte es ab, sich zu aktiven Rechtsstreitigkeiten zu äußern. Yolo und LMK reagierten nicht auf Anfragen nach Kommentaren.

Suizidprävention und Krisenberatung

Wenn Sie oder jemand, den Sie kennen, mit Selbstmordgedanken zu kämpfen hat, suchen Sie Hilfe von einem Fachmann und rufen Sie die National Suicide Prevention Lifeline unter 1-800-273-TALK (8255) an. Schreiben Sie “HOME” an 741741 in den USA und Kanada, um die Krisentextzeile zu erreichen.

Die Klage zielt darauf ab, Yolo und LMK zusammen mit allen anderen Apps, die keine Schutzmaßnahmen gegen Cybermobbing eingerichtet haben, sofort von der Snap-Plattform zu sperren, und fordert Schadensersatz für die angeblichen Schäden und Falschdarstellungen.

„Die High-School-Schüler, die Carson anonym Cybermobbing ausgesetzt haben, werden für den Rest ihres Lebens mit dieser Tragödie leben“, sagte Kristin Bride in einer Erklärung von Eisenberg & Baum, der Anwaltskanzlei, die die Kläger vertritt. “Es sind jedoch die Führungskräfte von Snapchat, Yolo und LMK, die Gewinne unverantwortlich über die psychische Gesundheit junger Menschen stellen, die letztendlich zur Verantwortung gezogen werden müssen.”

Bisher waren diejenigen, die versuchten, Social-Media-Unternehmen wegen der Worte und Handlungen ihrer Nutzer zu verklagen, nur wenig erfolgreich. Die meisten Verfahren gegen Technologieunternehmen wegen von ihren Nutzern veröffentlichten Inhalten werden gemäß Abschnitt 230 des Communications Decency Act von 1996, der besagt, dass kein “interaktiver Computerdienst” für Informationen haftbar gemacht werden kann, die von einem Benutzer auf diesem Dienst veröffentlicht werden, sofort abgewiesen.

Aber Veränderungen in der Rechtslandschaft und ein neues juristisches Argument können diesen Fall von anderen abheben.

In einem Urteil von letzter Woche haben die USA Das Berufungsgericht des 9. Bezirks hat der Idee Tür und Tor geöffnet, dass Social-Media-Unternehmen – und insbesondere Snap – dafür verantwortlich gemacht werden können, Funktionen zu erstellen oder zu aktivieren, die für ihre Benutzer so eindeutig gefährlich sind, dass das Produkt im Wesentlichen fehlerhaft ist.

Dieser Fall drehte sich um einen Snapchat-Filter, der automatisch erkannte, wie schnell sich der Benutzer bewegte, und ihn diese Nummer zu einem Beitrag auf der Plattform hinzufügen ließ. Die Kläger in der Klage argumentierten, dass die Funktion einen Anreiz zum Fahren mit hohen Geschwindigkeiten bot, was 2017 zu einem tödlichen Autounfall in Wisconsin führte, bei dem ein 17-jähriger Beifahrer kurz vor dem Erreichen einer Geschwindigkeit von 123 Meilen pro Stunde Snap anzog und dann davonlief die Straße und krachte gegen einen Baum.

Das 9th Circuit hob die Entscheidung eines untergeordneten Gerichts auf, den Fall wegen des Schutzes von Abschnitt 230 abzuweisen, wobei Richterin Kim McLane Wardlaw schrieb, dass „diese Art von Anspruch auf der Prämisse beruht, dass Hersteller die „Pflicht haben, bei der Lieferung von Produkten, die nicht unangemessen sind, die gebührende Sorgfalt walten zu lassen“. Verletzungs- oder Schädigungsrisiko für die Öffentlichkeit.’“

In dem am Montag eingereichten Fall argumentieren Bride und die Tyler Clementi Foundation, dass anonyme Messaging-Funktionen wie Yolo und LMK ebenfalls ein unangemessenes Schadensrisiko darstellen. Um dieses Argument zu untermauern, weist die Klage auf mehrere Generationen anonymer Messaging-Apps hin, die sich an jugendliche Benutzer richten, die in den letzten Jahren auf- und abgebaut wurden und jede unter dem Gewicht von Missbrauch und Belästigung, das sie ermöglicht haben, wie Yik Yak, Secret und Sarahah .

Die Klage zitiert Forschungsergebnisse, die anonyme Belästigung und Selbstmord von Teenagern in Verbindung bringen, um dieses Argument zu untermauern, einschließlich einer Studie aus dem Jahr 2007, die ergab, dass Schüler, die online oder im wirklichen Leben Mobbing erleben, fast doppelt so häufig Selbstmordversuche unternehmen. Eine nachfolgende Studie aus dem Jahr 2014 ergab, dass Cybermobbing noch gefährlicher sein kann, da Online-Mobbing das Risiko für Suizidgedanken verdreifacht.

Die Klage verfolgt jedoch auch eine Argumentation, die sich aus dem Verbraucherschutzrecht ergibt und argumentiert, dass Snap, Yolo und LMK ihren Nutzungsbedingungen und anderen Verpflichtungen gegenüber den Nutzern nicht nachgekommen sind.

Eine kürzliche Entscheidung des zweiten Berufungsgerichts in New York City hat gezeigt, dass dieses Verbraucherschutzargument durchaus tragfähig sein könnte. In diesem Fall argumentierte der Kläger, dass die Schwulen-Dating-App Grindr für Belästigungen verantwortlich gemacht werden sollte, die er in der App von einem ehemaligen Freund erhalten hatte, der ein gefälschtes Konto für den Kläger eingerichtet und einen Strom von 1.400 fremden Männern zu seinem Haus geschickt hatte, die auf der Suche waren für Sex über 10 Monate.

Das Gericht wies den Fall unter Berufung auf den Schutz von Abschnitt 230 ab und schrieb, es sei unklar, dass Grindr aus einer Reihe von Gründen gegen seine Nutzungsbedingungen verstoße. Das Urteil des Richters wies jedoch darauf hin, dass ein Fall, der eine deutlichere Verletzung dieser Bedingungen und Vereinbarungen zeigt, aus Gründen des Verbraucherschutzes gerechtfertigt sein könnte.

Eine Anfang April gegen Facebook eingereichte Klage beruht auf einer ähnlichen Strategie. Die Bürgerrechtsgruppe Muslim Advocates verklagte den Social-Media-Riesen mit dem Vorwurf, er habe seine Versprechen gegenüber den Nutzern nicht eingehalten, indem er zuließ, dass sich Hassreden gegen Muslime auf der Plattform ungehindert verbreiten.

Ein auf Verbraucherschutzgesetzen basierender Ansatz könnte vor Gericht Anklang finden, sagte Jeff Kosseff, Juraprofessor an der US Naval Academy und Autor eines Buches über Section 230, „The Twenty-Six Words That Created the Internet“.

„Vor fünf Jahren hätte ich vorhergesagt, dass dieser Fall aufgrund des Internet-Shield-Gesetzes fast definitiv eingestellt wird“, sagte Kosseff, „aber jetzt denke ich, dass es wirklich in beide Richtungen gehen könnte.

„Dies ist ein wirklich schrecklicher, tragischer Fall, und Richter, die diese Fälle lesen, sind dafür nicht völlig blind. Egal wie viel Rechtsprechung es gibt, sie werden eindeutig von der Tatsache beeinflusst, dass dies einige wirklich schreckliche Anschuldigungen in dieser Klage sind.“

Eine Aufforderung, die erstmaligen Yolo-Benutzern angezeigt wird, warnt davor, dass die App “keine Toleranz für anstößige Inhalte oder missbräuchliche Benutzer” hat und dass Benutzer wegen unangemessenen Verhaltens gesperrt werden. Die Datenschutzrichtlinie warnt Benutzer, dass das Unternehmen Benutzerinformationen sammelt, um diese Null-Toleranz-Richtlinie durchzusetzen.

Aber nachdem Bride die Mobbing-Nachrichten von Yolo und den Suchverlauf auf dem Telefon ihres Sohnes entdeckt hatte, kontaktierte sie das Unternehmen über die Website und schickte eine Nachricht über das Cybermobbing ihres Sohnes und den daraus resultierenden Tod. Yolo hat laut Klage nie geantwortet.

Monate später versuchten Bride und ihr Ehemann Tom erneut, Yolo über ihre Website und eine E-Mail-Adresse zu kontaktieren, die für die Meldung von Notfällen bereitgestellt wurde, und forderten das Unternehmen auf, die Mobbing-Benutzer von seiner Plattform zu entfernen. Die E-Mail trug den Betreff „Der Selbstmord unseres Sohnes – Bitte um Hilfe“. Das Notfallmeldekonto antwortete nur mit einer Bounce-Back-Nachricht, die besagte, dass der Empfänger aufgrund einer ungültigen Adresse nicht erreichbar sei. Auch zwei weitere Kontaktversuche mit dem Unternehmen blieben laut Klage unbeantwortet.

LMK, die andere Drittanbieter-App in der Klage, machte noch stärkere Behauptungen zur Benutzersicherheit und schrieb in ihren Nutzungsbedingungen, dass sie „große Anstrengungen unternehmen würde, um unsere Community vor unangemessener Nutzung zu schützen“, einschließlich der Verwendung von „künstlicher Intelligenz“. und menschliche Moderation, um seinen Inhalt zu überwachen.

Und Snap, so behauptet die Klage, habe seine eigenen Versprechen gegenüber den Benutzern nicht eingehalten, indem es diese Apps auf seinem Dienst ausgeführt habe.

Snap ermöglicht es anderen Unternehmen, Apps für seine Plattform mit einer Reihe von Tools namens Snap Kit zu erstellen, und stellt in seinen Richtlinien klar, dass es alle Apps von Drittanbietern aktiv überprüft und feststellt, dass „Gewalt, Belästigung, Mobbing, Hassreden, Drohungen ermutigt oder gefördert werden“. und/oder Selbstverletzung“ ist inakzeptabel, ebenso wie „unzureichende Sicherheitsvorkehrungen, um diese Art von Verhalten zu verhindern“.

Diese Richtlinien besagen auch, dass jede App mit anonymen benutzergenerierten Inhalten einem längeren Überprüfungsprozess unterliegt, und wenn eine Drittanbieter-App nicht konform ist oder gegen die Richtlinien verstößt, behält sich Snap das Recht vor, die App von seiner Plattform zu entfernen.

Snap hat Yolo oder LMK nicht von seiner Plattform entfernt, „obwohl es aufgrund zahlreicher Berichte weiß oder Grund zu der Annahme hat, dass YOLO und LMK keine angemessenen Sicherheitsvorkehrungen treffen, um zu verhindern, dass jugendliche Benutzer Opfer von Belästigung, sexuell eindeutigem Material und anderen Schäden werden“. nach Anzug.