Zauber und Magie Lernen Weiße Magie und Schwarze Magie
Eine neue Studie hat herausgefunden, dass Reddit-Benutzer mit toxischen Benutzernamen (z IluvHitler) zeigen eher toxisches Online-Verhalten wie persönliche Angriffe und sexuelle Belästigung.
Die Studie ergab auch, dass Benutzer mit toxischen Benutzernamen mit etwa 2,2-mal höherer Wahrscheinlichkeit von Moderatoren gesperrt werden.
Die Studie, die von Forschern von Universitäten in Polen und Japan durchgeführt wurde, wurde am 1. Juli 2022 in der Zeitschrift veröffentlicht Computer im menschlichen Verhalten.
Was steckt in einem toxischen Benutzernamen?
Um die Toxizität von Benutzernamen zu bestimmen, stützten sich die Forscher auf ein System, das von einer Firma namens Samurai Labs entwickelt wurde.
Das System unterteilt „Benutzernamen-Toxizität“ in Kategorien wie beleidigend (einschließlich rassistischer, homophober oder gewalttätiger Sprache), profan (einschließlich typischer Schimpfwörter), sexuell und unangemessen (einschließlich Drogen oder menschlicher Physiologie, aber ohne explizit vulgär). Sprache).
Es erkennt auch gängige Tricks, die verwendet werden, um potenziell anstößige Benutzernamen zu verbergen, wie z. B. das Rückwärtsbuchstabieren des Namens, das Vertauschen von Buchstaben, Leetspeak und absichtliche Rechtschreibfehler.
Messung der Toxizität auf Reddit: die Datensätze
Die Forscher verwendeten zwei Datensätze. Die erste bestand aus 122.000 Reddit-Benutzern mit toxischen Benutzernamen (wie durch das oben beschriebene Samuarai-System bestimmt) und 122.000 zufälligen Reddit-Benutzern mit neutralen Benutzernamen. Diese 244.000 Benutzer waren zwischen dem 12. Februar und dem 22. Februar 2020 auf Reddit aktiv.
Ebenso bestand der zweite Datensatz aus 207.000 Reddit-Benutzern mit toxischen Namen und 207.000 mit nicht toxischen Namen, die irgendwann zwischen dem 20. Juni und dem 9. Juli 2020 aktiv waren.
Die Forscher verwendeten auch eine ähnliche Methode, um die Kommentare dieser Benutzer als toxisch oder nicht toxisch zu klassifizieren, wobei toxische Kategorien persönliche Angriffe, sexuelle Belästigung, Obszönitäten usw. umfassen.
Um die Korrelation zwischen toxischen Benutzernamen und Kontosperrungen zu bestimmen, wählten sie zufällig 50.000 Benutzer mit toxischen Benutzernamen und 50.000 Benutzer mit nicht toxischen Benutzernamen aus jedem Datensatz aus.
Gesamtbefund
Die Analyse der Forscher legt nahe, dass insgesamt „Benutzer mit toxischen Benutzernamen mehr toxische Inhalte produzieren und im Gegenzug eher von den Moderatoren gesperrt werden“.
Von einem „mäßig aktiven Benutzer mit einem toxischen Benutzernamen wird erwartet, dass er in einem Jahr 38 % mehr toxische Kommentare produziert“ als ein Gegenstück mit neutralem Namen.
Darüber hinaus fanden sie heraus, dass etwa 2,7 % der Benutzer toxische Benutzernamen haben.
Benutzer mit sexueller oder profaner Sprache in ihren Benutzernamen generierten im Durchschnitt etwa 50 % mehr toxische Inhalte als ähnlich aktive Benutzer mit neutralen Benutzernamen.
Es überrascht vielleicht nicht, dass die Benutzer mit giftigen Benutzernamen, die Obszönitäten enthalten, die meisten persönlichen Angriffe generierten (45 % mehr als der Durchschnitt), und Benutzer mit sexueller Sprache in ihren Benutzernamen generierten die meisten sexuellen Belästigungen und sexuellen Bemerkungen (250 % mehr als der Durchschnitt).
Warum erstellen einige Benutzer so viele toxische Inhalte?
Die Forscher sagen, dass ihre Studie nicht auf die Motivation der Benutzer eingegangen ist, toxische Inhalte zu produzieren, obwohl sie mehrere Hypothesen haben.
Es könnte beispielsweise sein, dass „eine konfliktreiche Person zu sein oder an einer Persönlichkeitsstörung zu leiden“ einige Benutzer dazu zwingen könnte, andere Benutzer häufiger anzugreifen.
Auch das Alter könnte ein Faktor sein, wobei jüngere Benutzer wahrscheinlich eher absichtlich provokative Benutzernamen wählen und sich online auf störende Weise verhalten.
Ebenso theoretisieren die Forscher, dass Benutzer mit umstrittenen Benutzernamen möglicherweise „mehr Angriffe von anderen anziehen und somit mehr Angriffe als Vergeltung hervorrufen“.
Oder es könnten „schlechte Performer“ auf Reddit sein, dh diejenigen, deren Kommentare oft herabgestimmt werden, neigen eher dazu, sich auf störendes Verhalten einzulassen.
Der toxische Inhalt wird von einer Minderheit der Benutzer produziert
Die Forscher betonen, dass selbst unter den Benutzern mit toxischen Benutzernamen die meisten (zwischen 58 % und 65 %) dies tun nicht giftigen Inhalt produzieren; diese Zahl liegt bei etwa 70 % für Benutzer mit neutralen, ungiftigen Benutzernamen.
Sie weisen auch darauf hin, dass es wahrscheinlich „andere Arten von Toxizität gibt, die keine aggressive oder schädliche Sprache beinhalten“, die daher nicht in diese Studie aufgenommen wurden.
„Concern Trolling“ ist ein Beispiel, bei dem ein Benutzer unaufrichtig seine Besorgnis um einen anderen Benutzer zum Ausdruck bringt, mit dem eigentlichen Ziel, diesen Benutzer zu beschämen oder anderweitig zu verärgern. In diesem Fall ist die verwendete Sprache vordergründig wohlwollend, in Wirklichkeit aber böswillig.
„In Anbetracht dessen“, schreiben sie, „ist es möglich, dass einige der als nicht toxisch eingestuften Konten tatsächlich andere Arten von Toxizität aufweisen.“
Ein weiteres Problem besteht darin, festzustellen, ob ein bestimmtes Verhalten notwendigerweise toxisch ist. Reddit ist in „Millionen unterschiedlicher Gemeinschaften mit ihren eigenen, einzigartigen kulturellen Codes“ unterteilt, schreiben die Autoren der Studie, sodass das, was in einer Gemeinschaft als giftig angesehen werden könnte, anderswo als akzeptabel angesehen werden könnte.
Einige Reddit-Communities zum Beispiel „werden nur zu dem Zweck geschaffen, sich gegenseitig zu verspotten und zu demütigen“.
Zukünftige Richtungen
Wie oben erwähnt, zeigen die meisten Benutzer mit toxischen Benutzernamen kein toxisches Verhalten.
Nichtsdestotrotz bedeutet die schiere Größe von Online-Communities wie Reddit, dass sie realistischerweise nicht rein von Hand moderiert werden können, was bedeutet, dass KI wahrscheinlich eine gewisse Rolle spielen muss.
Tatsächlich ist KI vielleicht sogar „notwendig, um die geistige Gesundheit und Lebensqualität von Moderatoren zu erhalten“, schreiben sie, insbesondere wenn man bedenkt, dass Plattformen wie Twitch oder Discord „mehrfache Änderungen des Anzeigenamens zulassen, was es für Moderatoren noch problematischer macht, sie beizubehalten aufstehen und entsprechend reagieren.“
Das Forschungsteam stellt auch mehrere zukünftige Richtungen für neue Studien vor, zum Beispiel darüber, wie man problematischen Benutzern helfen kann, anstatt sie nur zu verbieten.
Und es ist wichtig, diese Lösungen zu finden, zumal immer mehr Aspekte des täglichen Lebens ins Internet verlagert werden.
„Das Studium und die Prävention von Online-Toxizität ist besonders wichtig“, schreiben sie, „da die Exposition gegenüber ihren verschiedenen Formen die psychische Gesundheit negativ beeinflussen, die Wahrscheinlichkeit von Angstzuständen, Stress, Depressionen und Selbstmordgedanken erhöhen und zu Substanzkonsum und Aggression beitragen kann.“
Lernen: „Namespotting: Toxizität von Benutzernamen und tatsächliches toxisches Verhalten auf reddit“
Autoren: Rafal Urbaniak Patrycja Tempska et al
Veröffentlicht in: Computer im menschlichen Verhalten
Veröffentlichungsdatum: 1. Juli 2022
DOI: https://doi.org/10.1016/j.chb.2022.107371
Foto: über Canva