Skip to main content

Die Schaffung einer sicheren und zivilen Community

November

02, 2020

by David Baszucki


Community

Liebe Roblox-Community,

Roblox wurde für Kinder und Jugendliche erschaffen und wir tragen die Verantwortung dafür, sicherzustellen, dass unsere Spieler sicher lernen, erstellen und spielen können. Das ist und bleibt unsere oberste Priorität und daran wird sich auch nichts ändern. Sicherheit ist keine nachträgliche Anpassung; sie ist seit jeher ein Teil unserer DNS.

Wir sind weit gekommen seit dem Beginn von Roblox, als Erik, Matt, John und ich die erste Version des Roblox-Moderations-Systems bauten und wir höchstens 40 gleichzeitige Spieler hatten. Wir erkannten frühzeitig, dass das Erschaffen einer sicheren und zivilen Community grundlegend für unsere Vision sein würde, die Menschen aus aller Welt spielerisch zusammenzubringen. Am Anfang übernahmen wir selbst sehr viele Moderationsschichten auf Roblox und diese persönliche Erfahrung damit bleibt uns für immer erhalten.

Wir haben null Toleranz für Inhalte und Benehmen, das gegen unsere Regeln verstößt und wir arbeiten unerlässlich daran, eine sichere, zivile und diverse Community zu erschaffen. Deshalb haben wir auch ein stringentes Sicherheitssystem, eines der rigorosesten aller Plattformen überhaupt, das die aufsichtsrechtlichen Anforderungen weit übertrifft:

  • Unser 1600-köpfiges Team beschützt unsere Benutzer rund um die Uhr durch ständige Sicherheitsüberprüfungen zur Aufspürung unangemessener Inhalte mit einer Kombination aus maschineller Durchsuchung und menschlicher Moderation. Wir kümmern uns umgehend (normalerweise innerhalb weniger Minuten) um jegliche Inhalte oder Entwickler, die gegen unsere Nutzungsbedingungen verstoßen.
  • Wir filtern alle Text-Chats auf der Plattform und blockieren ungeeignete Inhalte, einschließlich Fragen nach persönlichen Daten und Anweisungen zur Kontaktaufnahme auf weniger restriktiven Chat-Apps Dritter.
  • Wir führen Sicherheitsüberprüfungen an allen Bildern, Audio-Dateien und Videos durch mit einer Kombination aus menschlicher Inspektion und maschineller Erkennung, bevor sie auf der Plattform verfügbar gemacht werden.
  • Wir arbeiten eng und transparent mit Regulierern, Behörden und Sicherheitsgruppen in jedem Land zusammen, in dem wir aktiv sind, und wir melden jeglichen Verdacht auf Kindesmissbrauch, Missbrauchsmaterialien oder Online-Grooming an die jeweilig zuständigen Behörden, wie der National Crime Agency und dem Child Exploitation and Online Protection Command im Vereinigten Königreich sowie dem National Center for Missing & Exploited Children (NCMEC) in den USA.
  • Wir haben Partnerschaften mit über 20 führenden globalen Organisationen mit Schwerpunkt auf Kinderschutz und Internetsicherheit, einschließlich WePROTECT Global Alliance, der Internet Watch Foundation (IWF), dem UK Safer Internet Centre, Fair Play Alliance, Family Online Safety Institute (FOSI), Connect Safely und kidSAFE.
  • Wir sind Mitglied zahlreicher Organisationen in der Branche, wie z. B. UKIE und The Technology Coalition und verfolgen das Ziel der branchenübergreifenden Kollaboration, des Wissens- und Technologieaustauschs in den Gebieten der Benutzersicherheit und dem Kinderschutz. Beispielsweise arbeiteten wir mit Microsoft zusammen an einem branchenübergreifenden Grooming-Textfilterprojekt, um bessere Tools für die Erkennung von Grooming-Chats zu schaffen.
  • Als Mitglied der Technology Coalition verpflichten wir uns zu diesen freiwilligen Grundsätzen sowie Transparenz über unsere Bemühungen zur Bekämpfung sexueller Kinderausbeutung und Kindesmissbrauchs im Internet.
  • Wir arbeiten unablässig mit anderen Plattformen von Chats, sozialen Medien und Benutzer-erstellten Inhalten daran, Übeltäter und gefährdende Inhalte zu melden, damit auch sie angemessene Maßnahmen auf ihren Plattformen ergreifen können.

Wir sind uns darüber bewusst, dass es immer individuelle Personen geben wird, die absichtlich versuchen, gegen unsere Regeln zu verstoßen. Und wir werden weiterhin Zeit und Ressourcen dafür aufbringen, immer neue Methoden zu entwickeln, um sie zu aufzuhalten. Unser Ziel ist es, dass diese fortwährenden Bemühungen die Machenschaften dieser extrem kleinen Anzahl von Benutzern erschweren. Deswegen arbeiten wir zusätzlich zu unseren fortwährenden umfangreichen Sicherheitsmaßnahmen aktiv an Folgendem:

  • Wir werden weiterhin unsere Tools und unser Reputationssystem ausbauen, um die überwältigende Mehrheit unserer Spieler und Creator mit positivem Einfluss auf unsere Community besser zu unterstützen, während wir es den Übeltätern immer schwerer auf unserer Plattform machen.
  • Wir werden zusätzliche, fortschrittliche Erkennungsalgorithmen einsetzen, die die Veröffentlichung problematischer Inhalte verhindern und die andere verdächtige Inhalte für eine unverzügliche Überprüfung markieren.

Es ist unser kontinuierliches Streben, das bestmögliche Inhalts-Moderations-System zu erstellen, um unsere Community zu schützen. Letztendlich ist es unsere Aufgabe, unsere Spieler zu beschützen und die Kreativität der Entwickler zu fördern. Wir haben ein stringentes Sicherheitssystem und strenge Richtlinien, aber wir verstehen auch, dass unsere Arbeit niemals beendet ist. Wir entwickeln uns stetig weiter, um die Übeltäter zu bekämpfen, die versuchen uns daran zu hindern, Millionen von Menschen weltweit zu verbinden, um zu lernen, zu spielen, zu arbeiten und zusammen Neues zu erschaffen.

Wir glauben, dass Plattformen wie Roblox grundlegend dabei sind, Menschen dabei zu helfen, zu lernen und sich gegenseitig Achtung zu erweisen, und wir werden niemals unsere Mission aufgeben, eine sichere, zivile und diverse Community aufzubauen.

David Baszucki
CEO und Mitbegründer