Skip to main content

安全で礼節あるコミュニティの構築

11月

03, 2020

by David Baszucki


コミュニティ

Robloxコミュニティのみなさんへ

Robloxは子供とティーンのためにデザインされたもので、当社にはプレイヤーが確実に安全に学び、制作し、プレイできるようにする責任があります。 これは、当社の最優先事項であり続け、それが変わることはありません。 安全性は後付けするものではなく、創立第1日目からこれは当社の遺伝子に組み込まれてきました。

当社は、エリック、マット、ジョン、そして私がRobloxのモデレーションシステムの最初のバージョンを構築して、Roblox上に一度に最高でも40人のプレイヤーしかいなかった初期の頃から、長い道のりを経てきました。 当社の世界を遊びを通じて繋ぐというビジョンにとって、安全で礼節あるコミュニティの構築が不可欠だということを当社では初期の段階から認識していました。 初期の頃から、私たちのぞれぞれがRobloxの最初の内容監視のモデレータとしていくつものシフトで働き、この現場での体験は現在でも私たちの一部となっています。

当社のルールに違反するコンテンツや行動を許容せず、安全で礼節があり、多様性のあるコミュニティを作るために絶え間なく根気強く働いています。 当社が他のプラットフォームの中でも、法規制による要件以上の最も厳しいものの一つである厳格な安全システムを持っているのはそのためです。

  • 当社では、機械によるスキャンと人間によるモデレーションを組み合わせて24時間体制で1600人からなるチームがユーザーを保護し、不適切なコンテンツを検出するために安全性の監視をしています。 当社は、当社の利用規約に違反するいかなるコンテンツも開発者へも迅速な対応(通常、数分以内)をします。
  • 当社は、個人情報に関する質問や規制のより少ないサードパーティ製のチャットアプリでお互いに繋がる方法についての情報を含むプラットフォーム上の文字によるチャットでの不適切なコンテンツをすべてフィルタしています。
  • 当社は、プラットフォーム上で利用できるようになる前に人の手による監視と機械による検知を組み合わせて、すべての画像、オーディオ、そしてビデオファイルの安全性の確認を実施しています。
  • 当社が営業を展開中の各国にある規制機関、政府機関、そして安全対策グループと共に透明性を持って緊密に連携し、イギリスでは英国国家犯罪対策庁と児童搾取・オンライン保護支部、アメリカでは全米行方不明・被搾取児童センター(NCMEC)ような関連省庁にいかなる形でも児童の搾取が疑われるもの、虐待に関連する内容、またはオンライン上の児童への性的な誘引を素早く報告します。
  • 当社は、WePROTECTグローバル・アライアンス、インターネット監視財団 (IWF)、 英国インターネット安全性向上センター(UK Safer Internet Centre)、対悪質プレイヤー研究組織のフェアプレイアライアンス、ファミリーオンラインセーフティ研究所 (FOSI)、Connect Safely、kidSAFEなどの子供の安全とインターネットの安全性に特化した20以上の主要な世界規模の組織とパートナーシップを組んでいます。
  • 当社は、業界を超えた連携とユーザーの安全と子供の安全の分野における知識やテクノロジーの交流を目的としたUKIE(英国インタラクティブエンターテイメント)とTechnology Coalitionなどのようなさまざまな業界の組織のメンバーでです。 例えば、当社は児童への性的な誘引をするチャット検出のためのよりよいツールを提供するために、Microsoftと共同作業をして産業間共通の児童への性的誘引関連のテキストフィルタプロジェクトに取り組みました 。
  • Technology Coalitionのメンバーとして、当社はオンライン上での子供の性的搾取と虐待と闘う当社の努力に関する透明性を含む自主原則に専心しています。
  • 当社は、他のチャットやソーシャルメディア、UGC(ユーザー生成コンテンツ)プラットフォームと共に問題ある人物やコンテンツを報告することに積極的に取り組み、提携先のプラットフォームが適切な対処ができるようにしています。

意図的にルールを破ろうとする人たちが常に出てくることを当社は認識しています。 これを止めるための新しい方法を見つけるために、当社では時間とリソースを使い続けています。 当社の目標はこういった持続的な努力によって、このような非常に少ない一部のユーザーにとって違反行為をすることがさらに困難になるようにすることです。 当社が広範な安全対策に投資し続けることに加えて、以下に関して積極的に作業してきた理由です。

  • ポジティブなコミュニティを構築している圧倒的大多数の当社のプレイヤーとクリエーターをより適切にサポートし、プラットフォーム上で問題を起こす人にとってますます難しくするための当社のツールとレピュテーションフレームワークを拡大し続ける。
  • 問題あるコンテンツが公開されることを遮断し、その他の疑わしいコンテンツを素早く検閲するためにフラグ付けするように設計された追加の高度な検知アルゴリズムを採用する。

当社の進行中の探究課題として、コミュニティの安全を守るために可能な限り最高のコンテンツモデレーションシステムを構築する。 究極的に、当社のプレイヤーの安全を守り、開発者の創造性をサポートすることは当社の責任です。 当社には厳格な安全システムと強固なポリシーがありますが、当社の仕事が完結することは決してないということを認識しています。 共に学び、働き、制作するために世界中の何百万もの人を繋げようとする当社の努力を蝕もうとする問題を起こす人たちと闘うために、当社は常に進化を続けます。

当社はRobloxのようなプラットフォームは、礼節を学んで実践することを支援する上でカギとなるものだと信じています。そして、当社は安全で礼節ある多様性のあるコミュニティを構築する使命において揺らぐことはありません。

デヴィッド・バズーキ
CEO、共同創立者