Skip to main content

Construindo uma Comunidade Segura e Civil

August 19, 2020

by David Baszucki


Comunidade

Querida comunidade Roblox,

A Roblox foi inicialmente criada para crianças e adolescentes e temos a responsabilidade de garantir que nossos jogadores possam aprender, criar e jogar com segurança. Esta continua a ser a nossa prioridade principal e nunca irá mudar. Segurança não é um adicional, está no nosso DNA desde o começo.

Foi um longo caminho desde os primeiros dias, quando Erik, Matt, John e eu construímos a primeira versão do sistema de moderação da Roblox. E naqueles dias nós tínhamos um pico máximo de 40 jogadores. Logo percebemos que construir uma comunidade segura e civil seria essencial para nossa visão de conectar o mundo através de jogos. Naqueles dias, passamos muitos expedientes trabalhando como moderadores da Roblox e essa experiência com a “mão na massa” ficou conosco até hoje.

Não toleramos conteúdo ou comportamento que viole nossas regras e trabalhamos incansavelmente para criar uma comunidade segura, civil e diversa. É por isso que temos um sistema de segurança rigoroso, um dos mais rigorosos de qualquer plataforma e que vai muito além de requerimentos legais:

  • Temos uma equipe de mais de 1.600 funcionários protegendo nossos usuários e monitorando a segurança para detectar conteúdo inapropriado 24 horas por dia, 7 dias por semana, com uma combinação de varredura eletrônica e moderação humana. Tomamos ações imediatas (normalmente em minutos) para lidar com qualquer conteúdo ou desenvolvedor que viole nossos termos de uso.
  • Filtramos todo o texto dos chats da plataforma para bloquear conteúdo inapropriado, incluindo questões sobre informações pessoais e instruções de como se conectar em aplicativos de terceiros.
  • Conduzimos uma revisão de segurança em todas os arquivos de imagem, áudio e vídeo através de uma combinação de revisão humana e detecção automática, antes que sejam disponibilizados na plataforma.
  • Trabalhamos abertamente com reguladores, autoridades e grupos de segurança em cada um dos países onde operamos e relatamos qualquer material suspeito relacionado a abuso infantil, materiais abusivos ou aliciamento de menores para as autoridades responsáveis, como a National Crime Agency and Child Exploitation e o Online Protection Command do Reino Unido, bem como com o National Center for Missing & Exploited Children (NCMEC) nos Estados Unidos.
  • Temos parcerias com mais de 20 organizações globais que se concentram em segurança infantil e segurança na internet, incluindo WePROTECT Global Alliance, a Internet Watch Foundation (IWF), o Safer Internet Centre nos Reino Unido, Fair Play Alliance, Family Online Safety Institute (FOSI), Connect Safely e kidSAFE, entre outros.
  • Somos membro de várias organizações da indústria, como UKIE e The Technology Coalition com o objetivo de cooperação e troca de conhecimento e tecnologias nas áreas de segurança do usuário e da criança. Por exemplo, trabalhamos com a Microsoft em um projeto para melhoria de filtro de textos contra aliciamento de menores, aumentando a detecção de aliciamento de menores em chats.
  • Como membros da Technology Coalition, estamos comprometidos com os Princípios Voluntários, incluindo transparência em nossos esforços de combater o abuso e a exploração de menores.
  • Trabalhamos diligentemente com outras plataformas de chat, redes sociais e CGU (Conteúdo Gerado pelo Usuário, UGC em inglês) para denunciar conteúdos e atores maliciosos, assim todos podem tomar as devidas medidas em suas plataformas.

Reconhecemos que sempre haverá indivíduos que tentarão quebrar as regras deliberadamente. Continuamos a dedicar tempo e recursos para encontrar novas maneiras de impedi-los. Nosso objetivo é que estes esforços contínuos tornarão cada vez mais difícil burlar nossos sistemas para esse pequeno número de usuários maliciosos. E é por isso que além de continuar investindo em nossas extensivas medidas de segurança, estivemos trabalhando também em:

  • Continuar a expandir nossa estrutura de ferramentas e reputação para melhor suportar a maioria esmagadora de nossos criadores e jogadores que querem construir uma comunidade positiva, enquanto tornamos cada vez mais difícil a ação de maus atores em nossa plataforma.
  • Lançar algoritmos adicionais de detecção avançada criados para bloquear conteúdo problemático e marcar outros conteúdos suspeitos para revisão rápida.

Nossa missão contínua é construir o melhor sistema de moderação de conteúdo possível para proteger nossa comunidade. Finalmente, é nossa responsabilidade manter nossos jogadores seguros e suportar a criatividade de nossos desenvolvedores. Temos um sistema de segurança rigoroso e políticas fortes, mas reconhecemos que nosso trabalho nunca termina. Estamos evoluindo constantemente para combater estes maus atores que tentam burlar noss esforços de conectar milhões de pessoas ao redor do mundo para aprender, jogar, trabalhar e criar juntas.

Acreditamos que plataformas como Roblox são fundamentais em ajudar as pessoas a aprender e praticar a civilidade e não abriremos mão de nossa missão de construir uma comunidade segura, civil e diversa.

David Baszucki
Diretor executivo e cofundador