Da redação
O vice-presidente de Segurança e Confiança do Discord, Jud Hoffman, reconheceu falhas nos mecanismos da plataforma no caso que resultou na morte de uma adolescente de 13 anos durante uma transmissão ao vivo. Hoffman destacou que “não fomos rápidos o suficiente, mas estamos sempre trabalhando para melhorar esses modelos e os esforços de segurança”.
Hoffman explicou que a equipe de moderação do Discord atua de forma proativa e reativa, utilizando modelos de aprendizado de máquina e ferramentas de automação, sob supervisão de profissionais treinados para enfrentar problemas como extremismo violento e abuso sexual infantil. Segundo ele, cerca de 15% da empresa se dedica exclusivamente à segurança.
O vice-presidente informou que há profissionais especializados no mercado brasileiro, incluindo pessoas que falam português, e que investimentos nessa área continuam. Ele ressaltou que em casos como o da adolescente, o servidor era “novo e pequeno” e “tinha sido criado há menos de duas horas”, o que dificultou a detecção, pois “as informações disponíveis não acionaram nosso modelo de aprendizado de máquina para encaminhá-lo à revisão humana”.
Hoffman afirmou que a estrutura do Discord permite a existência de servidores públicos, com milhões de membros, e privados, voltados para comunidades menores. Ele defendeu ações conjuntas entre plataformas para combater a violência online ao afirmar: “Não é problema único do Discord ou de qualquer outra. Eles [grupos extremistas] vão explorar cada uma como podem”.
