O Discord comprou uma empresa que trabalha com ferramentas de inteligência artificial para detectar assédio em plataformas online. A empresa adquirida é a Sentropy, que monitora redes online em busca de abusos e assédio, além de oferecer aos usuários mecanismos para bloquear pessoas consideradas tóxicas e filtrar mensagens possivelmente ofensivas.

O primeiro produto da empresa, o Sentropy Protect, foi inicialmente focado em ajudar seus usuários a limpar seus feeds do Twitter, posteriormente, foram lançadas ferramentas empresariais para auxiliar companhias na moderação de conteúdo. Com a compra, a empresa vai encerrar suas ferramentas independentes e se dedicar exclusivamente ao Discord.

No aplicativo de conversa queridinho dos gamers, a equipe da startup planeja ajudar na expansão e desenvolvimento de seus recursos de confiança e segurança. E o Discord é um terreno bastante fértil para isso, já que conta com uma enorme rede, com mais de 150 milhões de usuários ativos por mês, contudo, a moderação de conteúdo é um dos maiores desafios do serviço.

Desafio da moderação

Estima-se que o Discord tenha mais de 19 milhões de comunidades individuais, com o trabalho de moderação de conteúdo dentro dessas comunidades sendo feito somente por voluntários e algumas pequenas equipes dentro do aplicativo, o que não permite que todo o conteúdo seja moderado da maneira mais adequada.

Por conta disso, o Discord acabou se tornando um ambiente relativamente fértil para o crescimento de algumas comunidades, no mínimo, problemáticas, sendo algumas delas criminosas, como a “The Daily Stormer”, um grupo que dissemina ideias de supermacia branca e esteve ligada aos atos racistas realizados em Charlottesville em 2017… Leia mais em olhardigital 16/07/2021