3 ferramentas para evitar conteúdo “tóxico” na internet


Reclamações de vários tipos, insultos, críticas não construtivas… na Internet, como reflexo de nossa sociedade, há muito ódio que, em muitas ocasiões, não sentimos vontade de ler, simplesmente queremos nos informar, não ler opiniões de quem não contribui com nada positivo.

Mas “excluir” esse conteúdo não é uma tarefa das mais fáceis. Por um lado, não pode ser bloqueado em sua origem, pois prejudicaria a liberdade de expressão e, por outro lado, é necessário conhecer muito bem uma linguagem para que um sistema de inteligência artificial seja capaz de identificar o que é tóxico do que é simplesmente uma pequena crítica inocente.

O fato é que já existem ferramentas projetadas para filtrar esse conteúdo, e aqui mostraremos três delas:

– Toxnic: um plug-in que analisa o conteúdo em plataformas de mídia social e usa o aprendizado de máquina para bloquear postagens e comentários tóxicos. É a primeira versão da extensão, mas indicam que o modelo de aprendizado profundo atinge 93% de precisão no conjunto de testes dos dados que eles usam para treinar o modelo para a detecção de conteúdo tóxico. Isso significa que não é perfeito e você pode cometer alguns erros ao filtrar conteúdo odioso. Esta extensão está sendo de código aberto.

É um passo importante, mas, como outros projetos semelhantes, se concentra no inglês.

– Perspective: uma API que facilita ter melhores conversas em nosso aplicativo. A API usa modelos de aprendizado de máquina para avaliar o impacto percebido que um comentário poderia ter em uma conversa. Os desenvolvedores e editores podem usar essa pontuação para fornecer feedback em tempo real aos comentaristas, ajudar os moderadores a fazer seu trabalho ou permitir que os leitores encontrem informações relevantes com mais facilidade. Em seu primeiro modelo, ele identifica se um comentário pode ser percebido como “tóxico” para uma discussão.

Não é uma extensão para pararmos de ver conteúdo tóxico nas redes e para os programadores implementá-lo em seus aplicativos.

– Tune: um plug-in experimental criado pelo Perspective para ajudar a melhorar a qualidade do conteúdo que vemos nas redes. Ele permite que as pessoas personalizem a quantidade de toxicidade que desejam ver nos comentários na Internet. O Tune baseia-se nos mesmos modelos de aprendizado de máquina que permitem ao Perspective definir o “volume” de conversas em várias plataformas populares, incluindo YouTube, Facebook, Twitter, Reddit e Disqus.

O Tune permite diminuir o volume de comentários tóxicos para o “modo Zen” para pular completamente os comentários ou aumentá-lo para ver tudo, até as coisas ruins.

Como você pode ver, não faltam opções em inglês, espero que sejam expandidas em outros idiomas.