Desenvolvida inteligência artificial para detectar comentários racistas em sites


Parece que, juntamente com o COVID-19, o racismo se tornou outra questão de interesse geral nos dias de hoje, fazendo parte das conversas geradas em nossas vidas diárias, graças ao movimento BLM (Blacks Lives Matter) que realizou uma campanha inteira focada em tornar esse problema mais visível.

Por outro lado, no campo da tecnologia, foram desenvolvidos sistemas focados no combate ao racismo na Internet, interceptando todas as declarações que promovem ou geram uma tendência depreciativa em relação a um grupo específico, tudo com a ajuda da inteligência artificial.

É isso mesmo, uma empresa chamada UserWay desenvolveu um script, que foi classificado como ” A mais avançada tecnologia de auto-remediação baseada em IA do mundo ”

Deve-se observar que a empresa possui uma oferta paga que possui um moderador de conteúdo baseado em IA com o qual espera oferecer a empresas a garantia de que seus sites permanecerão livres de linguagem conflitante ou divisiva que possa implicar discriminação com base em fatores como raça, sexo, idade ou deficiência.

Para demonstrar a eficácia de sua ferramenta, a UserWay realizou um teste em 500.000 sites, encontrando 52% desses comentários depreciativos aludindo à raça, 24% comentários depreciativos sobre gênero e 12% sobre idade.

Entre as palavras levadas em consideração como critério pela ferramenta UserWay no momento de realizar seu trabalho estão ovelhas negras, lista negra, presidente, humanidade, além de palavras associadas a uma linguagem mais radicalmente ofensiva.

Além de testar o conjunto de sites, a UserWay realizou testes em sites reconhecidos de mídia.

O resultado mostrou que cada uma dessas páginas apresentou comentários de natureza discriminatória ou depreciativa, com o The Washington Examiner sendo o primeiro da lista, seguido por outros como The Daily Caller, ESPN.com, CNBC.com, FoxNews.com, CNN.com e The Washington Post.

Se você quiser obter mais informações sobre esta tecnologia, basta clicar AQUI