Microsoft lança ferramenta para combater o abuso infantil online


A equipe da Microsoft desenvolveu um sistema automatizado que pode detectar agressores sexuais em salas de bate-papo.

Projeto Artemis é o nome dessa técnica que começou a ser desenvolvida em 2018 em um Hackathon criado pela Microsoft para criar ferramentas para combater o aliciamento. E então, ganhou um grupo de colaboradores como Roblox, The Meet Group, Thorn e Kik.

Este sistema é usado para analisar conversas de texto de bate-papo e, de acordo com as características da interação, uma classificação é atribuída.

Essa qualificação preliminar pode servir de base para filtrar bate-papos com certas características que os tornam ameaças em potencial. Por exemplo, analise os padrões típicos usados ​​por predadores sexuais, procurando frases ou palavras-chave.

Estes são encaminhados a moderadores humanos qualificados para identificar os traços de assédio sexual após uma análise minuciosa e encaminhar as informações às associações correspondentes. Ou os moderadores podem considerar que, embora não possa ser classificado como uma ameaça real, ele não cumpre as políticas da plataforma.

Essa dinâmica pode funcionar com qualquer plataforma da Web que ofereça a função de bate-papo; e não precisam ser exclusivamente salas de bate-papo. A equipe da Microsoft menciona que usou essa técnica em alguns de seus serviços, como Xbox e Skype.

Essa ferramenta é gratuita e estará disponível para qualquer empresa que ofereça serviços online com bate-papo integrado. A Thron será responsável por fornecer às empresas interessadas as informações para implementar este sistema. Uma iniciativa que faz parte de sua missão, conforme mencionado em sua plataforma:

Muitas pequenas e médias empresas não têm recursos ou conhecimentos para implementar procedimentos e ferramentas de segurança infantil, o que torna suas plataformas vulneráveis ​​a conteúdos e comportamentos abusivos. Oferecemos recursos e ferramentas para empresas ajudarem a proteger crianças em suas plataformas