Facebook desenvolveu uma IA para identificar memes ofensivos

facebook
Facebook segue investindo em novos recursos para aperfeiçoar seu sistema de moderação, implementando uma nova dinâmica que aproveita o potencial da inteligência artificial.

Esta nova IA, chamada Rosetta, tem como objetivo  identificar o conteúdo de imagens e memes, entendendo seu contexto, com a finalidade de detectar aqueles textos que violem as políticas do Facebook.

Leia também: FACEBOOK WATCH, O CONCORRENTE DO YOUTUBE, COMEÇA A SE EXPANDIR A TODOS

Os desenvolvedores do Facebook mencionam que este processo está composto de duas fases, detecção e reconhecimento. Por um lado, Rosetta foi treinada para focar nas regiões da imagem que podem aparecer o texto, para extrair o conteúdo. Logo, graças a rede neuronal, transcreve o texto para passa-lo para a equipe humana de moderação.

Seguindo esta dinâmica, Rosetta trabalha diariamente com conteúdo compartilhado no Facebook e Instagram, analisando o texto de milhões de imagens e frames de vídeos. Um detalhe interessante é que pode realizar esta dinâmica em diferentes idiomas e dialetos.

Leia também:FACEBOOK TESTA OPÇÃO QUE DESTACA O QUE VOCÊ TEM EM COMUM COM OUTROS USUÁRIOS

Sem dúvida, isso é só o começo, já que Facebook assegura que tem planos de adicionar suporte para mais idiomas e melhorar esta nova dinâmica de detecção e extração de texto. Junto com este relatório, o Facebook também anunciou que a tradução automática se estende a 24 novos idiomas, embora, em alguns casos, esteja no estágio inicial e falte ainda muito trabalho para melhorar a qualidade do sistema.