Instagram busca soluções para evitar conteúdo incitando suicídio

Instagram
Há um problema que afeta todas as redes sociais há muito tempo: o conteúdo que incita o suicídio, vídeos publicados para destruir a autoestima dos seguidores, inclusive, suicídios transmitidos ao vivo. E Instagram não é uma exceção.

Adam Mosseri, chefe da empresa, admite que até agora os usuários não foram protegidos de maneira eficaz contra o conteúdo autodestrutivo e suicida, mas já estão trabalhando em soluções.

Leia também: PESQUISADORES DO MIT CRIAM UM SISTEMA CAPAZ DE DETECTAR A DEPRESSÃO COM MAIOR PRECISÃO

Para o The Telegraph, indicou que foi a morte de Molly Russell, de 14 anos, em 2017, que impulsionou a empresa a estudar mais fundo a análise de conteúdo. Molly se suicidou, e seguia muitas contas que tratavam desse assunto, auto-mutilação e suicídio.

Agora é preciso fazer uma “revisão completa” do conteúdo publicado, algo que não é muito simples se levarmos em conta que a publicação do conteúdo é praticamente imediata. A tecnologia deve ser capaz de detectar esse tipo de conteúdo sem precisar ter um ser humano assistindo a todos e cada um dos vídeos publicados nas redes.

Reconhecem que não são capazes de excluir vídeos e fotos antes que outros os vejam, e que dependem da denúncia de publicações ofensivas de outros usuários, mas a empresa está investindo em tecnologia para melhor identificar essas imagens antes que cheguem aos seus seguidores. Também estão trabalhando para torná-los menos visíveis.

Segundo Mosseri, a empresa treinou engenheiros e revisores de conteúdo sobre como encontrar essas publicações e implementou medidas para interromper sugestões relacionadas a imagem, hashtag, conta e tipo de escrita.

Por outro lado, Instagram está aplicando telas de sensibilidade, de forma que os usuários terão que clicar nelas verem o conteúdo por trás, avisando que as mesmas podem ferir a sensibilidade de alguns.

Leia também: NOVA APP USA A INTELIGÊNCIA ARTIFICIAL PARA TRATAR A DEPRESSÃO

Não é uma tarefa fácil, porém, coisas mais difíceis já conseguiram ser implementadas nos últimos anos.

Imagem: montagem com fotos de depositphotos