Há um problema que afeta todas as redes sociais há muito tempo: o conteúdo que incita o suicídio, vídeos publicados para destruir a autoestima dos seguidores, inclusive, suicídios transmitidos ao vivo. E Instagram não é uma exceção.
Adam Mosseri, chefe da empresa, admite que até agora os usuários não foram protegidos de maneira eficaz contra o conteúdo autodestrutivo e suicida, mas já estão trabalhando em soluções.
Leia também: PESQUISADORES DO MIT CRIAM UM SISTEMA CAPAZ DE DETECTAR A DEPRESSÃO COM MAIOR PRECISÃO
Para o The Telegraph, indicou que foi a morte de Molly Russell, de 14 anos, em 2017, que impulsionou a empresa a estudar mais fundo a análise de conteúdo. Molly se suicidou, e seguia muitas contas que tratavam desse assunto, auto-mutilação e suicídio.
Agora é preciso fazer uma “revisão completa” do conteúdo publicado, algo que não é muito simples se levarmos em conta que a publicação do conteúdo é praticamente imediata. A tecnologia deve ser capaz de detectar esse tipo de conteúdo sem precisar ter um ser humano assistindo a todos e cada um dos vídeos publicados nas redes.
Reconhecem que não são capazes de excluir vídeos e fotos antes que outros os vejam, e que dependem da denúncia de publicações ofensivas de outros usuários, mas a empresa está investindo em tecnologia para melhor identificar essas imagens antes que cheguem aos seus seguidores. Também estão trabalhando para torná-los menos visíveis.
Segundo Mosseri, a empresa treinou engenheiros e revisores de conteúdo sobre como encontrar essas publicações e implementou medidas para interromper sugestões relacionadas a imagem, hashtag, conta e tipo de escrita.
Por outro lado, Instagram está aplicando telas de sensibilidade, de forma que os usuários terão que clicar nelas verem o conteúdo por trás, avisando que as mesmas podem ferir a sensibilidade de alguns.
Leia também: NOVA APP USA A INTELIGÊNCIA ARTIFICIAL PARA TRATAR A DEPRESSÃO
Não é uma tarefa fácil, porém, coisas mais difíceis já conseguiram ser implementadas nos últimos anos.
Imagem: montagem com fotos de depositphotos