TikTok atualiza suas políticas para restringir deepfakes gerados por IA

Postado em

O TikTok atualizou suas políticas de moderação de conteúdo para incluir novas restrições à postagem de deepfakes gerados por IA.

Essas atualizações ocorrem em meio à crescente pressão política sobre sua controladora chinesa, a ByteDance.

Embora a maioria das políticas de moderação do TikTok permaneça inalterada, a nova seção expandida de “mídia sintética e manipulada” abrange os deepfakes de IA, que cresceram em popularidade no aplicativo nos últimos meses.

Anteriormente, as regras do TikTok sobre deepfakes eram limitadas a uma única linha que proibia conteúdo que pudesse “enganar os usuários distorcendo a verdade dos eventos ou causando danos significativos ao assunto do vídeo “. A empresa agora exige que qualquer conteúdo gerado e editado por IA que pareça realista seja “claramente divulgado” como tal, seja na legenda do vídeo ou em um rótulo de sobreposição.

O TikTok não permitirá nenhuma mídia sintética “contendo a imagem de qualquer figura privada real” ou retratando uma figura pública endossando um produto ou violando outras políticas de aplicativos (como a proibição de discurso de ódio). A empresa define figuras públicas como qualquer pessoa com mais de 18 anos com “uma função pública significativa, como funcionário do governo, político, líder empresarial ou celebridade“.

O conteúdo gerado por IA cresceu em popularidade no TikTok, em grande parte graças à crescente disponibilidade de ferramentas de clonagem de voz de IA que facilitam a imitação da voz de alguém. Essas ferramentas criaram novos subgêneros de conteúdo, muitas vezes centrados em situações inesperadas com figuras públicas como o presidente Joe Biden e o ex-presidente Donald Trump. Outros casos de uso são mais prejudiciais, com deepfakes mostrando essas mesmas figuras lendo declarações homofóbicas ou transfóbicas, que às vezes são confundidas com imagens reais.

A atualização da política do TikTok ocorre em um momento de crescente pressão política para a ByteDance, já que os governos ocidentais expressam temores sobre a coleta de dados privados do aplicativo e seu potencial para influenciar a opinião pública. O governo dos EUA ameaçou proibir o TikTok se a ByteDance não vender sua participação, enquanto o aplicativo já foi banido dos dispositivos de funcionários da Comissão Europeia e equipes governamentais nos EUA, Reino Unido, Nova Zelândia e Canadá.

Embora o TikTok não aborde essas ameaças diretamente em suas políticas atualizadas, a empresa afirmou que deseja fornecer “muito mais transparência sobre nossas regras e como as aplicamos“. A empresa também publicará uma lista de oito “Princípios Comunitários” que, segundo ela, “moldam nosso trabalho diário e orientam como abordamos as difíceis decisões de compliance“. Ironicamente, os dois primeiros princípios são “prevenir danos” e “permitir a liberdade de expressão”.