Na China, as autoridades prenderam um homem por supostamente usar a inteligência artificial do ChatGPT para criar notícias falsas sobre um acidente de trem e divulgá-las online. Esta foi relatada como a primeira prisão por uso indevido do ChatGPT na China.
O homem detido teria usado o ChatGPT para gerar notícias falsas sobre um acidente de trem, alegando que nove pessoas haviam morrido. Essas notícias falsas foram postadas em mais de 20 contas no Baijiahao, uma plataforma estilo blog administrada pela gigante chinesa de buscas Baidu.
Este caso, relatado em gadgets360.com, ilustra o risco envolvido no uso de inteligência artificial para manipular informações. Com a tecnologia atual, é possível gerar notícias falsas em questão de segundos e divulgá-las online por meio de várias contas em diferentes plataformas. A disseminação de notícias falsas pode ser prejudicial à sociedade e pode ter consequências graves, como fraude eleitoral, aumento da polarização política e violência.
Este é o primeiro caso de prisão por uso indevido do ChatGPT na China e ocorre depois que o governo chinês introduziu regulamentos em janeiro de 2023 para controlar o uso da tecnologia deepfake. No entanto, a regulamentação da IA na China ainda é limitada e é provável que surjam mais casos de uso indevido da tecnologia no futuro.
A prisão deste homem por uso indevido do ChatGPT demonstra a necessidade de regulamentar o uso de inteligência artificial e tecnologias relacionadas. É importante que as empresas de tecnologia trabalhem com governos e organizações internacionais para desenvolver regulamentações apropriadas para o uso dessas tecnologias, embora sempre veremos casos em que a tecnologia está bem à frente das regulamentações.