A polícia chinesa reprimiu duas gangues diferentes que usaram o ChatGPT para criar vídeos falsos. Uma das prisões ocorreu em maio, enquanto a outra em junho. Há muito se fala nos riscos dessa nova tecnologia e, há muitas preocupações com a utilização da mesma.

O ChatGPT

O Chatgpt é um chatbot de IA desenvolvido pela OpenAI, apoiado pela Microsoft, que permite aos usuários gerar respostas com base em solicitações e perguntas do usuário. A gangue comprou ilegalmente um lote de contas de vídeo desde maio de 2023 para usar o ChatGPT para criar vídeos falsos.

Os reguladores chineses supostamente restringiram o acesso ao ChatGPT. No entanto, as empresas e escolas de tecnologia chinesas avançam no desenvolvimento de bots domésticos de IA. O ChatGPT não está oficialmente disponível na China, onde o governo opera um firewall detalhado e censura estrita na Internet. Mas muitos o acessavam via VPNs.

Além disso, alguns desenvolvedores terceirizados produziram programas que davam algum acesso ao serviço. As pesquisas por ChatGPT em plataformas chinesas não retornam mais resultados. No entanto, os programas alternativos foram desativados ou substituídos por um aviso dizendo que foram suspensos por “violar leis e regulamentos relevantes”.

A proibição do ChatGPT na China não é uma surpresa, pois a nação asiática é bastante rígida com suas leis. O governo chinês tem reprimido a propaganda política e a desinformação. Segundo relatos, ele vê a capacidade do ChatGPT de gerar texto como uma ameaça ao seu controle sobre o fluxo de informações.

O caso da fraude de vídeo ChatGPT

Um relatório policial da província de Gansu, no noroeste da China, menciona um suspeito que faz parte de uma gangue. Identificado apenas por seu sobrenome, Hong, ele usou o ChatGPT para criar uma notícia falsa sobre um acidente que supostamente levou à morte de nove trabalhadores da construção civil em Gansu. Esta história se tornou viral e até fontes de notícias legítimas foram enganadas pela história falsa.

Em maio, a polícia de Shaoxing descobriu que a mesma gangue comprou ilegalmente um lote de contas de vídeo e as usou para criar vídeos falsos usando o ChatGPT. A polícia prendeu um homem que usou o ChatGPT para criar notícias falsas sobre um acidente de trem.

Esta é uma das primeiras ações de aplicação de uma lei chinesa recentemente promulgada que regula as “deep fakes” geradas por IA. Segundo a polícia, as obras da quadrilha são aparentemente realistas, mas são imagens digitais, vídeos ou outras mídias fabricadas.

A unidade local da polícia de segurança cibernética foi alertada sobre o artigo sobre o acidente de trem – publicado em 25 de abril. Em seguida, iniciou uma investigação sobre o assunto. Hong então admitiu que usou o ChatGPT para criar notícias falsas sobre os acidentes de trem antes de publicá-las online. A prisão de Hong é a primeira detenção desde que o novo regulamento da China sobre deep fake tech entrou em vigor em janeiro. A lei visa impedir o uso indevido de tecnologia que pode alterar os dados faciais e de voz.

Polícia da China desmantela quadrilha

A segunda grande explosão aconteceu em junho de 2023. Em 2 de junho, a polícia de Shangyu descobriu durante uma investigação online que um usuário de aplicativo chamado “Shangyi Explanation” divulgou um vídeo sobre um incêndio no Parque Industrial de Shangyu. O número de visualizações do vídeo aumentou rapidamente em um curto período de tempo.

A polícia verificou novamente o vídeo e descobriu que era uma notícia falsa. A polícia de Shangyu também localizou um grupo de tecnologia em outra província ligado ao crime. Em 5 de junho, a polícia correu para outras províncias e prendeu três suspeitos.

Após investigação, o grupo de relações públicas adquiriu ilegalmente várias contas de vídeo da Internet desde maio. Ele uniu os vídeos e produziu vídeos falsos por meio da tecnologia ChatGPT para publicar na rede para obter tráfego. O suspeito preso já confessou o crime, mas a polícia ainda está investigando para mais suspeitos.

O caso da fraude de vídeo ChatGPT revela a necessidade de regulamentação e controle da tecnologia de IA na China. Embora o ChatGPT possa ser uma ferramenta útil para criar bate-papos com base em solicitações e perguntas do usuário, ele também pode ser usado para criar notícias e vídeos falsos.

O post Polícia chinesa prende quadrilha que usava o ChatGPT para criar vídeos falsos apareceu primeiro em SempreUpdate.