Hong Kong
CNN
—
A polícia da China deteve um homem que, segundo eles, usou o ChatGPT para criar notícias falsas e espalhá-las online, no que a mídia estatal chamou de o primeiro caso criminal do país relacionado ao chatbot de IA.
De acordo com um declaração da polícia na província de Gansu, no noroeste, o suspeito supostamente usou o ChatGPT para gerar um relatório falso sobre um acidente de trem, que ele então publicado on-line para fins lucrativos. O artigo recebeu cerca de 15.000 visualizações, disse a polícia no comunicado de domingo.
ChatGPT, desenvolvido pela Microsoft
(MSFT)O OpenAI, apoiado pelo OpenAI, é proibido na China, embora os usuários da Internet possam usar redes privadas virtuais (VPN) para acessá-lo.
Acidentes de trem têm sido um assunto delicado na China desde 2011, quando as autoridades enfrentaram pressão para explicar por que a mídia estatal não forneceu atualizações oportunas sobre uma colisão de trem-bala na cidade de Wenzhou que resultou em 40 mortes.
As autoridades de Gansu disseram que o suspeito, de sobrenome Hong, foi interrogado na cidade de Dongguan, no sul da província de Guangdong, em 5 de maio.
“Hong usou a tecnologia moderna para fabricar informações falsas, espalhando-as na internet, que foram amplamente divulgadas”, disse a polícia de Gansu em comunicado.
“Seu comportamento consistia em provocar brigas e problemas”, acrescentaram, explicando tO crime que Hong foi acusado de cometer.
A polícia disse que a prisão foi a primeira em Gansu desde que a Administração do Ciberespaço da China decretou novos regulamentos em janeiro para controlar o uso de deep fakes. A emissora estatal CGTN diz que foi o primeira prisão de uma pessoa acusada de usar o ChatGPT para fabricar e espalhar notícias falsas.
Formalmente conhecido como síntese profunda, deep fake refere-se a conteúdo textual e visual altamente realista gerado por inteligência artificial.
A nova legislação proíbe os usuários de gerar conteúdo falso profundo sobre tópicos já proibidos pelas leis existentes na internet altamente censurada da China. Ele também descreve os procedimentos de remoção de conteúdo considerado falso ou prejudicial.
A prisão também ocorreu em meio a uma campanha de 100 dias lançada pela seção de internet do Ministério da Segurança Pública em março para reprimir a disseminação de rumores na internet.
Desde o início do ano, gigantes chineses da internet como o Baidu
(BIDU) e Alibaba
(BABA)buscaram alcançar o OpenAI, lançando suas próprias versões do serviço ChatGPT.
A Baidu revelou o “Wenxin Yiyan” ou “ERNIE Bot” em março. Dois meses depois, o Alibaba lançou “Tongyi Qianwen”, que pode ser traduzido como buscar a verdade por meio de mil perguntas.
Em diretrizes preliminares emitidas no mês passado para solicitar feedback público, o regulador do ciberespaço da China disse que os serviços generativos de IA seriam obrigados a passar por análises de segurança antes de poderem operar.
Os provedores de serviços também serão obrigados a verificar as identidades reais dos usuários, além de fornecer detalhes sobre a escala e o tipo de dados que usam, seus algoritmos básicos e outras informações técnicas.
