O Openai, o editor do ChatGPT, baniu várias redes de atores maliciosos de seus usuários, trabalhando com toda a probabilidade na China. Em um relatório de segurança Postado sexta -feira 21 de fevereiroa empresa diz que detectou uma operação de desinformação, bem como a criação de uma ferramenta de monitoramento de mídia social.
As equipes de segurança da empresa dos EUA detectaram esses usuários, monitorando que o ChatGPT usa, seu famoso agente de conversação. Ao estudar a atividade de um grupo de contas que trabalham no idioma chinês e no horário comercial chinês, o Openai conseguiu reconstruir os contornos da ferramenta em que eles trabalharam: um programa analisando em tempo real as mensagens do Facebook, X, YouTube, Instagram , Telegram e Reddit – particularmente direcionados ao apelo às manifestações em favor dos direitos humanos.
Chamada de “revisão por pares” do OpenAI, essa ferramenta seria responsável por relatar essas mensagens às autoridades chinesas e suas embaixadas no exterior. Entre os países supervisionados estão em particular os Estados Unidos, Alemanha e Reino Unido. E entre os temas espirais: apoio a uigures, bem como a diplomacia da região indo-pacífica.
O ChatGPT foi empregado por esses atores para escrever o argumento comercial de “revisão por pares”, descrever seus módulos em detalhes e lançar erros em seu código de computador (que parece usar a meta llama, um código aberto de chatgpt). O OpenAI não conseguiu determinar se essa ferramenta foi usada em larga escala.
Tradução de artigos de propaganda
O OpenAI também foi capaz de seguir a atividade de uma segunda rede de atores chineses envolvidos em operações de desinformação. Eles usam o ChatGPT para gerar mensagens curtas publicadas em redes sociais, principalmente as publicações em X do dissidente Cai Xia, ex -professor da Escola Central do Partido Comunista Chinês (CCC).
Presente na cúpula de inteligência artificial organizada em Paris no início de fevereiro, Ben Nimmo, investigador principal da Openai, mencionou um exemplo semelhante frustrado por suas equipes recentemente. Usuários chineses usaram chatgpt Para fortalecer a campanha de desinformação de “spamouflage”usando a ferramenta de IA generativa para escrever tweets favoráveis ao CCP e hostil ao oeste, bem como para criar locais críticos de dissidentes no exterior. Eles ficaram confusos com as equipes do Openai porque usaram as mesmas contas de bate -papo para trapacear durante os exames para promoções internas para o Partido Comunista.
O grupo direcionado a Cai Xia é provavelmente diferente. Seus atores usaram o ChatGPT para produzir artigos longos criticando os Estados Unidos, que eles conseguiram publicar em uma dúzia de jornais mexicanos, peruanos e equatorianos-às vezes na forma de conteúdo patrocinado. Mais especificamente, a IA tem sido usada para traduzir e estender artigos chineses pré -existentes, enfatizando assuntos de discórdios, como violência política, discriminação, sexismo ou política externa, explicando -os pela fraqueza da liderança política americana.
O OpenAI publicou relatórios de segurança há mais de um ano cujo objetivo é, entre outras coisas, “Prevendo o uso de ferramentas de IA por regimes autoritários para fortalecer seu poder ou controle sobre seus cidadãos, para ameaçar ou forçar outros estados ou a realizar operações de influência sob cobertura”. Seus próprios investigadores empregam ferramentas baseadas na IA.
