“DeepFakes, Videos, Audios – é tão fácil produzir desinformação em casa de graça com a ajuda de inteligência artificial. O que pode acontecer em cinco ou 10 anos é realmente assustador “, disse Hendrik Sittig, diretor do programa de mídia da Konrad Adenauer Foundation na África Subsaariana.
O relatório de risco global de 2024 do Fórum Econômico Mundial também descrito também descrito Desinformação suportada pela IA Como uma ameaça número 1 e, de acordo com Sittig, muitas vezes pretende minar os princípios democráticos e dividir as sociedades.
Em cooperação com a Fundação Konrad Adenauer, Karen Allen, do Institute for Security Studies na África do Sul e Christopher Nehring, do Instituto CyberIntelligence na Alemanha, na Alemanha Desinformação da IA documentada na África e na Europa em torno das eleições nacionais.
Eles descobriram que as campanhas de desinformação da IA pretendem minar as autoridades e processos eleitorais. O estudo reconheceu que, além das eleições, a desinformação da IA dificilmente foi investigada na África.
Variedade de atores usa a desinformação da IA para impulsionar a propaganda
Allen e Nehring descobriram que a Europa e a África enfrentam desafios semelhantes.
“Poderíamos identificar muitos culpados que usam as mesmas ferramentas de IA”, disse Nehring à DW, acrescentando que o uso de inteligência artificial para campanhas eleitorais e desinformação é particularmente prevalente entre os partidos políticos extremos da direita.
Enquanto o estudo descobriu que Rússia Parece ter tornado a desinformação gerada pela IA um instrumento de sua política internacionalmente, outros atores da China ou dos estados do Golfo também têm como alvo a África para espalhar sua narrativa através da propaganda.
De acordo com Nehring, grupos com links para outros estados, criminosos cibernéticos, organizações terroristas e islâmicas usam a IA em campanhas de desinformação on -line principalmente para gerar conteúdo. Isso rastreia com estudos anteriores de outros pesquisadores.
Mas em muitos Nações africanaso acesso à Internet e redes de mídia social geralmente é proibitivamente caro e, em algumas áreas, nem mesmo disponíveis. Como resultado, Nehring e Allen notaram que há comparativamente pouca disseminação de fagos de profundidade-conteúdo de vídeo de aparência realista, onde a face de uma pessoa de destaque é trocada, ou a voz é falsa usando ai-e mais barata e mais fácil de recuperar “barato falsificações. “
Para Allen, o acesso a “informações claras, verificáveis e verdadeiras sobre as quais as pessoas podem fazer seus próprios julgamentos políticos” é crucial.
Desinformação influenciando a opinião pública em conflito do Congo
Os brigas atuais no leste República Democrática do Congo entre forças do governo congolês e o Ruanda-M23 apoiado tem sido um terreno fértil para desinformação e discurso de ódio.
Em meio ao crescente conflito, imagens e conteúdo de texto vinculados às contas ruandesas influenciou a opinião pública, disse Allen.
“Isso reforça a suspeita de que certas figuras políticas estão exacerbando tensões entre os dois lados”, disse ela.
Ela acrescentou que, no caso de Ruanda, a IA foi usada para inundar plataformas de mídia social e abafar vozes dissidentes. Essa tática é especialmente usada em zonas de conflito, mas também durante as eleições.
Mais notícias falsas em regiões instáveis
Estudos mostram que o conteúdo gerado pela IA é cada vez mais influente na África, mas também houve um crescimento em organizações credenciadas por verificação de fatos.
Na África do Sul, a plataforma Real411 permite que os eleitores relatem preocupações sobre o conteúdo político on -line, incluindo o possível uso da IA.
Com cerca de 26 milhões de usuários de mídia social, África do Sul Ofereceu uma ampla audiência para a manipulação de informações apoiadas pela IA durante as eleições parlamentares de 2024. O recém-fundado Umkhonto We Sizwe Party, liderado pelo ex-presidente Jacob Zumadisseminou um vídeo de Deepfake do presidente dos EUA, Donald Trump, no qual ele teria anunciado seu apoio ao partido. De acordo com o estudo de Nehring e Allen, esse foi o conteúdo de IA mais compartilhado durante a eleição, mas não a primeira instância de de DeepFakes em torno de transições de poder político.
Avatares influenciam a votação em Burkina Faso
Em Burkina Faso, Os vídeos que circulavam após o golpe de setembro de 2022, no qual o capitão Ibrahim Traore assumiu o controle, instou os cidadãos a apoiar a junta militar.
Os vídeos falsos, primeiro descobertos em Facebook E depois circulou nos grupos do WhatsApp e nas mídias sociais, mostre às pessoas que se chamam pan-africanistas. Uma suspeita de conexão com o mercenário russo Grupo Wagnerque ainda estava ativo na época, não poderia ser comprovado.
“Aconteceu que esses eram todos os avatares. Eles não eram pessoas reais. Eles (haviam sido criados para apoiar uma narrativa política, nesse caso em particular, apoiando o golpe”, disse Allen, acrescentando que a sintetésia da AI-Tool foi usada para Crie o conteúdo.
“Vimos a mesma plataforma usada por outros atores, atores chineses também, para criar tipos semelhantes de distorções”, acrescentou.
Ela disse que os cidadãos africanos podem se proteger contra a manipulação on -line, recebendo suas notícias de uma “variedade de fontes”. Mas isso se tornou mais difícil, já que grandes plataformas de mídia social como X e Facebook mudaram a verificação de fatos em suas próprias plataformas, passando essencialmente a responsabilidade de verificação de conteúdo para os usuários.
Enquanto a África fica atrás da Europa em rigorosos regulamentos de proteção de dados, Allen disse que o aumento da troca de práticas ou plataformas de verificação de fatos nas quais as pessoas podem denunciar suspeita de desinformação é um bom começo. O estudo também indica que o ambiente regulatório em evolução da África significa que pode aprender com os erros cometidos em outros lugares para lidar melhor com a desinformação orientada à IA.
Este artigo foi originalmente escrito em alemão e adaptado por Cai Nebe.
