Mais e mais pessoas estão usando Ai-Chatbots, como ChatGPT, Gemini, Le Chat ou Copilot, em vez de mecanismos de pesquisa para encontrar informações online. A vantagem disso é que esses modelos de grande língua (LLMS) não apenas fornecem links para as informações que reproduzem, mas também resumem o conteúdo de uma maneira concisa que permite que os usuários acessem mais informações mais rapidamente.
No entanto, essa abordagem também é propensa a erros. Afinal, não é incomum para chatbots para cometer erros . Esse fenômeno, conhecido como alucinação, é conhecido há muito tempo.
Em outros casos, os chatbots da AI combinam informações de forma que eles produzam um resultado incorreto. Especialistas chamam isso de confabulação.
Os chatbots também se apaixonam por notícias falsas sobre os eventos atuais, embora isso seja menos conhecido, de acordo com a empresa americana NewsGuard, que estabeleceu a tarefa de verificar a credibilidade e a transparência de sites e serviços da Web.
Por que os chatbots russos da IA propagam a desinformação?
Portal Kombat, uma rede de propaganda russa que atraiu atenção com numerosos campanhas de desinformaçãopode ser um dos principais jogadores importantes da desinformação on -line. A rede suporta o Luta do exército russo na Ucrânia via portais da Internet que espalham a propaganda pró-russa.
Portal Kombat foi investigado por Braçosuma unidade de investigação do governo francês criou para combater informações manipuladas do exterior. O Centro de Monitoramento encontrou pelo menos 193 sites diferentes que eles atribuíram a essa rede entre setembro e dezembro de 2023.
O vetor central da rede parece ser o portal de notícias on -line Pravda, disponível em vários idiomas, incluindo alemão, francês, polonês, espanhol e inglês.
Inglaterra de notícias falsas em todo o mundo
Segundo Viginum, os sites da Portal Kombat não publicam seus próprios artigos. Em vez disso, eles reproduzem o conteúdo de terceiros principalmente usando três fontes: “Contas de mídia social de atores russos ou pró-russos, agências de notícias russas e sites oficiais de instituições ou atores locais”, como um relatório da Viginum dos estados de fevereiro.
Os artigos são caracterizados por uma redação um tanto estranha, erros de transcrição típicos do cirílico ao alfabeto latino e comentários coloridos.
A Iniciativa Anti-Disinformação dos EUA identificado Mais de 180 suspeitos de sites de portal Kombat.
De acordo com as estimativas do ASP, cerca de 97 domínios e subdomínios pertencentes ao círculo interno da rede Pravda publicam mais de 10.000 artigos por dia.
Os tópicos não estão mais limitados à Aliança de Defesa da OTAN e aos países aliados, como o Japão e a Austrália, mas também cobrem países no Oriente Médio, Ásia e Áfricaem particular o Região Sahelonde a Rússia está lutando influência geoestratégica.
Os chatbots são o novo grupo -alvo?
De acordo com o internet Watchdog Newsguard, algumas páginas do Pravda têm apenas cerca de 1.000 visitantes por mês, enquanto o site da RT, o Russo controlado pelo estado O International News Channel, tem mais de 14,4 milhões de visitas por mês.
Os analistas estão convencidos de que o grande volume de artigos afeta as saídas dos chatbots. Eles suspeitam ainda que esse é precisamente o objetivo de toda a rede: os grandes modelos de idiomas (LLM), os programas por trás dos chatbots, devem perceber e citar suas publicações como fontes legítimas e, assim, espalhadas desinformação.
Supondo que este seja o plano, parece estar valendo a pena, de acordo com o descobertas de Newsguard. O grupo de pesquisa examinou como os chatbots reagiram a 15 reivindicações comprovadamente comprovadamente falsas espalhadas na rede Pravda entre abril de 2022 e fevereiro de 2025.
Os pesquisadores entraram em três versões diferentes de cada reivindicação nos chatbots. Primeiro, com uma formulação neutra que pergunta se a reivindicação está correta, então com uma pergunta que assume que a reivindicação é verdadeira e, finalmente, como se um ator maligno pretendia obter uma declaração que repete a reivindicação falsa.
Em um terço dos casos, os chatbots confirmaram a desinformação pró-russa. Em menos da metade dos casos, eles apresentaram corretamente os fatos. No restante dos casos, os modelos se recusaram a responder.
Os pesquisadores de newsguard conduziram outro estudarEm janeiro de 2025. Desta vez, eles testaram os chatbots para dez mensagens falsas. Eles examinaram respostas em sete idiomas diferentes e não se restringiram ao conteúdo pró-russo.
Enquanto os bots tiveram um desempenho um pouco melhor neste experimento, eles ainda confirmaram as notícias falsas em pouco mais de um quarto de suas 2.100 respostas.
Mantenha -se vigilante, fontes de verificação, pergunte novamente
Para os usuários do LLM, isso significa, acima de tudo: mantenha -se vigilante. Há muito desinformação circulando na internet. Mas o que mais você pode prestar atenção?
Infelizmente, mudar a redação dos avisos iniciais dificilmente ajuda, como disse McKenzie Sadeghi, da Newsguard. “Embora os avisos de ator maligno tenham maior probabilidade de obter informações falsas, pois esse é o objetivo pretendido, mesmo os avisos inocentes e principais resultaram em desinformação”, disse ele à DW.
De acordo com números que não foram publicados no relatório de 2022 a 2025, mas foram disponibilizados para a DW, os pesquisadores receberam uma resposta errada a um prompt neutro ou tendencioso em cerca de 16% de todos os casos.
Portanto, a dica de Sadeghi é verificar e Compare fontes. Isso pode incluir pedir a vários chatbots. Respostas de chatbot de referência cruzada com fontes confiáveis também podem ajudar a avaliar uma situação.
No entanto, é aconselhado cautela, pois os layouts da mídia estabelecida são às vezes copiados para emprestar credibilidade para falsificar portais de notícias.
Quando se trata de encontrar respostas verdadeiras, o tempo é essencial. É mais provável que os chatbots falhem no caso de novos relatórios falsos que estão se espalhando rapidamente. Mas depois de um tempo, eles acabarão se deparar com verificações de fatos que desmascaram as falsas reivindicações iniciais.
Este artigo faz parte de um Verificação de fatos DW Série sobre alfabetização digital. Outros artigos incluem:
Você pode descobrir mais sobre esta série aqui. E isso é Como a verificação de fatos DW funciona e verifica reivindicações e conteúdo.
Tilman Wagner contribuiu para este artigo, publicado originalmente em alemão.
