Lorenzo Tondo in Palermo
Partidos da oposição em Itália reclamaram com o cão de vigilância de comunicações sobre uma série de imagens geradas pela IA publicadas nas mídias sociais do partido de extrema-direita do vice-primeiro-ministro Matteo Salvini, chamando-os de “racistas, islamofóbicos e xenofóbicos”, aprendeu o guardião.
O Partido Democrata de Centro-Interessado (PD), com os Verdes e deixou a Aliança, apresentou uma queixa na quinta-feira com a Agcom, a Autoridade Reguladora de Comunicações Italianas, alegando que as imagens falsas usadas pela liga continham “quase todas as categorias de discurso de ódio”.
No mês passado, dezenas de fotos aparentemente geradas por IA apareceram nos canais sociais da liga, inclusive no Facebook, Instagram e X. As imagens frequentemente retratam homens de cor, geralmente armados com facas, atacando mulheres ou policiais.
Antonio Nicita, um senador da PD, disse: “Nas imagens publicadas pelo partido de Salvini e geradas pela IA, existem quase todas as categorias de discurso de ódio, do racismo e da xenofobia à islamofobia.
“Eles estão usando a IA para atingir categorias específicas de pessoas – imigrantes, árabes – que são retratados como possíveis criminosos, ladrões e estupradores.
“Essas imagens não são apenas violentas, mas também enganosas: obscurecendo os rostos das vítimas, é como se eles querem proteger a identidade da pessoa atacada, enganando os usuários a acreditar que a foto é real. Essas são imagens que incitam ódio”.
“Isso é sério”, disse Francesco Emilio Borrelli, um deputado para os Verdes e deixou a Aliança. “A IA gera conteúdo com base em nossas instruções e, neste caso, foi claramente instruído a gerar imagens de pessoas negras roubando uma mulher idosa ou uma mulher assustada. Faz parte de sua estratégia criar medo entre os cidadãos”.
Um porta -voz do partido de Salvini confirmou que “algumas das fotos” apresentadas em seus canais de mídia social haviam sido “geradas digitalmente”.
Em um comunicado, dizia: “O ponto não é a imagem. O ponto é o fato. Cada post é baseado em relatórios verdadeiros de jornais italianos, com nomes, datas e lugares.
“Se a realidade parece muito dura, não culpe aqueles que denunciam, mas aqueles que o fazem. Se é sobre um crime, é difícil acompanhar as notícias com imagens alegres ou tranquilizadoras.”
Salvatore Romano, chefe de pesquisa da IA forense sem fins lucrativos, disse que as fotos da liga tinham “todas as características da inteligência artificial”.
“Eles são fotos fora do contexto nas quais o assunto está em primeiro plano e o restante está totalmente borrado. O que me preocupa é que essas imagens geradas por AI estão se tornando cada vez mais realistas”.
A reclamação à Agcom cita vários exemplos de imagens que se pensam ter sido gerada digitalmente, dizendo que apareceram ao lado da marca de meios de comunicação de mainstream respeitáveis que relataram os crimes mencionados, mas não usaram imagens dos supostos autores.
Em um caso, o post da liga diz: “Um estrangeiro ataca o condutor do trem” e combina o texto com a imagem de um homem de cor com o punho levantado.
O Manchete original no IL Resto del Carlino Leia: “Ele ataca o condutor de trem (feminino) e o Sparks entra em pânico a bordo”. O artigo não menciona a nacionalidade do suspeito, além de chamá -lo de “estrangeiro”. Não houve fotografia do suposto ataque.
Outra imagem apresentada na denúncia mostra uma mãe e um pai em vestido islâmico parecendo gritar com raiva a uma garota, “alimentando assim o preconceito racial e islamofóbico”.
Il Giorno, o jornal citado, não faz referência em seu relatório à religião da família ou da garota supostamente abusada por seus pais, além de dizer que a criança frequentou a escola de idiomas árabe. Não houve fotografia da família.
O uso de imagens geradas por AI para A propaganda de festas distantes é um fenômeno crescente Isso entrou no mainstream nas eleições européias do ano passado, quando imagens projetadas para afastar medos sobre a imigração ou demonizar líderes como Emmanuel Macron começaram a circular nas mídias sociais.
“Então vieram as eleições americanas com Donald Trump e Elon Musk, que efetivamente normalizaram essa tendência”Disse Romano.
“Hoje vemos que as partes distantes não apenas continuaram a gerar imagens falsas para propaganda, mas também aumentaram seu uso em um momento em que as ferramentas de IA melhoraram a qualidade do conteúdo, tornando o fenômeno ainda mais preocupante”.
Apesar das plataformas sociais serem obrigadas a tomar medidas para antecipar esses riscos – por exemplo, adicionando um rótulo especificando que uma imagem foi gerada pela IA – Romano diz que, na prática, esse mecanismo é quase sempre ineficaz.
Questionado se a liga sabia que as imagens poderiam gerar discurso de ódio, um porta -voz da festa de Salvini disse: “Lamentamos, mas nossa solidariedade vai para as vítimas, não os autores.
“Se denunciar crimes cometidos por estrangeiros significa ‘xenofobia’, talvez o problema não seja a palavra, mas aqueles que a usam para censurar o debate. Continuaremos a denunciar, com fortes palavras e imagens, o que os outros preferem ignorar ‘.
Se a AgCom considerar o conteúdo sinalizado ofensivo, pode, sob a Lei de Serviços Digitais da UE, pedir as postagens a serem retiradas, as contas a serem removidas e as plataformas de mídia social a serem multadas por não conseguirem o comportamento do usuário da polícia.
Em 2023, Agcom multou meta 5,85 milhões de euros (£ 5m) e ordenou a remoção de dezenas de contas por violar a proibição de publicidade em jogos de azar.
Meta, proprietário do Facebook e Instagram, foi abordado para comentar. Um porta-voz da X disse: “Não estamos sob nenhuma obrigação legalmente de rotular todas as imagens geradas pela IA. Está bem claro que essas postagens são políticas simples.
“Tenha certeza, acreditamos que é fundamental manter a autenticidade da conversa em X, e garantimos que estamos bem equipados para lutar contra qualquer mídia manipulada – incluindo a tendência crescente de ‘DeepFakes’ – e colocar rótulos visíveis em qualquer conteúdo desse tipo que tenha sido desmascarado por uma fonte credível”.
