Dan Milmo Global technology editor
A empresa de inteligência artificial de Elon Musk culpou uma “modificação não autorizada” por uma falha em seu chatbot Grok que resultou na ferramenta reclamando sobre “genocídio branco” na África do Sul.
Em um post na plataforma X de Musk, Xai disse que novas medidas seriam trazidas para garantir que seus funcionários não possam modificar o comportamento do bot sem supervisão extra.
O BOT GROK se referiu repetidamente a um genocídio branco na África do Sul – um reivindicação desacreditada Promovido por Donald Trump entre outras figuras populistas dos EUA – esta semana em respostas a consultas não relacionadas.
Um usuário da plataforma X de Musk, que também hospeda Grok, pediu ao bot que identificasse a localização de uma foto de um caminho de caminhada, desencadeando um desvio não seqüidor para o “debate de ataques agrícolas da África do Sul”.
A Xai, a empresa de propriedade de almíscar que desenvolveu o chatbot, disse em um post sobre X que o comportamento errático do bot foi devido a uma mudança não autorizada feita no prompt do sistema do Grok Bot, que orienta as respostas e ações de um chatbot.
“Essa mudança, que instruiu a GROK a fornecer uma resposta específica sobre um tópico político, violou as políticas internas e os valores centrais da Xai”, disse Xai.
O post adicionou novas medidas para garantir que os funcionários da XAI “não possam modificar o prompt sem revisão”. Ele disse que o processo de revisão do código para alterações imediatas foi “contornado” no incidente. Uma nova equipe de monitoramento 24/7 também está sendo trazida para lidar com respostas não capturadas por sistemas automatizados, disse Xai.
A startup acrescentou que publicará o sistema GROK solicitar abertamente no GitHub, uma plataforma onde os desenvolvedores podem acessar o código de software.
O presidente dos EUA concedeu asilo a 54 sul -africanos brancos na semana passada. Trump tem assinou uma ordem executiva A concessão de status de refugiado aos africânderes – descendentes de colonos predominantemente holandeses que dominaram a política sul -africana durante o apartheid – dizendo que enfrentavam discriminação e violência raciais.
Após a promoção do boletim informativo
Desde então, Trump disse que os afrikaners estão sujeitos a “um genocídio” e “os agricultores brancos estão sendo brutalmente mortos”, sem fornecer evidências para essas reivindicações.
O presidente da África do Sul, Cyril Ramaphosa, disse que as alegações de que os brancos estão sendo perseguidos em seu país é uma “narrativa completamente falsa”.
