Steven Poole
UMt No início deste ano, Keir Starmer anunciado Um “Plano de Ação de Oportunidades de AI”, que promete a AI principal “nas veias desta nação empreendedora”. A implicação de que a IA é uma substância injetável de Classe A, passível de tornar o usuário estupefato e viciado, era presumivelmente involuntário. Mas então o que na terra fez Eles significam sobre o potencial da IA e tiveram algum bom motivo para acreditar?
Não de acordo com os autores deste livro, que são refrescantemente sarcásticos sobre o que eles acham que é apenas mais uma bolha tecnológica. O que é vendido para nós como IA, eles anunciam, é apenas “uma lista de mercadorias”: “Alguns grandes jogadores bem colocados estão prontos para acumular riqueza significativa, extraindo valor do trabalho criativo de outras pessoas, dados pessoais ou mão-de-obra e substituindo serviços de qualidade por fac-símiles artificiais”.
Pegue os grandes modelos de idiomas (LLMS), como o ChatGPT, que essencialmente funcionam como a fantasia de preenchimento automático e rotineiramente inventar citações fontes inexistentes. Eles foram “treinados” – como se fossem filhotes adoráveis - em vastos bancos de dados de livros, bem como raspas de sites. (Meta ingeriu deliberadamente um desses bancos de dados ilegais, Sussurraralegando que é “uso justo”.) Enquanto isso, “uma pesquisa realizada pela Sociedade de Autores descobriu que 26% dos autores, tradutores e ilustradores pesquisados haviam perdido o trabalho devido à IA generativa”.
Melhor pensar nos LLMs, Bender e Hanna sugerem, como “máquinas sintéticas de extrusão de texto”. “Como um processo plástico industrial”, eles explicam, os bancos de dados de texto “são forçados através de máquinas complicadas a produzir um produto que se parece com uma linguagem comunicativa, mas sem nenhuma intenção ou mente pensadora por trás disso”. O mesmo se aplica a outros modelos de IA “generativos” que cuspiram imagens e música. Eles são todos, dizem os autores, “máquinas de mídia sintética” – ou, como eu gosto de chamá -los, máquinas gigantes de plágio. “Tanto os modelos de idiomas quanto os modelos de texto para a imagem vão plagiar suas contribuições”, escrevem os autores, observando que o New York Times é processando Openai por esse motivo.
Mas a confiança na IA não é apenas ruim para os artistas em Garrets; É ruim para todos, como Bender e Hanna argumentam de forma persuasiva. O fato de os resultados da pesquisa na Internet agora começarem com um resumo gerado pela IA, eles apontam, provavelmente embotarão o pensamento crítico-e não apenas porque esses resumos no passado disseram às pessoas que deveriam comer pedras, mas porque “examinar um conjunto de links nos fornece informações sobre quais fontes de informação estão disponíveis” e, portanto, cria “nossa compreensão da paisagem da informação”.
O verdadeiro apelo da IA, como os autores vêem, é que ela promete permitir a criação de um grande número de pessoas redundantes. Eles relatam, por exemplo, como a Associação Nacional de Distúrbios Alimentares nos EUA substituído Seus operadores de linha direta com um chatbot dias após o primeiro votaram na Unionise. De acordo com o relatório de 2025 do Fórum Econômico Mundial, 40% dos empregadores planejam reduzir os funcionários de funcionários à medida que adotam a IA nos próximos anos.
Eu, por exemplo, não quero viver em um terreno baldio cultural de lixo gerado pela IA. Mas, como é divertido como o lado deste livro contra as máquinas gigantes de plágio, ele tende a agrupar tudo o que pode ser chamado de “AI” com elas. E os autores sabem melhor: “Ai é um termo de marketing”, observam no início. “Não se refere a um conjunto coerente de tecnologias”. Eles permitem, posteriormente, que existem “casos de uso sensatos” para essa tecnologia, como o processamento de imagens que ajuda os radiologistas, mas há muito mais que não são mencionados.
Sob uma definição mais ampla de “IA” como sistemas de aprendizado de máquina, as ferramentas emergentes podem, de acordo com uma visão geral recente do economista, gerenciar a carga na grade de eletricidade com mais eficácia, reduzir o tempo necessário para inspecionar as instalações nucleares e ajudar a reduzir as emissões nas indústrias de caminhões, remessas, siderúrgicas e mineração. O engenheiro britânico Demis Hassabis venceu o Nobel em Química no ano passado pelo trabalho de sua empresa DeepMind sobre dobramento de proteínas, que ainda pode ter aplicações profundas na fabricação de drogas. E, menos glamourosamente, as máquinas agora podem transcrever automaticamente as notas dos médicos: um exemplo que esses autores apresentam como uma razão pela qual é ruim que a IA esteja se infiltrando no NHS, mas certamente uma que é uma vitória para médicos e pacientes.
No entanto, Bender e Hanna têm razão em insistir que cada caso seja examinado por sua utilidade, os vieses em que pode contrabandear e sua propensão a destruir empregos que dependem do julgamento humano. Eles citam uma famosa regra antiga da IBM: “Um computador nunca pode ser responsabilizado; portanto, um computador nunca deve tomar uma decisão de gerenciamento”. Mas é exatamente por isso que alguns no poder querem entregar a capacidade de tomada de decisão para os computadores: promete uma utopia iluminada pelo sol do lucro sem culpa. Uma vez que a IA é principal em nossas veias, podemos estar muito dopados para cuidar.
Após a promoção do boletim informativo
