Inteligência Artificial (AI) Os advogados enganados em uma corte sul-africana na província costeira de KwaZulu-Natal, com sérias conseqüências: a IA inventou fatos.
A pesquisa com o ChatGPT, um chatbot da IA, pretendia facilitar o trabalho de uma equipe de advogados e encontrar exemplos de casos suplementares para seus argumentos em uma disputa perante o Supremo Tribunal em Pietermaritzburg.
A IA fez exatamente isso. Os representantes legais apresentaram um aviso de apelação no qual citaram várias autoridades e estudos de caso.
O juiz conduziu uma pesquisa independente usando o ChatGPT para verificar uma das citações. Para sua total espanto, muitos dos casos citados não foram incluídos em nenhum banco de dados legal reconhecido.
O Tribunal finalmente decidiu contra o demandante, afirmando na sentença por escrito: “O Tribunal ganhou a impressão de que os advogados depositaram falsa confiança na veracidade da pesquisa jurídica gerada por IA e, por preguiça, não conseguiu verificar esta pesquisa”.
Fatos arrancados do ar
Tayla Pinto, advogada especializada em IA, proteção de dados e lei de TI, vê uma ameaça crescente à profissão: “Quando perguntado como isso aconteceu e de onde vieram as citações, o advogado admitiu usar a IA generativa”, disse Pinto à DW. “Isso mostra que o problema dos advogados não saberem usar a IA generativa de forma responsável e eticamente está crescendo”.
Segundo Pinto, há três casos em África do Sul em que os consultores jurídicos envolvidos usaram a IA para criar seus documentos judiciais: em junho, houve uma aplicação incorreta semelhante de IA no caso trazida pela empresa de mineração processando para o norte contra o diamante sul -africano e a autoridade regulatória de metais preciosos.
Este também foi o caso em 2023 em um julgamento de difamação e no caso do Tribunal Superior de Pietermaritzburg, que causou um rebuliço no tribunal em 2024 e agora está sendo revisado pelo Conselho de Prática Jurídica a Associação de Advogados Provinciais.
Um problema criado pelo homem
O caso foi apresentado por Philani Godfrey Mavundla, que foi suspenso como prefeito do município de Umvoti em KwaZulu-Natal. Em primeira instância, ele até prevaleceu contra a autoridade regional responsável.
No entanto, este último apresentou um recurso – e seus advogados aparentemente se basearam cegamente na veracidade dos estudos de caso fornecidos pela IA perante o Supremo Tribunal.
Este não é um problema tecnológico, diz o advogado Pinto. “Sempre usamos a tecnologia na forma de calculadoras, verificadores de feitiços e gramáticos e assim por diante. Agora está se tornando um problema causado pelo homem”.
Ela acrescentou: “Dado o caminho e o ritmo em que a IA está se desenvolvendo, se quisermos usar a IA, devemos garantir que o fazemos de uma maneira ética, responsável e consistente com os deveres que assumimos como profissão de advogado”.
O Tribunal negou improcedente a solicitação de Mavundla de recorrer do caso de liderança da comunidade com base em uma baixa perspectiva de sucesso e criticou a alegação do caso como falha e não profissional.
O juiz ordenou que o escritório de advocacia de Mavundla pagasse as custas de participações judiciais adicionais. Com essa ordem, o Tribunal expressou sua desaprovação da conduta do escritório de advocacia ao enviar evidências legais não verificadas e fictícias.
Uma cópia do julgamento foi enviada ao Conselho de Prática Jurídica em KwaZulu-Natal para investigação e possível ação disciplinar contra os advogados envolvidos.
Abuso de conteúdo gerado pela IA
Muito poucas queixas formais foram apresentadas, embora vários assuntos estejam começando a ser encaminhados ao Conselho de Prática Jurídica (LPC) para analisar, confirme Kabele Letebele, porta -voz do Tribunal de Prática Legal de Joanesburgo.
O LPC continua a monitorar desenvolvimentos e tendências em torno da inteligência artificial, diz ele. “Nesse estágio, o LPC sustenta a visão de que ainda não há uma necessidade de uma nova regra ética e que nossas regras, regulamentação e código de conduta existentes sejam adequadamente para lidar com reclamações que regulam o uso da IA – mesmo que o debate continue dentro do LPC”, diz Letebele.
Segundo Letebele, os profissionais jurídicos são advertidos contra cegamente citar a Caselaw aumentada usando as ferramentas de IA, pois casos em que existem imprecisões serão considerados negligência e como potencialmente enganosos para o tribunal.
Ele enfatiza que a Biblioteca de Direito do LPC está disponível para os profissionais jurídicos, sem nenhum custo, os profissionais podem verificar e encontrar as informações mais recentes sobre as leis de caso e a pesquisa legal necessária ao preparar questões legais.
Além disso, existem webinars de conscientização conduzidos para os profissionais de advogados destacarem questões que o LPC está buscando e como eles podem garantir que evite estar em violação de regras, regulamentos e código de conduta do LPC.
Juízes, promotores e funcionários do tribunal precisam estar cientes de que resumos e argumentos agora podem conter não apenas erros humanos, mas também erros de IA.
“Os juízes dependem muito das submissões de advogados durante as audiências, especialmente em aspectos legais”, diz Mbekezeli Benjamin, advogado de direitos humanos e presidente da Judges Matter, em uma entrevista da DW. A organização defende mais transparência e responsabilidade.
Benjamin expressa grande preocupação quando os advogados confiam muito no uso da IA, cuja suscetibilidade ao erro pode enganar o tribunal. “Isso enfraquece significativamente o processo judicial porque, infelizmente, cria desconfiança entre os juízes sobre a precisão das declarações feitas por advogados em seus argumentos”, diz ele.
Altere o Código de Conduta para Trabalhadores Jurídicos
O advogado Tayla Pinto não vê necessidade de regulamentação específica do uso da IA para pesquisas judiciais, mas vê a necessidade de atenção especial à revisão das referências enviadas usando a IA e a conformidade com os padrões éticos.
No entanto, Benjamin, diz que os avisos dentro da profissão de advogado para revisar o uso de ferramentas de IA na produção não são suficientes. “A Câmara deve emitir diretrizes claras, incluindo uma emenda ao Código de Conduta, para regular como a IA deve ser usada em procedimentos judiciais. Mas também deixa claro que a dependência excessiva sem revisar o conteúdo da IA constitui má conduta profissional”.
Benjamin também pede uma revisão do Código de Conduta da profissão, para que o uso inadequado da inteligência artificial possa ser punido como uma violação de dever com uma multa ou mesmo exclusão ou remoção do Registro de Profissionais Jurídicos.
A Sociedade de Direito da África do Sul também alerta que mesmo a submissão inadvertida de informações falsas pode arruinar uma carreira.
Editado por: Benita van Eyssen
