MPC-SP faz alerta sobre uso irresponsável de IA e risco de “alucinação jurídica” em manifestações processuais

O uso de ferramentas de inteligência artificial generativa no âmbito processual esteve no centro de um importante alerta feito pelo Ministério Público de Contas do Estado de São Paulo durante sessão do Tribunal Pleno realizada no dia 04 de março. Em sustentação oral, a Procuradora-Geral do MPC-SP, Dra. Leticia Formoso Delsin Feres, chamou a atenção para a necessidade de rigor técnico, veracidade das informações e observância da boa-fé processual na utilização dessas tecnologias.

A manifestação ocorreu no julgamento de representação envolvendo edital para contratação de solução integrada de software de gestão pública. Embora o Ministério Público de Contas tenha reiterado, no mérito, os termos já apresentados nos autos, a Procuradora-Geral fez questão de registrar uma preocupação institucional mais ampla.

Na manifestação apresentada por uma das partes foram identificadas referências legais e jurisprudenciais incorretas ou inverídicas, com indicação de números errados, relatorias divergentes, atribuição de teses irreais nos julgados mencionados e até mesmo menção a dispositivos legais inexistentes.

“Isso indica uma alucinação jurídica por IA”, afirmou. Para a Procuradora-Geral, é provável que tenha havido uso de ferramenta de inteligência artificial generativa sem o controle humano suficiente e necessário.

Ela ressaltou que o emprego inadequado dessas tecnologias “tem potencial de induzir o Tribunal a erro”, além de poder configurar violação aos deveres de veracidade, boa-fé e lealdade processual que se impõem a todos que atuam no processo, seja no polo ativo ou passivo.

“A inteligência artificial generativa é importante e necessária para a eficiência, mas necessita do olhar cuidadoso e do uso consciente”, pontuou. A Procuradora-Geral lembrou, ainda, que o próprio Tribunal de Contas do Estado publicou recentemente guia sobre o uso responsável de ferramentas de IA, cujas diretrizes devem ser observadas por todos os que atuam perante a Corte.

O alerta recebeu reconhecimento expresso do relator do processo, Conselheiro Wagner de Campos Rosário, que agradeceu a contribuição do MPC-SP e reforçou a importância da responsabilidade no uso dessas ferramentas.

“Devemos hoje, como servidores e como profissionais, nos utilizar dessas ferramentas, porque elas realmente trazem ganhos. Mas também temos que ter a responsabilidade de saber que se trata de uma ferramenta e que quem está assinando ao final somos nós”, afirmou. O Conselheiro destacou a necessidade de checagem das informações geradas e da confiabilidade das bases de dados utilizadas, parabenizando o Ministério Público de Contas pelo trabalho realizado.