Defensoria Pública adota ferramenta para barrar fraudes com inteligência artificial em processos judiciais

A Defensoria Pública de todo o país passará a contar com uma nova ferramenta tecnológica para reforçar a segurança no uso da inteligência artificial no Judiciário. Desenvolvido pelo Jusbrasil, o sistema é capaz de detectar indícios de "prompt injection", técnica utilizada para inserir comandos ocultos em documentos processuais com o objetivo de influenciar análises feitas por sistemas de IA.

A iniciativa surge após um caso que chamou a atenção da Justiça brasileira. Em Parauapebas, no Pará, duas advogadas foram multadas em R$ 84 mil sob a acusação de utilizar inteligência artificial para fraudar um processo judicial por meio desse tipo de manipulação.

O chamado "prompt injection" consiste na inclusão de instruções invisíveis ao leitor comum, mas interpretadas por ferramentas de inteligência artificial. Esses comandos podem estar escondidos em metadados de imagens anexadas aos autos ou escritos com fonte branca, tornando-se praticamente imperceptíveis durante a leitura tradicional do documento.

Entre os riscos apontados estão a indução da IA a ignorar determinados argumentos, favorecer uma das partes envolvidas ou apresentar resumos distorcidos do processo, comprometendo a análise jurídica e a formação da jurisprudência.

No caso investigado em Parauapebas, o comando oculto inserido na petição orientava a inteligência artificial a responder superficialmente ao documento e a não contestar as provas apresentadas, independentemente das instruções recebidas posteriormente.

Segundo o presidente do Conselho Nacional das Defensoras e Defensores Públicos-Gerais (Condege) e defensor público-geral do Paraná, Matheus Munhoz, a adoção da ferramenta busca garantir que a inteligência artificial seja utilizada de forma responsável e segura.

"As Defensorias Públicas de todo o Brasil lidam diariamente com milhares de processos e estamos atentos para que o uso da inteligência artificial seja feito com segurança e confiança, sem colocar em risco os direitos de nossos assistidos", afirmou. Para ele, diante do surgimento de casos envolvendo "prompt injection", investir em mecanismos capazes de identificar esse tipo de fraude tornou-se uma medida essencial para preservar a integridade dos processos judiciais.

Siga o CN1 no Google Notícias e tenha acesso aos destaques do dia.