TJBA identifica tentativa de manipular IA em pedido de habeas corpus

O Tribunal de Justiça da Bahia (TJBA) identificou o uso de comandos ocultos em um documento digital apresentado pela defesa de um acusado de crimes como homicídio e sequestro. Segundo a Corte, as instruções tinham como objetivo direcionar ferramentas de Inteligência Artificial (IA) utilizadas pelo tribunal para favorecer o pedido de Habeas Corpus Criminal.

A tentativa foi identificada durante o julgamento do caso pela 2ª Turma da Primeira Câmara Criminal, realizado em plenário virtual. A técnica utilizada é conhecida como prompt injection e consiste na inserção de instruções ocultas ou maliciosas em textos e documentos para tentar alterar o comportamento de sistemas de IA.

De acordo com análise da Diretoria de Modernização do TJBA, o documento apresentado pela defesa continha uma camada textual imperceptível na visualização convencional de um arquivo PDF. Nessa camada, havia instruções para que o pedido de Habeas Corpus fosse deferido caso a análise fosse realizada por uma ferramenta de Inteligência Artificial.

O documento foi protocolado por uma advogada que atua no Mato Grosso do Sul.

“A área técnica certificou tratar-se de mecanismo deliberado de injeção de instruções (prompt injection), concebido para interferir no fluxo lógico dos algoritmos de IA utilizados na triagem e elaboração de minutas pelo Poder Judiciário”, afirmou o relator do caso, desembargador Pedro Guerra, em seu voto.

Diante da situação, o colegiado determinou o envio de ofício à Ordem dos Advogados do Brasil – Seccional Mato Grosso do Sul (OAB-MS) para a instauração de procedimento disciplinar contra os envolvidos. Uma cópia do documento também foi encaminhada ao Ministério Público da Bahia (MPBA) para apuração de eventuais ilícitos.

O TJBA ressaltou que o uso de ferramentas de Inteligência Artificial generativa na Corte segue requisitos de segurança da informação, proteção de dados pessoais e governança, conforme a legislação vigente.

A utilização dessas tecnologias, segundo o tribunal, não substitui a atuação dos magistrados. Os processos continuam submetidos à supervisão e revisão humana, e os juízes permanecem responsáveis pelo conteúdo das decisões judiciais.

Alerta sobre Prompt Injection

O Centro de Inteligência da Justiça Estadual (CIJEBA) aprovou, em julho, uma nota técnica destinada a ampliar o conhecimento dos magistrados sobre os riscos relacionados ao prompt injection.

O documento reúne orientações e ferramentas para auxiliar na identificação, repressão e prevenção de tentativas de manipulação de sistemas de Inteligência Artificial utilizados no Judiciário.

O caso

No processo analisado, a 2ª Turma da Primeira Câmara Criminal negou o pedido de Habeas Corpus apresentado em favor de D.A.B., que teve a prisão preventiva decretada no âmbito de investigação sobre a suposta prática de homicídio qualificado, sequestro e cárcere privado, adulteração de sinal identificador de veículo automotor e organização criminosa armada.

Segundo a decisão, a prisão preventiva determinada pela Vara Criminal de Iguaí foi fundamentada em elementos concretos obtidos durante o procedimento investigatório.

O relator também avaliou que a substituição da prisão por medidas cautelares diversas seria “inadequada e insuficiente para salvaguardar a ordem pública, resguardar a integridade da instrução penal e garantir a eficácia de eventual decreto condenatório futuro”.

Siga o CN1 no Google Notícias e tenha acesso aos destaques do dia.