TJBA flagra tentativa de fraude envolvendo IA em julgamento de Habeas Corpus

Foto: Divulgação

O Tribunal de Justiça da Bahia (TJBA) identificou o uso, por parte da defesa de um acusado de crimes como homicídio e sequestro, de comandos ocultos em um documento digital com o intuito de direcionar ferramentas de Inteligência Artificial (IA) da Corte a atender a um pedido de Habeas Corpus Criminal, julgado no plenário virtual pela 2ª Turma da Primeira Câmara Criminal.

Conhecida como prompt injection, a técnica é usada para manipular sistemas de IA por meio de instruções ocultas ou maliciosas inseridas em textos e documentos. O objetivo é fazer com que os sistemas ignorem orientações originais e executem ações não previstas.

Segundo a análise realizada pela Diretoria de Modernização do TJBA, houve a inserção, no documento em que o habeas corpus foi solicitado, de uma camada textual imperceptível à visualização ordinária em PDF, com instruções para que o Habeas Corpus fosse deferido em caso de a análise do caso ser feita por Inteligência Artificial. O documento foi protocolado por uma advogada que atua no Mato Grosso do Sul.

“A área técnica certificou tratar-se de mecanismo deliberado de injeção de instruções (prompt injection), concebido para interferir no fluxo lógico dos algoritmos de IA utilizados na triagem e elaboração de minutas pelo Poder Judiciário”, destaca o voto do relator do caso, Desembargador Pedro Guerra.

Diante da situação, o colegiado determinou o envio de um ofício à Ordem dos Advogados do Brasil – seccional Mato Grosso do Sul (OAB-MS) para a instauração de um procedimento disciplinar contra os envolvidos, diante da gravidade da conduta. Uma cópia do documento também foi remetida ao Ministério Público da Bahia (MPBA), para apuração de eventuais ilícitos.

O TJBA destaca que a utilização de ferramentas de Inteligência Artificial generativa segue estritamente os requisitos de segurança da informação, proteção de dados pessoais e governança, conforme a legislação vigente. A utilização de IA na Corte não dispensa a supervisão e a revisão dos processos pelos magistrados, que permanecem como os únicos responsáveis pelo conteúdo das decisões judiciais.

Além disso, o Centro de Inteligência da Justiça Estadual (CIJEBA) aprovou, em julho, uma nota técnica com o objetivo de disseminar o conhecimento e alertar os magistrados sobre os riscos do prompt injection, fornecendo ferramentas para sua identificação, repressão e prevenção.

O caso

No julgamento do caso em questão, a 2ª Turma da Primeira Câmara Criminal negou o pedido de Habeas Corpus no processo que decretou a prisão preventiva de D.A.B., indiciado pela suposta prática de crimes de homicídio qualificado, sequestro e cárcere privado, adulteração de sinal identificador de veículo automotor e organização criminosa armada.

A decisão destaca que a decretação da custódia cautelar, determinada pela Vara Criminal de Iguaí, se apoiou em dados fáticos palpáveis e concretos extraídos do procedimento investigatório.

O relator do caso pontua, ainda, que a aplicação de medidas cautelares diversas da prisão se mostra “inadequada e insuficiente para salvaguardar a ordem pública, resguardar a integridade da instrução penal e garantir a eficácia de eventual decreto condenatório futuro”.