Técnica conhecida como ‘prompt injection’ foi identificada em documento apresentado por advogada de Mato Grosso do Sul. Caso foi encaminhado à OAB-MS e ao Ministério Público da Bahia.
O Tribunal de Justiça da Bahia (TJBA) identificou comandos ocultos em um documento apresentado pela defesa de um acusado de crimes como homicídio e sequestro, com o objetivo de direcionar ferramentas de Inteligência Artificial (IA) utilizadas pela Corte durante a análise de um pedido de Habeas Corpus. O caso foi julgado pela 2ª Turma da Primeira Câmara Criminal.
Segundo análise da Diretoria de Modernização do TJBA, uma camada de texto imperceptível na visualização comum do PDF continha instruções para que o Habeas Corpus fosse deferido caso o documento fosse analisado por uma ferramenta de IA. A técnica, conhecida como prompt injection, consiste na inserção de comandos ocultos ou maliciosos para tentar interferir no funcionamento de sistemas de inteligência artificial.
No voto, o relator, desembargador Pedro Guerra, afirmou que “a área técnica certificou tratar-se de mecanismo deliberado de injeção de instruções (prompt injection), concebido para interferir no fluxo lógico dos algoritmos de IA utilizados na triagem e elaboração de minutas pelo Poder Judiciário”. Diante do caso, o colegiado determinou o envio de ofício à OAB de Mato Grosso do Sul para instauração de procedimento disciplinar e encaminhou cópia do documento ao Ministério Público da Bahia para apuração de eventuais ilícitos.
Apesar da tentativa identificada, o pedido de Habeas Corpus foi negado pela 2ª Turma da Primeira Câmara Criminal. O processo envolve D.A.B., que teve a prisão preventiva decretada pela Vara Criminal de Iguaí e é investigado por suspeitas de homicídio qualificado, sequestro e cárcere privado, adulteração de sinal identificador de veículo automotor e organização criminosa armada. O TJBA ressaltou ainda que o uso de IA na Corte permanece submetido a mecanismos de segurança e supervisão dos magistrados.
Fonte: Blog do Valente / Imagem: reprodução
