O Tribunal de Justiça do Amazonas (TJAM) reforçou a segurança da plataforma de Inteligência Artificial “Arandu GPT”, utilizada por magistrados e servidores, com mecanismos capazes de identificar e bloquear tentativas de manipulação por comandos ocultos em documentos processuais. A medida amplia a proteção das análises automatizadas e fortalece a integridade das atividades judiciais.
Desenvolvida pela Secretaria de Tecnologia da Informação e Comunicação (SETIC) do TJAM, sob a coordenação da desembargadora Vânia Marques Marinho, presidente da Comissão de Gestão de Tecnologia da Informação, a ferramenta Arandu foi projetada para identificar demandas repetitivas e predatórias no sistema judicial, contribuindo para uma gestão processual mais eficiente.
Reconhecida internacionalmente após conquistar o primeiro lugar no Expojud Portugal 2026, realizado na Faculdade de Direito da Universidade de Lisboa, a plataforma agora também se destaca pela implementação de uma camada avançada de proteção contra tentativas de manipulação da IA por meio da técnica conhecida como “prompt injection” (injeção de comando).
A ferramenta detecta automaticamente comandos ocultos inseridos em documentos processuais com a finalidade de tentar induzir a Inteligência Artificial a desconsiderar regras de segurança, ignorar análises técnicas ou executar comandos indevidos.
Na prática, o sistema identifica trechos suspeitos e impede que a IA interprete essas mensagens como instruções válidas, tratando o conteúdo apenas como parte documental do processo. O mecanismo reforça a confiabilidade das análises e preserva os critérios técnicos, a imparcialidade e a integridade institucional do Judiciário amazonense.
Entre os exemplos identificados pela plataforma estão mensagens ocultas inseridas em petições com comandos para que a IA deixe de impugnar documentos, realize análises superficiais ou omita informações relevantes do processo. Ao detectar esse tipo de tentativa, o Arandu emite alertas automáticos, desconsidera a instrução maliciosa e recomenda conferência humana do conteúdo.
Segundo especialistas da área de tecnologia, o “prompt injection” é atualmente uma das principais formas de ataque contra sistemas de Inteligência Artificial. A técnica consiste na inserção de comandos enganosos dentro de textos, documentos ou arquivos para tentar “burlar” a IA e fazê-la agir em desacordo com suas diretrizes originais de segurança.
No âmbito do TJAM, a plataforma Arandu foi desenvolvida justamente para atuar de forma integrada aos sistemas judiciais, oferecendo apoio seguro às rotinas processuais. Entre as funcionalidades disponíveis estão a elaboração de despachos, decisões e sentenças; identificação de processos semelhantes; análises jurídicas automatizadas; e mecanismos de combate a demandas predatórias.
As soluções do “Arandu GPT” convergem para um ambiente inteligente de apoio à atividade jurisdicional, permitindo que as informações sejam centralizadas em um sistema seguro, supervisionado e integrado às rotinas do Tribunal. O acesso à plataforma é restrito e realizado exclusivamente por usuários autorizados por meio do login institucional do Projudi, garantindo controle institucional sobre a utilização da ferramenta e proteção das informações processuais.
O Arandu foi desenvolvido para assegurar conformidade com a Resolução CNJ n.º 615/2025 e com a Lei Geral de Proteção de Dados (LGPD), estabelecendo parâmetros de transparência, rastreabilidade e responsabilidade no uso da tecnologia aplicada ao ambiente judicial.
Fonte: TJAM