Documentos jurídicos sempre foram produzidos para serem interpretados por pessoas, mas a presença da IA começa a modificar essa lógica, destaca o Doutor Valdemir Ferreira Santos. Sistemas capazes de pesquisar, organizar e processar informações também podem se tornar alvo de tentativas de manipulação por meio do chamado prompt injection, técnica que insere instruções em arquivos ou conteúdos para influenciar o comportamento da ferramenta.
Como uma petição pode tentar interferir em uma IA?
Uma petição é escrita para apresentar fatos, fundamentos, argumentos e pedidos dentro de um processo. Entretanto, quando o documento também é processado por uma ferramenta de inteligência artificial, surge um segundo tipo de leitura. Além do conteúdo destinado às pessoas, o arquivo pode conter elementos interpretados pelo sistema como instruções, mesmo que não façam parte da argumentação jurídica apresentada de maneira visível. Essa diferença amplia a necessidade de compreender não apenas o que aparece na tela, mas também como a ferramenta processa o arquivo recebido.
O prompt injection explora justamente essa possibilidade. Comandos podem ser inseridos em textos, arquivos ou outros conteúdos com a intenção de fazer uma IA ignorar determinadas orientações, destacar informações específicas ou alterar a maneira como responde à tarefa solicitada. Dependendo da forma utilizada, a tentativa de manipulação pode não ser evidente para alguém que simplesmente abra e leia o documento normalmente. O risco surge justamente quando a máquina identifica como comando algo que, para o leitor, pode permanecer oculto ou passar despercebido.
Esse cenário cria uma preocupação adicional porque a aparência regular de um arquivo não garante que todo o seu conteúdo esteja sendo percebido da mesma maneira por pessoas e sistemas. Na perspectiva profissional do Doutor Valdemir Ferreira Santos, a utilização de recursos tecnológicos no Direito exige que a facilidade proporcionada pela automação seja acompanhada por mecanismos capazes de preservar a confiabilidade da análise. Isso inclui considerar a segurança do próprio caminho percorrido pela informação antes que o resultado produzido pela ferramenta seja utilizado.
Por que um comando oculto representa um risco?
Imagine uma ferramenta utilizada para resumir uma petição extensa. O sistema deveria identificar argumentos e informações relevantes, mas encontra no próprio arquivo uma instrução direcionada à inteligência artificial. Caso não existam mecanismos de proteção adequados, essa orientação adversarial pode tentar interferir na maneira como o conteúdo será processado ou apresentado posteriormente.
Conforme aponta o Doutor Valdemir Ferreira Santos, o problema não significa que qualquer comando inserido em um documento conseguirá controlar uma ferramenta. Sistemas podem possuir diferentes camadas de proteção, filtros e regras que limitam esse comportamento. Ainda assim, o risco precisa ser considerado, porque a segurança não depende apenas da capacidade da IA de compreender informações, mas também de distinguir o conteúdo legítimo de instruções que não deveria executar.
Como identificar algo que o leitor talvez nem veja?
Uma das características mais delicadas do prompt injection é justamente a possibilidade de a tentativa de interferência não aparecer de maneira evidente durante uma leitura convencional. Elementos inseridos de forma dissimulada podem ser direcionados ao processamento automatizado, criando uma diferença entre aquilo que aparece visualmente para o profissional e aquilo que o sistema efetivamente recebe como entrada.
Isso modifica a própria ideia de segurança de um documento digital. Não basta observar se o arquivo parece normal na tela. Dependendo da tecnologia utilizada, torna-se necessário avaliar também como seu conteúdo é extraído, interpretado e enviado para a ferramenta de inteligência artificial. A segurança passa a abranger toda a trajetória da informação dentro do sistema.
Consequentemente, mecanismos de prevenção podem envolver análise das entradas, identificação de padrões suspeitos, restrições sobre quais instruções podem ser executadas e registro de comportamentos anormais. Para o Doutor Valdemir Ferreira Santos, esse tipo de cautela reforça uma distinção importante: utilizar tecnologia para auxiliar uma atividade não significa transferir para ela a responsabilidade pela avaliação jurídica do processo.
