O Superior Tribunal de Justiça (STJ) determinou a abertura de uma investigação para apurar tentativas de fraude no sistema eletrônico de petições por meio do uso de comandos de inteligência artificial. A medida foi adotada após técnicos do tribunal identificarem petições com comandos ocultos, conhecidos como prompt injection, que tentavam burlar os filtros de admissibilidade de documentos.
Por determinação do presidente do STJ, Herman Benjamin, foram instaurados um inquérito policial e um procedimento administrativo interno. O objetivo é apurar a conduta de advogados e escritórios de advocacia que teriam utilizado a técnica para tentar manipular o andamento eletrônico de processos.
De acordo com as informações técnicas, os comandos são inseridos nas petições com o objetivo de induzir o sistema de IA a desconsiderar regras de admissibilidade, como a exigência de requisitos básicos para o recebimento de um documento. No entanto, o tribunal informou que o sistema já conta com mecanismos de proteção que impedem a execução dessas ordens.
A investigação foi determinada nesta quarta-feira (20) e busca identificar os responsáveis pelas tentativas de manipulação do sistema eletrônico do STJ.
Fonte: Agência Brasil
