STJ identifica comandos ocultos em 40 petições para tentar manipular inteligência artificial

O Superior Tribunal de Justiça (STJ) identificou pelo menos 40 petições com comandos ocultos inseridos para tentar manipular sistemas de inteligência artificial (IA) utilizados na análise de processos. A informação foi divulgada nesta quarta-feira (11) pelo presidente do tribunal, ministro Luis Felipe Salomão, durante um evento sobre inteligência artificial promovido pelo Grupo Lide.

De acordo com Salomão, a equipe técnica do STJ examinou quase 6 milhões de peças processuais e encontrou automaticamente 116 ocorrências suspeitas. Após avaliação humana, 40 casos foram confirmados. Os relatores dos processos já foram comunicados para adotar as providências legais cabíveis.

A identificação ocorreu por meio do programa Confiança Digital, recentemente instituído pelo tribunal para combater tentativas de manipulação de ferramentas tecnológicas. A prática é conhecida como prompt injection e consiste na inserção de instruções disfarçadas em documentos, com o objetivo de induzir sistemas de IA a produzir respostas favoráveis a uma das partes.

O tema é acompanhado pela comissão de inteligência artificial do STJ, presidida pelo ministro Paulo Sérgio Domingues. Segundo Salomão, o Judiciário dispõe de mecanismos para apurar esse tipo de conduta e responsabilizar os envolvidos nas esferas administrativa e criminal.

“Todos os sistemas que mexem com nosso dia a dia têm barreiras para evitar esse tipo de fraude”, afirmou o presidente da Corte. Ele também alertou que o uso malicioso dessas ferramentas pode resultar em multas e responsabilização criminal.