Comitê nacional aprova medidas para proteger sistemas de inteligência artificial e reforça a governança tecnológica no Poder Judiciário
A inteligência artificial já faz parte da rotina de diversos tribunais brasileiros. Ferramentas capazes de classificar processos, sugerir minutas, organizar documentos e apoiar pesquisas jurídicas estão sendo utilizadas em diferentes graus de maturidade pelo Poder Judiciário. Nos últimos dias, porém, uma nova movimentação do Conselho Nacional de Justiça (CNJ) trouxe uma discussão que interessa diretamente a advogados, magistrados e gestores públicos: a segurança dos sistemas de IA utilizados pela Justiça. O Comitê Nacional de Inteligência Artificial do Judiciário aprovou medidas destinadas a ampliar a proteção dessas ferramentas contra manipulações, vulnerabilidades e riscos operacionais. (Portal CNJ)
A iniciativa surge em um momento em que o uso de inteligência artificial deixa de ser uma experiência isolada e passa a integrar a estratégia institucional dos tribunais. A preocupação não está mais apenas na adoção da tecnologia, mas também na sua governança, auditabilidade e confiabilidade. A principal dúvida que essa novidade gera para os profissionais do direito é objetiva: como as novas exigências de segurança da IA podem impactar a produção de decisões judiciais, a atividade dos advogados e a própria prestação jurisdicional?
A resposta envolve uma transformação silenciosa que vem ocorrendo no Judiciário brasileiro. Mais do que acelerar processos, a inteligência artificial passou a exigir novos mecanismos de controle capazes de garantir transparência, proteção de dados e respeito aos direitos fundamentais. Nesse contexto, as recentes medidas aprovadas pelo CNJ representam um passo importante na consolidação de uma justiça digital mais segura e supervisionada. (Portal CNJ)
Por que a segurança da inteligência artificial se tornou prioridade no Judiciário
O debate sobre inteligência artificial no sistema de justiça evoluiu rapidamente nos últimos dois anos. Se inicialmente a preocupação estava concentrada nos ganhos de produtividade, hoje a discussão envolve riscos associados à utilização de modelos avançados capazes de gerar textos, analisar informações e produzir respostas complexas. O próprio CNJ reconheceu que a expansão dessas tecnologias exige mecanismos permanentes de monitoramento e governança. (Atos CNJ)
Na última semana, o Comitê Nacional de Inteligência Artificial do Judiciário aprovou o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (PROSEG-IA). A iniciativa busca criar parâmetros nacionais para lidar com tentativas de manipulação dos sistemas, ataques digitais e vulnerabilidades que possam comprometer a confiabilidade das ferramentas utilizadas pelos tribunais. (Portal CNJ)
A preocupação faz sentido. Diferentemente dos sistemas tradicionais, modelos de inteligência artificial podem ser influenciados por entradas maliciosas, dados inadequados ou comandos destinados a alterar seu comportamento. Em um ambiente judicial, qualquer falha desse tipo pode gerar impactos relevantes, especialmente quando a tecnologia é utilizada para apoiar atividades relacionadas à gestão processual ou análise documental. (Portal CNJ)
O CNJ já havia estabelecido uma estrutura normativa para o uso responsável da IA por meio da Resolução nº 615/2025, posteriormente atualizada em 2026. A norma determina que toda solução tecnológica utilizada pelos tribunais deve observar princípios como transparência, auditabilidade, explicabilidade, proteção de dados e supervisão humana permanente. As novas medidas de segurança representam uma evolução prática dessas diretrizes. (Atos CNJ)
Além disso, o tema ganhou relevância internacional. A expansão da inteligência artificial generativa fez com que governos, órgãos reguladores e tribunais passassem a discutir não apenas os benefícios da inovação, mas também os riscos relacionados à integridade dos sistemas. O Judiciário brasileiro procura se antecipar a esse cenário ao criar padrões nacionais de proteção antes que problemas mais complexos se tornem recorrentes. (Portal CNJ)
Como a regulamentação do CNJ está mudando a forma de usar IA nos tribunais
A transformação digital do Judiciário brasileiro não começou agora. Diversos tribunais já utilizam soluções de inteligência artificial para triagem processual, identificação de precedentes, classificação de documentos e apoio à gestão administrativa. O diferencial do momento atual é a criação de uma política nacional mais estruturada para governar essas ferramentas. (Portal CNJ)
A Resolução nº 615/2025 consolidou um modelo que vai além da simples autorização para uso da tecnologia. O texto estabelece regras para desenvolvimento, monitoramento, auditoria e compartilhamento de soluções entre tribunais. Também reforça que a decisão judicial continua sendo responsabilidade exclusiva do magistrado, impedindo que sistemas automatizados substituam a atividade jurisdicional humana. (Atos CNJ)
Outro aspecto relevante é a exigência de transparência. As soluções de IA utilizadas no Judiciário precisam ser passíveis de auditoria e devem permitir a identificação dos critérios empregados em sua atuação. Essa diretriz aproxima o modelo brasileiro das discussões internacionais sobre governança algorítmica e responsabilidade tecnológica. (Atos CNJ)
O CNJ também vem promovendo iniciativas para mapear como os tribunais utilizam inteligência artificial na prática. Pesquisas nacionais, encontros técnicos e programas de integração buscam reduzir a fragmentação das iniciativas e criar padrões comuns de desenvolvimento tecnológico. A meta é garantir que a inovação ocorra de forma coordenada e compatível com os princípios constitucionais que orientam a atividade jurisdicional. (Portal CNJ)
Esse movimento demonstra que a inteligência artificial deixou de ser apenas uma ferramenta operacional para se tornar um tema estratégico da administração da justiça. Cada nova solução tecnológica passa a ser analisada não apenas pelo seu potencial de eficiência, mas também por seus impactos jurídicos, éticos e institucionais. (Portal CNJ)
O que advogados precisam observar na nova fase da justiça digital
Para a advocacia, a evolução da inteligência artificial no Judiciário cria oportunidades e desafios simultaneamente. Ferramentas mais sofisticadas podem acelerar pesquisas, melhorar a organização de informações processuais e ampliar a eficiência da prestação jurisdicional. Ao mesmo tempo, cresce a necessidade de compreender os limites jurídicos dessas tecnologias. (SINPOJUD)
Advogados que atuam em direito digital, proteção de dados, compliance e contencioso estratégico precisarão acompanhar cada vez mais de perto as normas relacionadas à governança da IA. Questões envolvendo transparência algorítmica, responsabilidade por erros automatizados, segurança da informação e proteção de dados tendem a ocupar espaço crescente nas discussões judiciais dos próximos anos. (Atos CNJ)
Outro ponto importante é que a regulamentação do CNJ fortalece a exigência de supervisão humana. Isso significa que, embora a tecnologia possa apoiar atividades técnicas, a fundamentação das decisões judiciais permanece vinculada à atuação do magistrado. Essa garantia preserva princípios constitucionais como devido processo legal, contraditório e ampla defesa, elementos indispensáveis para a legitimidade da prestação jurisdicional. (Atos CNJ)
A tendência é que o avanço da inteligência artificial também influencie concursos públicos, programas de capacitação e a própria formação dos profissionais do direito. O domínio de temas relacionados à governança tecnológica, auditoria de algoritmos e regulação digital tende a se tornar um diferencial relevante em diversas carreiras jurídicas. (SINPOJUD)
O movimento liderado pelo CNJ indica que o futuro da justiça digital brasileira não será definido apenas pela velocidade dos sistemas ou pela automação de tarefas. A prioridade passa a ser a construção de um ambiente tecnológico confiável, transparente e seguro. Para advogados e tribunais, compreender essa nova fase da inteligência artificial deixou de ser uma questão de inovação e passou a ser uma necessidade estratégica para a atuação jurídica contemporânea. (Portal CNJ)
Autor: Diego Rodríguez Velázquez
