Governança Algorítmica no Judiciário: desafios da IA e da proteção de dados na Resolução nº 615/2025

Algorithmic Governance in the Judiciary: AI and Data Protection Challenges in CNJ Resolution nº. 615/2025

Juliano Ralo Monteiro^[1]

Rodrigo Oliveira Acioli Lins^[2]

Resumo: A incorporação de sistemas de inteligência artificial (IA) ao Poder Judiciário brasileiro inaugura novos desafios regulatórios em torno da proteção de dados pessoais, especialmente diante do uso crescente de soluções algorítmicas nos processos decisórios. A edição da Resolução CNJ nº 615/2025 constitui uma tentativa relevante de disciplinar o uso ético e transparente da IA no âmbito judicial, com fundamento nos princípios da Lei Geral de Proteção de Dados Pessoais (LGPD). Este artigo analisa criticamente o conteúdo e os limites da Resolução, examinando sua aderência à LGPD, suas lacunas normativas e os riscos decorrentes da ausência de estruturas técnicas robustas e vinculantes. Com base em pesquisa qualitativa e abordagem indutiva, investiga-se a tensão entre inovação tecnológica e garantias fundamentais, destacando a necessidade de uma governança algorítmica efetiva. Ao final, conclui-se que, embora avance no reconhecimento da centralidade da proteção de dados, a eficácia da Resolução dependerá de sua implementação concreta pelos tribunais e da construção de uma cultura institucional comprometida com a segurança da informação, a accountability e os direitos fundamentais dos jurisdicionados.

Palavras-chaves: Inteligência Artificial; Proteção de Dados; Governança Algorítmica;

Poder Judiciário; Resolução CNJ nº 615/2025.

Abstract: The incorporation of artificial intelligence (AI) systems into the Brazilian Judiciary introduces new regulatory challenges regarding the protection of personal data, especially in light of the increasing use of algorithmic solutions in judicial decision-making. The enactment of CNJ Resolution No. 615/2025 represents a significant step toward regulating the ethical and transparent use of AI within the judicial system, grounded in the principles established by the General Data Protection Law (LGPD). This article offers a critical analysis of the Resolution’s content and limitations, assessing its alignment with the LGPD, its normative gaps, and the risks stemming from the absence of robust and binding technical frameworks. Based on qualitative research and an inductive approach, the study explores the tension between technological innovation and fundamental rights, highlighting the need for effective algorithmic governance. The conclusion underscores that, despite the progress in recognizing the centrality of data protection, the effectiveness of the Resolution will depend on its concrete implementation by the courts and the development of an institutional culture committed to information security, accountability, and the fundamental rights of individuals under judicial protection.

Keywords: Artificial Intelligence; Data Protection; Algorithmic Governance; Judiciary; CNJ Resolution No. 615/2025.

Introdução

O século XXI assiste à consolidação da Inteligência Artificial (IA) como vetor de transformação profunda em diversas esferas da vida humana. Vivemos não apenas uma era de digitalização intensiva, mas uma verdadeira revolução cognitiva e informacional, capaz de reconfigurar estruturas sociais, institucionais e epistemológicas. Tecnologias que antes habitavam o imaginário da ficção científica, como o supercomputador HAL 9000, de 2001: Uma Odisseia no Espaço, ou os universos distópicos de Black Mirror, hoje se materializam em assistentes virtuais, sistemas preditivos e modelos generativos de linguagem natural que integram, cada vez mais, a vida cotidiana e a atuação institucional.

A simbiose entre humanos e máquinas é o novo desafio da era contemporânea. Não basta digitalizar processos: é preciso compreender, regulamentar e governar a lógica algorítmica que move decisões, previsões e interações. No campo jurídico, essa transição ultrapassa a esfera do apoio operacional e alcança diretamente a produção e a interpretação do Direito. A racionalidade judicial, historicamente vinculada à linguagem humana, passa a conviver com modelos de decisão mediados por sistemas não-humanos, capazes de ler, processar e sintetizar dados em larga escala, o que impõe novos dilemas éticos, normativos e institucionais.

Sensível a essas transformações, o Conselho Nacional de Justiça (CNJ) editou a Resolução nº 615/2025, com o objetivo de disciplinar o desenvolvimento, uso e governança de soluções baseadas em inteligência artificial no Judiciário brasileiro. Trata-se da primeira norma nacional editada após a popularização dos modelos generativos de linguagem natural (LLMs) e representa um marco relevante no esforço institucional de equilibrar inovação tecnológica, eficiência judicial e proteção dos direitos fundamentais. Com sua entrada em vigor em julho de 2025, a Resolução estabelece princípios, diretrizes e vedações para o uso ético, seguro e transparente da IA, com ênfase na supervisão humana, na explicabilidade dos sistemas e na proteção de dados sensíveis.

Embora a iniciativa normativa seja oportuna e indispensável, seu texto ainda apresenta desafios operacionais e conceituais que merecem análise crítica construtiva. A ausência de critérios técnicos objetivos, a predominância de cláusulas abertas, bem como a carência de instrumentos concretos de fiscalização e responsabilização, limita o potencial transformador da norma. Para além de sua força simbólica, a efetividade da Resolução dependerá de sua articulação com políticas públicas digitais, parâmetros de interoperabilidade e padrões nacionais e internacionais de proteção de dados e governança algorítmica.

Neste contexto, a presente pesquisa busca investigar, com base em abordagem qualitativa, de natureza exploratória-analítica, em que medida a Resolução nº 615/2025 do CNJ assegura a proteção de dados pessoais no uso de soluções de IA no âmbito judicial. Parte-se da hipótese de que o fornecimento de dados aos sistemas de IA deve, como regra, restringir-se aos elementos públicos dos autos, vedando-se a inclusão de dados sensíveis não anonimizados ou oriundos de processos sob segredo de justiça, conforme os princípios estabelecidos pela Lei Geral de Proteção de Dados Pessoais (Lei nº 13.709/2018). Considera-se, ainda, que o emprego de modelos generativos de linguagem natural — especialmente aqueles suscetíveis a produzir respostas verossímeis, porém inverídicas (fenômeno conhecido como alucinação algorítmica) — exige salvaguardas adicionais, a fim de preservar a integridade das informações processuais e evitar a automatização de distorções com potencial impacto na segurança jurídica.

Metodologicamente, o estudo adota o método indutivo, com base em revisão bibliográfica e análise crítica da Resolução nº 615/2025, em cotejo com o regime protetivo da LGPD e com marcos normativos internacionais. O objetivo geral é avaliar a compatibilidade da governança algorítmica proposta pelo CNJ com o arcabouço jurídico brasileiro de proteção de dados. Os objetivos específicos consistem em: (i) delimitar juridicamente os dados que podem ser utilizados por sistemas de IA no Judiciário; (ii) esclarecer os limites éticos e jurídicos da automação judicial; e (iii) verificar a suficiência dos mecanismos protetivos previstos na Resolução quanto à privacidade, à transparência e à não discriminação.

Ao final, espera-se contribuir para o fortalecimento de uma cultura de governança algorítmica responsável, colaborando com o esforço do CNJ e dos tribunais em promover uma Justiça digitalmente inovadora, mas institucionalmente segura, humanamente sensível e constitucionalmente comprometida com os direitos fundamentais.

1. Eu, IA: A Inteligência Artificial como realidade humana

Repensar a condição humana a partir da interação com sistemas inteligentes pode parecer, à primeira vista, um exercício especulativo herdado da ficção científica — especialmente diante das célebres Leis da Robótica formuladas por Isaac Asimov^[3]. Todavia, o avanço exponencial da tecnologia nas últimas décadas tem deslocado esse imaginário para o campo da realidade tangível, revelando um cenário no qual a inteligência artificial (IA) transcende os limites da mera automação mecânica e passa a simular, com notável sofisticação, aspectos da racionalidade humana.

Importa, contudo, distinguir a percepção social da IA, frequentemente associada a uma “consciência digital”, de sua configuração técnico-científica efetiva. Segundo Stuart Russell e Peter Norvig (2010, p. 30), a inteligência artificial deve ser compreendida como um esforço de construir agentes racionais capazes de tomar as melhores decisões possíveis em cada situação: “we adopt the view that intelligence is concerned mainly with rational action. Ideally, an intelligent agent takes the best possible action in a situation. We study the problem of building agents that are intelligent in this sense”^[4] (RUSSELL; NORVIG, 2010, p. 30). Não se trata, portanto, de uma inteligência autêntica, tampouco de uma artificialidade ontológica, mas de um modelo computacional orientado à resolução eficiente de problemas diversos. Paul W. Grimm, Maura R. Grossman e Gordon V. Gormack definem: “Artificial Intelligence is the hypothetical ability of a computer to match or exceed a human's performance in tasks requiring cognitive abilities, such as perception, language understanding and synthesis, reasoning, creativity, and emotion”^[5] (GRIMM; GROSSMAN; GORMACK, 2021, p. 14).

Essa perspectiva técnica, todavia, encontra contornos normativos e éticos relevantes no campo jurídico, sobretudo diante da crescente inserção de sistemas autônomos em ambientes regulados. Nesse sentido, Sergio Marcos de Ávila Negri e Carolina Fiorini Ramos Giovanini oferecem importantes contribuições sobre o modo como diferentes jurisdições têm enfrentado o desafio regulatório, com destaque para a experiência da União Europeia:

Em  abril  de  2021,  a  Comissão  Europeia  –  instituição  da  União  Europeia  competente  para  propor  normas  regulatórias  –  apresentou  a  proposta  de  regulamento  sobre  inteligência  artificial  (COM/2021/206,  2021),  pautada  em uma abordagem regulatória baseada em risco, com vinculação da intensidade de intervenção legislativa ao nível de ameaça aos direitos fundamentais e à segurança de pessoas naturais. Nesse  sentido,  o  Artificial  Intelligence  Act  adota  uma  estrutura  de  classificação  de  riscos  dos  sistemas  de  inteligência  artificial  para  que  as  obrigações  sejam  moduladas  de  acordo  com  o  risco  de  cada  sistema.  Referida  classificação  engloba  os  seguintes  níveis  de  risco:  (i)  risco  inaceitável,  ou  seja,  sistemas  cuja  utilização  é  vedada;  (ii)  risco  alto,  isto  é,  sistemas  autorizados  a  funcionar,  mas  sujeitos  ao  cumprimento  de  determinados  requisitos  obrigatórios; e (iii) risco baixo ou mínimo, compreendidos como sistemas de risco limitado ou mínimo (por exemplo, chatbots). (NEGRI; GIOVANINI, 2023, p. 130)

De acordo com os referidos autores, o Artificial Intelligence Act da União Europeia não apenas estabelece diretrizes regulatórias, mas propõe uma tipologia normativa baseada na avaliação de riscos, classificando os sistemas de IA conforme seu potencial de impacto sobre direitos fundamentais. Essa gradação contempla três níveis: os sistemas de risco inaceitável, cuja utilização é terminantemente proibida (como os voltados à manipulação subliminar ou à pontuação social); os de risco alto, sujeitos a rigorosos requisitos legais e medidas de conformidade; e, por fim, os sistemas de risco limitado ou mínimo, que incluem, por exemplo, chatbots e geradores de texto, submetidos apenas a exigências básicas de transparência.

Trata-se, portanto, de um modelo regulatório que busca calibrar a intervenção estatal à periculosidade potencial de cada tecnologia, o que confere maior densidade normativa ao conceito de inteligência artificial adotado pelo bloco europeu. Nesse contexto, a definição legal proposta pela União Europeia é a seguinte:

(1) ‘AI system’ means a machine-based system that is designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment, and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments.^[6] (UNIÃO EUROPEIA, 2024)

Em síntese, a inteligência artificial, no âmbito da União Europeia, é compreendida como um sistema de aprendizado de máquina projetado para operar com diferentes níveis de autonomia, capaz de adaptar-se progressivamente após sua implementação e de gerar resultados (como decisões, recomendações ou conteúdos) a partir de comandos e estímulos recebidos (prompts), influenciando concretamente ambientes físicos ou digitais.

2. Inteligência Artificial e Poder Judiciário: avanços, riscos e a necessidade de governança crítica

A incorporação da inteligência artificial (IA) ao sistema de justiça brasileiro representa uma inovação disruptiva e recente, cujas implicações ainda estão sendo assimiladas em suas múltiplas dimensões jurídicas, técnicas e epistemológicas. Nos dizeres de Charles Kerrigan: “The choices associated with AI are difficult because society is not well prepared for them”^[7]. (KERRIGAN, 2022, p. 11)

 Se a informatização iniciada com a Lei nº 11.419/2006 teve como escopo principal a transposição de fluxos processuais para o ambiente digital, o uso de sistemas baseados em IA inaugura um novo paradigma: não mais se trata apenas de digitalizar procedimentos, mas de introduzir ferramentas capazes de simular operações cognitivas complexas, como a análise de precedentes, a predição de desfechos ou o agrupamento de casos por similaridade fática. Trata-se, portanto, de um deslocamento na arquitetura institucional do processo judicial, com potencial para reconfigurar o modo como decisões são construídas, fundamentadas e auditadas, não no sentido de substituir o julgador, mas de exigir novas formas de governança sobre os instrumentos que o assistem.

Nesse cenário, destaca-se o avanço dos modelos generativos de linguagem natural (LLMs)^[8], cuja sofisticação técnica tem ampliado exponencialmente as possibilidades de aplicação da IA em tarefas que, até pouco tempo, eram de domínio exclusivo da cognição humana. Esses sistemas não apenas organizam dados, mas mimetizam a linguagem jurídica com elevado grau de verossimilhança, operando com padrões estatísticos que desafiam os limites da auditabilidade, da explicabilidade e da própria autoridade hermenêutica do julgador.

É nesse contexto que se insere a Resolução CNJ nº 615/2025, editada como tentativa normativa^[9] de estruturar a governança das soluções algorítmicas no Judiciário. A norma reconhece os potenciais benefícios da IA, mas também os riscos associados à opacidade, aos vieses automatizados e ao tratamento de dados pessoais sensíveis. Embora principista em sua formulação, inaugura um campo regulatório que exigirá maturidade técnica, segurança jurídica e alinhamento institucional para que seus efeitos transcendam o plano declaratório.

Com sua entrada em vigor em julho de 2025, a Resolução é a primeira editada após a massificação dos LLMs e, embora contenha fundamentos relevantes, não se esquiva de ambiguidades que exigem leitura crítica e contextualizada. Em seus considerandos, a norma reconhece que o uso de IA no sistema de justiça deve observar os direitos fundamentais, os valores democráticos e a autonomia do julgador, orientando-se por princípios como transparência, explicabilidade, proporcionalidade, não discriminação e supervisão humana.

Dentre os objetivos declarados, destacam-se: (i) a promoção da inovação tecnológica com ética e segurança; (ii) a garantia da auditabilidade dos sistemas baseados em IA; (iii) o estímulo à interoperabilidade entre tribunais; (iv) capacitação de agentes públicos para o uso consciente da tecnologia, e; (v) e a proteção dos dados pessoais, conforme os preceitos da LGPD.

Apesar dessas diretrizes, sua concretização normativa permanece vaga e assimétrica. A Resolução reafirma a centralidade da pessoa humana na governança algorítmica (art. 3º) e veda classificações discriminatórias baseadas em atributos pessoais (art. 10, § 2º), mas carece de mecanismos técnicos e jurídicos robustos que garantam eficácia e verificabilidade desses princípios.

A adoção de um modelo de governança distribuída — que confere autonomia aos tribunais (art. 6º) e estimula o desenvolvimento colaborativo —, embora respeite o pacto federativo, acarreta riscos significativos de assimetria regional, sobretudo em temas sensíveis como proteção de dados, maturidade digital e infraestrutura tecnológica. A ausência de instâncias centrais de validação técnica pode favorecer a fragmentação do sistema e comprometer a coerência nacional na aplicação da norma.

Outros pontos críticos incluem a ausência de mecanismos obrigatórios de auditoria externa, certificação de sistemas ou responsabilização objetiva^[10] por falhas algorítmicas. A comunicação do uso de IA nas decisões judiciais, por exemplo, é tratada como faculdade do julgador (art. 33, § 3º), o que dilui o princípio da transparência e dificulta o controle institucional e social.

Além disso, os dispositivos referentes à curadoria e à anonimização dos dados utilizados para o treinamento dos sistemas (art. 7º, § 2º) utilizam expressões vagas como “sempre que possível”, sem apresentar critérios objetivos de verificação, seleção de datasets, rastreabilidade ou mitigação de vieses. Essa lacuna compromete a conformidade com os parâmetros da LGPD e com as boas práticas internacionais de proteção de dados sensíveis. Nesse cenário, a vagueza normativa deixa de ser uma escolha técnica neutra e passa a representar um risco regulatório concreto. Como bem alerta Ana Paula de Barcellos, a indeterminação excessiva “poderia abrir espaço para que a autoridade que vai aplicá-la, ao lado das restrições legítimas, imponha outras, ilegítimas” (BARCELLOS, 2025, p. 114), ampliando o poder discricionário e enfraquecendo garantias fundamentais^[11].

Em síntese, embora a Resolução CNJ nº 615/2025 represente um avanço institucional ao estabelecer diretrizes para o uso ético da IA no Judiciário, sua densidade normativa ainda é baixa. Ao confiar excessivamente na autorregulação dos tribunais e carecer de instrumentos coercitivos, a norma transfere a efetividade de seus preceitos à esfera da boa vontade institucional. A proteção de dados pessoais — eixo central de qualquer ecossistema algorítmico — permanece vulnerável à dispersão técnica e à assimetria decisória. A eficácia regulatória dependerá da capacidade do CNJ de editar atos complementares, padronizar exigências mínimas, incentivar infraestrutura adequada e criar instrumentos de governança que assegurem que a promessa de uma justiça digital não se converta em retórica tecnológica.

3. Diretrizes da Resolução CNJ nº 615/2025: entre a governança programática e os desafios da efetividade

Se, como visto, a Resolução CNJ nº 615/2025 inaugura um marco importante na tentativa de disciplinar o uso de inteligência artificial no Judiciário brasileiro, o modo como suas diretrizes foram delineadas revela tensões entre a ambição regulatória e a concretude operacional. A norma avança no plano principiológico ao reconhecer a centralidade da pessoa humana, a necessidade de supervisão humana sobre sistemas automatizados e a vedação a classificações discriminatórias. Todavia, ao optar por um modelo declaratório e de baixa densidade normativa, muitas de suas diretrizes permanecem no campo da intenção institucional, sem mecanismos suficientemente eficazes de verificação, responsabilização e enforcement^[12].

A assimetria entre o conteúdo normativo e sua aplicabilidade se revela, por exemplo, na forma como a Resolução estrutura a governança^[13]. Ao adotar um modelo distribuído e permitir ampla autonomia aos tribunais (art. 6º), a norma reflete uma opção pelo respeito ao pacto federativo. No entanto, essa opção não vem acompanhada de padrões técnicos mínimos, instâncias de homologação ou exigências de interoperabilidade efetiva, o que abre margem para a fragmentação de diretrizes e a criação de zonas cinzentas na responsabilização. O resultado é a transferência do ônus regulatório para tribunais com níveis muito distintos de maturidade digital e infraestrutura tecnológica, condição que pode agravar desigualdades regionais em matéria de proteção de dados e segurança algorítmica.

Outro aspecto emblemático da fragilidade normativa está nas cláusulas abertas e expressões de caráter subjetivo. Como dito, termos como “sempre que possível” (art. 7º, § 2º), aplicados à anonimização de dados, ou a comunicação facultativa do uso de IA nas decisões judiciais (art. 33, §3º), reduzem a força vinculante da norma e comprometem a previsibilidade regulatória. A ausência de auditorias obrigatórias, certificações externas ou diretrizes claras sobre responsabilização objetiva por falhas tecnológicas deixa lacunas normativas significativas que podem esvaziar, na prática, os próprios princípios enunciados.

Como observa Pedro Adamy, “normas com alto grau de vagueza delegam ao intérprete uma parcela significativa do poder de criação normativa” (ADAMY, 2013, p. 266). Essa delegação, quando não acompanhada de mecanismos de controle, pode comprometer a uniformidade, a efetividade e a segurança jurídica da norma. São riscos que se tornam ainda mais sensíveis no contexto da automação judicial e da proteção de dados. Assim, normas vagas ou excessivamente abertas tendem a sobrecarregar os tribunais, impondo a eles a tarefa de preencher lacunas interpretativas sem o suporte técnico-operacional adequado, realidade que se agrava em cenários de baixa densidade institucional.

A tensão entre governança e efetividade se manifesta, ainda, na ausência de métricas ou indicadores de conformidade. A Resolução propõe um conjunto de diretrizes, mas não define como serão avaliadas, corrigidas ou acompanhadas em sua implementação. Tampouco impõe mecanismos de monitoramento que permitam aferir se os tribunais, ao adotar soluções de IA, estão cumprindo os critérios de proporcionalidade, explicabilidade e não discriminação. Sem instrumentos operacionais de controle e accountability, o compromisso institucional com os direitos fundamentais permanece vulnerável ao formalismo retórico.

Embora a Resolução represente um avanço ao estabelecer diretrizes iniciais para o uso de inteligência artificial no âmbito do Poder Judiciário, nota-se a ausência de salvaguardas específicas quanto à utilização de modelos generativos baseados em linguagem natural. Ferramentas dessa natureza, como os grandes modelos de linguagem, são suscetíveis a produzir conteúdos aparentemente plausíveis, mas materialmente inverídicos — fenômeno amplamente conhecido como alucinação. Tal risco compromete a confiabilidade da informação jurídica gerada, podendo afetar a integridade das decisões e a segurança jurídica dos jurisdicionados. Casos recentes, ocorridos em solo norte americano, como Mata v. Avianca, Inc. e Gates v. Chavez^[14], ilustram os perigos do uso não supervisionado de tecnologias desse tipo no processo judicial, levando inclusive à responsabilização disciplinar de operadores do direito^[15]. A normatização do uso de IA, sobretudo em atividades sensíveis como a instrução de processos e a produção de peças e minutas, demanda, portanto, a previsão de mecanismos de validação humana obrigatória e a fixação de parâmetros técnicos mínimos, sob pena de se legitimar a automatização de erros e a erosão dos princípios da confiança, da transparência e do devido processo legal.

Em outras palavras, a Resolução CNJ nº 615/2025 reflete uma governança de natureza predominantemente programática. Suas diretrizes operam como balizas normativas importantes, mas ainda distantes de uma regulação efetiva, apta a garantir a integridade dos dados pessoais, a segurança dos jurisdicionados e a legitimidade das decisões judiciais influenciadas por algoritmos. Para que o discurso normativo se converta em realidade institucional, será imprescindível que o CNJ edite atos complementares, fomente a padronização técnica e promova um ecossistema de governança algorítmica que transcenda a confiança na autorregulação e na maturidade voluntária dos tribunais.

4. A proteção de dados em tempos de IA: percepções sociais, fragilidades normativas e desafios reais da Resolução CNJ nº 615/2025

A Resolução CNJ nº 615/2025 representa um marco relevante ao inserir, no campo normativo do Poder Judiciário, dispositivos voltados à proteção de dados pessoais no uso de sistemas de inteligência artificial. Embora afirme aderência à Lei Geral de Proteção de Dados Pessoais (Lei nº 13.709/2018), mencionando o termo “proteção de dados” 29 vezes ao longo de seu texto normativo, bem como considerandos, e trazendo princípios oriundos da LGPD como a “privacidade desde a concepção” (privacy by design, art. 46, §2º), a “privacidade por padrão” (privacy by default, leitura conjunta dos arts. 6º, VII e VIII, e art. 46), e a minimização de dados (art. 6º, III), sua efetividade encontra barreiras significativas na ausência de uma governança técnica articulada e funcional. A Resolução também evoca os princípios da segurança (art. 6º, VII), prevenção (art. 6º, VIII) e responsabilização e prestação de contas (art. 6º, X), que, embora elencados de forma principista, não são acompanhados de mecanismos operacionais vinculantes no próprio texto normativo.

Dentre os pontos críticos, destaca-se a fragilidade na definição de estruturas institucionais e de responsabilização concreta. O artigo 21 da Resolução prevê que os tribunais devem instituir programas de governança e gestão de riscos em IA, mas não impõe requisitos mínimos de estrutura, cronograma ou critérios de avaliação. A menção a políticas de segurança da informação (art. 26 e seguintes) carece de vinculação com parâmetros técnicos objetivos, como o uso obrigatório de criptografia forte, testes de vulnerabilidade ou certificações independentes. Em comparação, a LGPD estabelece como obrigação do controlador não apenas a segurança técnica, mas também a prova documental da adoção de medidas eficazes (art. 37), o que não encontra paralelo obrigatório na Resolução.

Outro ponto sensível está na ausência de previsão específica, nos moldes do   art. 41 da LGPD, para a figura de um encarregado institucional responsável pela governança e conformidade no uso de IA. Embora a Resolução n.º 615/2025 trate de responsabilidades e unidades gestoras, não define um regime mínimo de compliance algorítmico, tampouco estabelece garantias de independência, atribuições normativas ou vinculação com estruturas de proteção de dados já existentes nos tribunais. Essa omissão compromete a eficácia da governança proposta, especialmente no tocante à autodeterminação informacional dos jurisdicionados.

Ademais, os artigos 26 a 31, que tratam de padrões de segurança, interoperabilidade e rastreabilidade, mantêm formulações genéricas e não exigem que os tribunais realizem relatórios de impacto à proteção de dados pessoais (DPIA), como previsto no art. 38 da LGPD. Essa omissão é especialmente relevante no contexto da IA, onde decisões automatizadas, ainda que apenas recomendatórias, podem gerar efeitos jurídicos ou afetar significativamente direitos individuais.

Um exemplo emblemático desse cenário foi a circulação, em 2025, de uma mensagem viral advertindo que a Meta IA estaria acessando conteúdos de grupos e coletando dados pessoais dos participantes, incluindo nomes, números e conteúdos sensíveis, salvo se fosse ativada uma suposta “configuração de privacidade avançada”^[16]. Embora a corrente contenha distorções, sua divulgação em massa revela um elemento essencial do debate contemporâneo: a insuficiência de garantias técnicas claras e acessíveis para o cidadão comum. A percepção de vulnerabilidade passa, assim, a ser um dado relevante do processo regulatório e um desafio prático para a legitimidade institucional do uso de IA em ambientes sensíveis.

Além disso, deve-se reconhecer que a construção de uma regulação eficaz sobre o uso da IA no Judiciário depende não apenas de normas técnicas, mas também da percepção social de segurança, justiça e imparcialidade. A confiança da população nas decisões judiciais está diretamente relacionada à transparência dos processos e à inteligibilidade dos sistemas utilizados. Quando a tecnologia é percebida como uma “caixa-preta”, distante da linguagem comum e inacessível ao leigo, há o risco de erosão da confiança institucional e aumento do sentimento de insegurança jurídica.

Cumpre ainda lembrar que a LGPD impõe, como balizas obrigatórias, os princípios da finalidade específica, adequação e necessidade (art. 6º, I a III), além da transparência e da responsabilização dos agentes de tratamento (incisos VI e X). Embora a Resolução CNJ nº 615/2025 mencione parte desses princípios em sua fundamentação e diretrizes gerais, ela não os traduz de forma plena em exigências técnicas, mecanismos de controle ou obrigações vinculantes. Aqui também a norma permanece vinculada a uma lógica programática e fragmentada. Sem uma estrutura normativa robusta, que combine padrões técnicos com instrumentos de verificação e responsabilização, o sistema de proteção de dados no Judiciário seguirá dependente da maturidade institucional e da boa vontade dos órgãos locais, o que, na prática, reduz sua força regulatória e sua eficácia democrática.

Apesar das limitações apontadas, é justo reconhecer que a Resolução CNJ nº 615/2025 representa um avanço relevante na institucionalização do debate sobre inteligência artificial e proteção de dados no âmbito do Poder Judiciário brasileiro. Ao consolidar, em um único instrumento normativo, diretrizes de caráter principiológico alinhadas à LGPD e ao Marco Civil da Internet, a norma contribui para sedimentar uma cultura de responsabilidade digital e estímulo à governança algorítmica. A previsão de supervisão humana obrigatória, a vedação a classificações discriminatórias e a exigência de repositórios públicos de soluções de IA (art. 17, §1º) constituem sinalizações importantes para o futuro da transformação tecnológica no sistema de justiça. Dessa feita, o texto normativo inaugura uma agenda institucional promissora, que poderá ser fortalecida por atos infralegais complementares, práticas colaborativas entre tribunais e iniciativas de formação técnica contínua de magistrados e servidores.

5. Governança algorítmica e accountability no Poder Judiciário: entre a confiança pública e a maturidade institucional

A expansão do uso de tecnologias baseadas em inteligência artificial no Judiciário brasileiro^[17] exige mais do que diretrizes normativas: exige a constituição de uma verdadeira cultura de governança algorítmica. Essa governança não se limita à regulação dos sistemas tecnológicos em si, mas envolve estruturas institucionais capazes de garantir a rastreabilidade dos dados, a auditabilidade das decisões e a responsabilização por falhas. Trata-se de consolidar uma infraestrutura de confiança que assegure a integridade informacional dos jurisdicionados e preserve a legitimidade das decisões judiciais em ambientes automatizados.

A Resolução CNJ nº 615/2025, ao vincular a adoção de sistemas de IA à criação de diretrizes internas pelos tribunais e desenvolvedores (art. 6º, caput e parágrafo único), e ao incorporar critérios de risco como a possibilidade de discriminação ilegal (art. 17, II), sinaliza um esforço inicial de estruturação da governança algorítmica no Judiciário. No entanto, a norma se limita a orientações gerais, sem prever exigências operacionais mínimas de accountability algorítmica, como auditorias externas, certificações periódicas ou métricas públicas de desempenho, o que compromete sua eficácia em contextos de baixa maturidade institucional.

Nesse contexto, a efetividade da governança algorítmica passa a depender fortemente da maturidade institucional dos órgãos do Judiciário. Tribunais que contam com comitês multidisciplinares, setores especializados em dados e investimentos contínuos em formação técnica tendem a implementar soluções mais alinhadas aos valores constitucionais e à LGPD. Já aqueles com menor estrutura enfrentam dificuldades concretas para operacionalizar mesmo as diretrizes mais básicas da Resolução, como o mapeamento de riscos ou a publicação de relatórios de impacto.

A centralidade da accountability se revela, também, na forma como as decisões judiciais produzidas com apoio de sistemas automatizados serão comunicadas às partes e à sociedade. A mera declaração formal de uso de IA não é suficiente para garantir a explicabilidade dos modelos. A ausência de requisitos mínimos de documentação, rastreamento de decisões ou disponibilização dos critérios de funcionamento algorítmico compromete o direito à compreensão e à contestação, pilares da confiança pública no sistema de justiça.

Além disso, a governança algorítmica eficaz demanda a articulação entre diferentes dimensões: jurídica, técnica e ética. É fundamental que os tribunais contem com políticas institucionais integradas, com envolvimento ativo de magistrados, servidores, especialistas em proteção de dados, desenvolvedores e representantes da sociedade civil. A legitimação das soluções de IA passa, cada vez mais, por processos participativos e transparentes, que transcendam a lógica puramente tecnocrática e aproximem a inovação dos valores republicanos.

Dessa forma, o fortalecimento da governança algorítmica no Judiciário demanda mais do que a edição de diretrizes normativas. Embora a Resolução nº 615/2025 represente um marco relevante no processo de institucionalização do tema, sua plena efetividade dependerá da implementação de medidas complementares, como guias técnicos nacionais, programas de capacitação, mecanismos de homologação e instâncias permanentes de acompanhamento e avaliação.

Outro eixo fundamental para a consolidação da governança algorítmica é o investimento estruturado e contínuo na capacitação técnica de magistrados, servidores e equipes de apoio. O uso ético e eficiente da inteligência artificial exige conhecimento interdisciplinar que combine fundamentos jurídicos, linguagens computacionais, proteção de dados e ética digital. Sem uma política nacional de formação, mesmo as melhores diretrizes correm o risco de permanecer no papel, sem adesão prática ou senso crítico suficiente para lidar com os dilemas emergentes da IA aplicada à jurisdição.

Nesse processo, destaca-se positivamente a iniciativa do CNJ em liderar a formulação da Resolução de forma transparente e colaborativa, com consulta pública e diálogo com diversos atores institucionais. Trata-se de um sinal inequívoco de que o Conselho reconhece a complexidade do tema e aposta em uma governança regulatória dialógica. O desafio, a partir de agora, está em transpor essa base normativa para práticas concretas, que consolidem o Judiciário como espaço de vanguarda ética e técnica no uso responsável da inteligência artificial.

Em última instância, a legitimidade democrática do uso da IA no sistema de justiça repousa sobre o pilar da confiança pública. A credibilidade das instituições judiciais não decorre apenas da legalidade formal, mas da percepção coletiva de que os direitos estão sendo respeitados de forma transparente, justa e compreensível. A confiança é, portanto, um ativo regulatório estratégico — sem ela, mesmo os sistemas mais sofisticados correm o risco de serem rejeitados socialmente ou contestados politicamente.

Vale ressaltar que o Projeto de Lei nº 2.338/2023, aprovado no Senado, constitui um marco importante na tentativa de estabelecer diretrizes nacionais para o desenvolvimento e uso ético da inteligência artificial, com ênfase em direitos fundamentais e controle social. No âmbito do Poder Executivo, o lançamento do Plano Nacional “IA para o Bem de Todos” reforça a articulação estratégica em torno de uma IA centrada no ser humano, transparente e voltada à inclusão social. É preciso, com isso, repensar o uso da IA em correlação com a humanidade:

form a single joint human-machine cognitive system that functions as one with the human intelligence contributing its unique capacities, e.g., judgment, experience, intuition, and the artificial intelligence contributing its own, e.g., pattern recognition within vast quanta of data, rapidity of complex calculations.^[18] (DE SILES, 2025, p. 262)

A construção dessa cultura institucional de governança exige tempo, recursos e compromisso político. Mas é ela que garantirá que os avanços tecnológicos sirvam, efetivamente, à realização dos direitos fundamentais — e não ao seu esvaziamento silencioso por meio de opacidades algorítmicas.

Conclusão

A Resolução CNJ nº 615/2025 representa um passo significativo na consolidação de uma governança institucional sobre o uso da inteligência artificial no Poder Judiciário. Seu valor simbólico é inegável: o Conselho Nacional de Justiça reconhece, com essa norma, a centralidade da IA na transformação digital da Justiça brasileira e a urgência de disciplinar seu uso à luz dos direitos fundamentais, da proteção de dados pessoais e do cumprimento do princípio da celeridade processual. Ao regulamentar o emprego de soluções automatizadas, o CNJ não apenas busca garantir maior segurança jurídica, mas também contribuir para a eficiência e a tempestividade da prestação jurisdicional, valores essenciais à legitimidade do sistema de justiça. Nesse processo, contudo, é a presença da supervisão humana que preserva o coração pulsante da jurisdição: a capacidade de escutar, ponderar e decidir com empatia e consciência. Pois, ainda que os algoritmos indiquem rotas, é da sensibilidade do juiz — ser humano antes de ser magistrado — que emanam as decisões capazes de realizar a justiça em sua forma mais elevada.

Ao longo do artigo, foram apontadas limitações importantes na redação e estrutura da Resolução: ausência de parâmetros técnicos vinculantes, fragilidade na imposição de mecanismos efetivos de responsabilização, e lacunas quanto à proteção de dados sensíveis, especialmente nos processos em segredo de justiça. Tais fragilidades, no entanto, não anulam o mérito da iniciativa. Pelo contrário, revelam o grau de complexidade envolvido na regulação de novas tecnologias em um ambiente institucional marcado por assimetrias estruturais, diversidade regional e variações significativas de maturidade digital entre os tribunais.

É nesse contexto que a Resolução deve ser compreendida como um ponto de partida, e não de chegada. Sua força reside, sobretudo, em pavimentar o caminho para a construção de uma cultura institucional voltada à governança algorítmica, à transparência processual e à defesa da autodeterminação informacional dos jurisdicionados. Sua formulação colaborativa, com consultas públicas e escuta ativa de múltiplos atores institucionais, é um indicativo promissor da disposição do CNJ em liderar esse processo com base em diálogo e abertura democrática.

Além disso, é possível observar que a Resolução do CNJ se insere em um esforço mais amplo e interinstitucional de amadurecimento normativo em torno da IA no Brasil. Nesse panorama, a atuação do CNJ alinha-se a uma visão sistêmica, em que os três Poderes assumem compromissos convergentes para regulamentar a IA de forma democrática e eficaz.

Nesse percurso de construção normativa, um dos desafios mais emergentes diz respeito à normatização do uso de modelos generativos de linguagem natural, cujos riscos de alucinação algorítmica e produção de conteúdos inverídicos já foram amplamente demonstrados em experiências internacionais. A ausência de previsão específica sobre essas ferramentas na Resolução nº 615/2025 exige atenção redobrada, sobretudo em contextos como a elaboração de peças, pareceres e minutas judiciais. A consolidação de uma governança algorítmica responsável deve incluir salvaguardas técnicas e validações humanas obrigatórias, capazes de evitar a automatização de erros e de preservar a integridade epistêmica do processo judicial.

Consolidar esse ambiente normativo e institucional exige tempo, investimento e comprometimento continuado. Mas os primeiros passos foram dados. Cabe agora à comunidade jurídica, aos operadores do direito e às instituições públicas avançarem de forma colaborativa, transformando as diretrizes normativas em práticas concretas que assegurem a confiança pública, a proteção dos dados pessoais e a realização efetiva dos direitos fundamentais na era da inteligência artificial.

REFERÊNCIAS BIBLIOGRÁFICAS

ADAMY, Pedro. Vagueza Normativa e Transições Políticas. Revista Anistia Política e Justiça de Transição. Ministério da Justiça, Brasília, 2013.

ASIMOV, Isaac. Eu, Robô. Tradução de Aline Storto Pereira. São Paulo: Aleph, 2015.

BARCELLOS, Ana Paula D. Curso de Direito Constitucional. 6ª Ed. Grupo GEN, 2025.

BAST, Carol M. Artificial intelligence and ethics. Rutgers Computer and Technology Law Journal, v. 50, n. 2, p. 283-330, 2024.

BRASIL. IA para o Bem de Todos. Disponível em: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/cct/legislacao/arquivos/IA_para_o_Bem_de_Todos.pdf. Acesso em: 31 jul. 2025.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018 (Lei Geral de Proteção de Dados - LGPD). Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em 31 jul. 2025.

BRASIL. Projeto de Lei n° 2338, de 2023. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 31 jul. 2025.

CONSELHO NACIONAL DE JUSTIÇA. Resolução nº 615, de 11 de março de 2025. Disponível em: https://atos.cnj.jus.br/files/original1555302025031467d4517244566.pdf. Acesso em: 31 jul. 2025.

DE SILES, Emile Loza. Artificial intelligence biases. Notre Dame Journal on Emerging Technologies (JET), v. 6, n. 1, p. 246-307, 2025.

FALEIROS JÚNIOR, José Luiz de Moura. Breves Reflexões sobre os impactos jurídicos do algoritmo GPT-3. In: BARBOSA, Mafalda Miranda et al. (Coord). Direito Digital e Inteligência Artificial: Diálogos entre Brasil e Europa. Indaiatuba, SP: Editora Foco, 2021.

FONSECA, Ana   Klayse   dos   Santos. Delineamentos   jurídico-dogmáticos   da   inteligência artificial e seus impactos no instituto da responsabilidade civil. Civilistica.com. Rio de Janeiro, a. 10, n. 2,   2021.   Disponível   em: <http://civilistica.com/delineamentos-juridico-dogmaticos-da-inteligencia/>. Acesso em: 30 jul. 2025.

GRIMM, Paul W.; GROSSMAN, Maura R.; CORMACK, Gordon V. Artificial intelligence as evidence. Northwestern Journal of Technology and Intellectual Property, v. 19, n. 1, p. 9-106, 2021.

HILDEBRAND, Yuri. É verdade corrente no WhatsApp dizendo que IA pode roubar dados de grupos caso não se ative configuração? CBN. 23 jul. 2025, 14:21. Disponível em: https://cbn.globo.com/tecnologia/analise/2025/07/23/e-verdade-corrente-no-whatsapp-dizendo-que-ia-pode-roubar-dados-de-grupos-caso-nao-se-ative-configuracao.ghtml. Acesso em: 30 jul. 2025.

KERRIGAN, Charles. Introductory Essay. In: KERRIGAN, Charles (Ed.). Artificial Intelligence: Law and Regulation. Cheltenham: Edward Elgar Pub, 2022.

NEGRI, Sergio Marcos Carvalho de Ávila; GIOVANINI, Carolina Fiorini Ramos. Leis da robótica: da ficção de Isaac Asimov ao debate sobre sistemas de inteligência artificial. Revista do Tribunal Regional Federal da Primeira Região, [S. l.], v. 35, n. 2, p. 127–137, 2023. Disponível em: https://revista.trf1.jus.br/trf1/article/view/488. Acesso em: 30 jul. 2025.

NETTO, Felipe Braga; FALEIROS JÚNIOR, José Luiz de Moura. A atividade estatal entre o ontem e o amanhã: reflexões sobre os impactos da Inteligência Artificial no Direito Público. In: BARBOSA, Mafalda Miranda et al. (Coord). Direito Digital e Inteligência Artificial: Diálogos entre Brasil e Europa. Indaiatuba, SP: Editora Foco, 2021.

RUSSELL, Stuart; NORVIG, Peter. Artificial Intelligence: A Modern Approach. 3ªEd. Londres: Pearson, 2010.

SARMENTO, Daniel. O Neoconstitucionalismo no Brasil: riscos e possibilidades. Revista Brasileira de Estudos Constitucionais, v. 9, p. 95-133, 2009.

SCAFF, Ricardo Felício. O exercício do poder normativo do Conselho Nacional de Justiça em face da autonomia administrativa dos tribunais. Dissertação (Mestrado Profissional). São Paulo: Fundação Getúlio Vargas, 2021.

SOLBERG, Amber L. Understanding large language models. Georgetown Law Technology Review, v. 9 n. 1, p. 256-267, 2025.

SOLOVE, Daniel J. Artificial intelligence and privacy. Florida Law Review, v. 77, n. 1, p. 1-73, 2025.

SOLOW-NIEDERMAN, Alicia. Administering artificial intelligence. Southern California Law Review, v. 93, n. 4, p. 633-696, 2020.

UNIÃO EUROPEIA. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act). Disponível em: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689. Acesso em: 30 jul. 2025.