IA pode condenar inocentes?

Levantamento do Conselho Nacional de Justiça (CNJ) mostra que mais de 45% dos tribunais usam IA generativa no dia a dia para redigir minutas, classificar processos e analisar documentos em massa.  Entre os que ainda não utilizam a ferramenta, 81,3% planejam integrá-la às atividades nos próximos anos.

Os dados confirmam a IA como tendência, mas a mesma ferramenta que acelera o Judiciário também pode ser usada para inventar ou manipular provas. O alerta mais concreto veio do Superior Tribunal de Justiça (STJ), que barrou, em abril deste ano, o uso de um relatório produzido por IA como prova em processo criminal por injúria racial. Para a Corte, o documento não tinha confiabilidade mínima para servir de prova.

A advogada Alaide Bergamo, pós-graduanda em Direito e Processo Penal na Escola Paranaense de Direito, diz que a decisão da Quinta Turma do STJ no HC 1.059.475 reafirma algo essencial ao processo penal. “Prova não é qualquer informação que aponte para a culpa e sim um elemento que possa ser verificado, reproduzido e contestado”.

A especialista lembra que os sistemas de IA generativa funcionam por cálculos probabilísticos sobre grandes volumes de dados e têm raciocínio interno, em regra, opaco. “Nem as partes, nem o juiz, e muitas vezes nem os próprios desenvolvedores conseguem reconstruir o caminho que levou àquela conclusão.”

Realidade dos fatos

O caso do STJ expôs um risco real: a IA é capaz de criar informações com aparência de verdade ou produzir conclusões plausíveis, mas equivocadas (fenômeno conhecido como “alucinação”).

“A IA generativa aprende com dados que carregam vieses históricos, raciais, sociais ou ideológicos e tendem a reproduzi-los e até ampliá-los. Sem o devido controle judicial, a ferramenta pode, sim, levar à responsabilização e até à prisão de um inocente. A tecnologia é um auxiliar da investigação, mas não pode substituir a perícia, o juízo humano e as garantias do devido processo legal”, defende Alaide Bergamo.

Apesar da ressalva, a advogada criminalista e pós-graduanda da Escola Paranaense de Direito, Josleide Zordenones, defende o uso de novas tecnologias no Judiciário. “A inteligência artificial é um banco de dados super informado que, se utilizado com critério e ética, nada mais é do que uma fonte de pesquisa supermoderna. A IA, sozinha, não é capaz de fabricar culpados ou absolver inocentes.”

Para evitar manipulações em processos penais, Josleide defende que o advogado se dedique à produção de contraprovas baseadas em fatos e evidências reais, uma forma de desconstituir a fabricação forjada de uma prova por uma máquina.

“Tomemos por exemplo uma fotografia fruto de montagem, na qual a imagem aponte o indício de venda de drogas por um indivíduo. Diante da suspeita de montagem, pode-se usar a própria máquina (IA) para analisar a prova e pôr em dúvida sua veracidade, ou ainda trabalhar em cima de uma contraprova por meio de um álibi, testemunha ou até eventual perícia particular ou judicial a fim de impugnar a prova.”

Como encarar o uso de provas manipuladas

Professor de Direito Penal e Direito Processual Penal, o advogado criminalista Caio Ponczek diz que o Brasil não está totalmente preparado para o enfrentamento do mercado de falsas provas produzidas por IA.

“A defasagem do Direito frente à tecnologia não é de agora. Mesmo com o apogeu da informática na virada do milênio, a digitalização massiva dos processos judiciais no Brasil só ocorreu por volta de 2012, um atraso de mais de uma década.”

Na avaliação do especialista, o entendimento dos tribunais superiores sobre a falta de confiabilidade mínima de elementos produzidos por inteligência artificial é acertado.

“Esses elementos fogem à segurança exigida porque escapam à cadeia de custódia, ou seja, não passam por um processo documentado e verificável de produção e preservação. E, mesmo se existisse registro, é preciso considerar que a confiabilidade do material estaria comprometida já que as respostas da ferramenta variam conforme o usuário, os parâmetros de configuração e os prompts utilizados.”

O professor lembra ainda que as provas apresentadas em um processo só podem ser produzidas por ação humana, o que torna inaceitável, no modelo judiciário brasileiro, a substituição da inteligência natural.

Outro ponto de atenção está na legislação insuficiente sobre o tema. “O PL 2.338/23, o Marco Legal da IA, aprovado pelo Senado em 2024, segue se arrastando na Câmara dos Deputados. Nesse caso, a alternativa dos tribunais penais é recorrer à Cadeia de Custódia da Prova, instituída no Código de Processo Penal em 2019. Na prática, só pode ser validado como prova o material que passa por perícia em blockchain, com grau de segurança apto para atestar sua autenticidade”, finaliza Caio Ponczek.

Sobre a Escola Paranaense de Direito

Sediada em Curitiba (PR), a Escola Paranaense de Direito é um centro de excelência jurídica focado em pós-graduação, mestrado, cursos e capacitação prática.

Composta por advogados, promotores, juízes, desembargadores e magistrados de prestígio internacional, a instituição une qualidade acadêmica à vivência real dos tribunais para formar juristas diferenciados, por meio da convivência direta entre professores e alunos.