Chefe de Justiça dos EUA alerta para risco de desumanização da lei com uso da IA

John Roberts diz que tecnologia pode levar a decisões injustas

O Chefe de Justiça dos Estados Unidos, John Roberts, alertou em um relatório de final de ano que o uso crescente da inteligência artificial (IA) no sistema jurídico pode "desumanizar" a lei.

Em seu relatório, Roberts destacou o potencial da IA para aumentar o acesso à justiça, especialmente para litigantes com recursos limitados. “A IA obviamente tem um grande potencial para aumentar drasticamente o acesso a informações importantes, tanto para advogados como para não advogados”, escreveu ele. 

No entanto, Roberts também observou as limitações da IA, como alucinações, que segundo ele, fez com que os advogados citassem casos inexistentes. Ele também falou sobre os potenciais preconceitos programados nos modelos de IA que podem levar a decisões injustas em processos judiciais.

“Em casos criminais, o uso da IA na avaliação do risco de voo, reincidência e outras decisões amplamente discricionárias que envolvem previsões gerou preocupações sobre o devido processo, confiabilidade e potencial preconceito”, disse Roberts. 

Porém, Roberts alertou que a inteligência artificial (IA) não substituirá tão cedo os juízes humanos. No entanto, ele também previu que a IA terá um impacto significativo no trabalho judicial, especialmente no nível de julgamento. "Essas mudanças envolverão não apenas a forma como os juízes realizam seu trabalho, mas também como eles entendem o papel que a IA desempenha nos casos que lhes são apresentados”, acrescentou.