Na primeira palestra da manhã desta quinta-feira (4/9), mediada pela Presidente da Audicon, Milene Cunha, o professor Juarez Freitas, da Universidade Federal do Rio Grande do Sul (UFRGS), apresentou uma reflexão sobre os desafios do uso da Inteligência Artificial (IA) no Direito e no sistema de contas, a partir da Resolução nº 615/2025 do Conselho Nacional de Justiça (CNJ).
O painel. Foto: Alexandre Rezende
Segundo o professor, o texto normativo é um marco importante em um cenário em que ainda não existe lei nacional sobre o tema, embora alguns estados já tenham avançado. “À falta de uma lei nacional, nós já temos boas referências, como a lei complementar de Goiás, além das legislações do Paraná e de Alagoas. Mas a resolução 615 é um caminho importante para pensarmos diretrizes”, destacou.
Juarez Freitas durante sua palestra. Foto: Alexandre Rezende
Entre os pontos centrais, ele chamou a atenção para a obrigatoriedade da supervisão humana em todas as etapas de desenvolvimento e uso da IA. “O grande risco é nos tornarmos dependentes da IA. E pior do que isso: de uma IA que, em vários aspectos, será inexplicável”, alertou. O professor explicou que, mesmo diante do princípio da explicabilidade, “as soluções mais sofisticadas de IA nem sempre são compreensíveis. Sem supervisão humana, não há solução para isso”.
Juarez Freitas também fez uma crítica à cultura de dependência tecnológica. “A IA é para nos emancipar, para nos dar mais tempo livre. No entanto, algumas experiências mostram que estudantes que melhoram com a tutoria da IA acabam regredindo quando ela é retirada. Isso não é emancipação, é dependência”, pontuou.
Outro aspecto abordado foi o artigo 9º da Resolução 615, em sintonia com o regulamento europeu de 2024, que estabelece parâmetros de riscos. “Não existe risco zero, mas existem riscos inadmissíveis. Evidente que isso precisa ser tratado de forma rigorosa”, afirmou.
Por fim, o professor mencionou debates internacionais recentes, como o encontro realizado em Paris neste ano com especialistas renomados, entre eles Geoffrey Hinton, prêmio Nobel. Segundo ele, as declarações produzidas nesses encontros estabeleceram “red lines” para o desenvolvimento da IA. “Alguns pontos não podem ser ultrapassados, sob pena de comprometermos valores fundamentais”, concluiu.
Milene Cunha durante o painel. Foto: Alexandre Rezende
Milene Cunha e Juarez Freitas recebem certificado de Daniel Guimarães. Foto: Alexandre Rezende
O público. Foto: Alexandre Rezende
Confira mais fotos do evento em nosso Flickr.