Os impasses éticos e morais do uso de Inteligência Artificial

O uso da inteligência artificial, embora promissor, levanta sérios dilemas éticos e morais que vão desde o ferimento da igualdade de direitos aos princípios da dignidade humana em sistemas judiciais até o comprometimento do desenvolvimento crítico e autônomo de estudantes. Nos EUA, a IA, já está sendo utilizada para analisar casos judiciais, prevendo riscos de reincidência criminal e auxiliando juízes nas definições de sentenças. Sendo uma das ferramentas mais conhecidas, o software COMPAS, que foi criticado após um estudo da ProPublica comprovar que seus algoritmos atribuíam pontuações mais altas de reincidência a réus negros, mesmo com histórico criminal semelhante ao de réus brancos. Esse caso evidencia que a IA pode perpetuar injustiças ao ser alimentada por dados enviesados, além de violar princípios constitucionais como o direito à ampla defesa e ao julgamento justo. Dessa forma, torna-se imprescindível o estabelecimento de uma regulação ética que garanta que a tecnologia seja apenas um suporte, e não a base exclusiva de decisões judiciais

A dependência da inteligência artificial na educação levanta impasses éticos ao comprometer o desenvolvimento crítico dos alunos, que, ao usar ferramentas como o ChatGPT, podem deixar de exercitar habilidades essenciais, como interpretação e pensamento próprio.

Segundo Zygmunt Bauman, em uma sociedade líquida e acelerada, a ética é frequentemente negligenciada diante dos avanços tecnológicos, o que se reflete no uso indiscriminado da inteligência artificial na educação, comprometendo a formação crítica e autônoma dos alunos. No entanto, é essencial refletir sobre os limites dessas ferramentas e valorizar o papel do professor como mediador ético.

Diante dos desafios trazidos pela inteligência artificial é fundamental que o Congresso Nacional crie um marco regulatório que assegure a transparência no uso de dados e decisões automatizadas, especialmente no sistema jurídico. Na área da educação, propõe-se que o Ministério da Educação, em parceria com o Ministério da Ciência e Tecnologia, implemente um programa de formação docente sobre o uso ético da IA, com cursos e oficinas que preparem os professores para lidar com a tecnologia em sala de aula e promovam a autonomia dos alunos.