Os impasses éticos e morais do uso de Inteligência Artificial

A crescente inserção da Inteligência Artificial (IA) na sociedade contemporânea representa um grande apoio em diversos setores, como saúde, segurança e educação, porém, seu uso indiscriminado pode gerar consequências preocupantes. Diante disso, é necessário reconhecer que a IA, quando não orientada por princípios éticos sólidos, oferecem diversos riscos a integridade e segurança da população de modo geral, além poder comprometer o desenvolvimento do pensamento individual, principalmente dos jovens.

A princípio, segundo o relatório do Conselho Nacional de Educação (CNE), há preocupações quanto à disparidade estrutural entre escolas, o que pode tornar o acesso à tecnologia desigual e excludente. Além disso, Carlota Boto, diretora da Faculdade de Educação da USP, alerta que o uso da IA pode automatizar o ensino e reduzir a liberdade criativa dos alunos, comprometendo a construção do pensamento crítico. Nesse contexto, o uso excessivo de IA pode levar à dependência tecnológica, como apontado por uma pesquisa publicada na revista Computers & Education, que indica a redução da agência individual dos alunos diante da automatização de tarefas.

Ademais, o livro Artificial Intelligence Safety and Security, organizado por Roman Yampolskiy, destaca que sistemas de IA podem ser manipulados por agentes mal-intencionados para executar tarefas perigosas, como invasões de redes e manipulação de dados sensíveis. Da mesma forma, ataques de injeção de comandos em linguagem jurídica, como demonstrado por pesquisadores da Pangea e Lasso Security, podem enganar sistemas de IA e levá-los a executar ações prejudiciais sem supervisão humana adequada.

Portanto, para que os impasses éticos e morais do uso da IA sejam mitigados, é de suma importantância a criação de um comitê nacional multidisciplinar, composto por especialistas em tecnologia, ética, direito e representantes da sociedade civil, que seja responsável por elaborar diretrizes para o desenvolvimento e uso da IA no Brasil. Desse modo, esse comitê atuaria na regulamentação de práticas, na fiscalização de sistemas e na promoção de pesquisas voltadas à ética digital, para que assim, a utilização das inteligências artificiais se tornem mais corretas e justas.