Os impasses éticos e morais do uso de Inteligência Artificial

O livro ``1984´´, de George Orwell, retrata uma sociedade distópica marcada pela vigilância extrema e pelo controle absoluto do Estado sobre os cidadãos, através do uso opressor da tecnologia. Contudo, fora da ficção, o avanço da mesma também tem gerado preocupações, principalmente a Inteligência Artificial e os seus impasses éticos e morais. Logo, é essencial a atuação do Estado, na criação de regulamentações que orientem seu uso, e das instituições educacionais, na formação ética e crítica dos cidadãos frente às novas tecnologias.

Diante disso, nota-se que a falta de transparência e o viés nos dados agravam o problema: ambos dificultam a compreensão da IA, geram decisões injustas e reforçam preconceitos. Segundo o site Semrush, em 2025, os resumos gerados por IA do Google já aparecem em 13,14% das buscas, limitando o acesso a informações diversas e afetando o pensamento crítico. Por isso, é essencial que o Estado cobre transparência, indique claramente as fontes e crie formas de responsabilização para evitar a concentração de informação e a passividade intelectual.

Outrossim, as instituições educacionais têm o dever de formar cidadãos críticos e conscientes diante do uso de tecnologias, incentivando a autonomia intelectual, a reflexão sobre os limites dos algoritmos e o uso responsável das ferramentas digitais. Nesse contexto, é necessário que escolas e universidades integrem a ética digital aos seus currículos. Como destaca a pesquisadora Dora Kaufman, pós-doutora pela PUC-SP, “é fundamental ter diretrizes de governança” para o uso da inteligência artificial na educação, garantindo que essas tecnologias sirvam de apoio ao aprendizado, e não como substitutas do processo formativo.

Portanto, em virtude dos fatos mencionados, conclui-se que o Estado deve atuar como agente regulador, criando leis claras e atualizadas que impeçam abusos e garantam o que é essencial: o uso responsável da tecnologia, especialmente quando estiverem em jogo direitos individuais. Já as instituições educacionais, por sua vez, têm o papel de conscientizar quem lida com a IA — como estudantes e profissionais — por meio de programas que como promovam a ética digital desde a formação básica. Desse modo, essas ações contribuirão para um uso mais justo e seguro da Inteligência Artificial na sociedade.