Os impasses éticos e morais do uso de Inteligência Artificial

Inteligência Artificial (IA) é o processo pelo qual computadores “aprendem” a prever padrões e tomar decisões a partir de bancos de dados. Essa tecnologia tem se aprimorado e já está presente em soluções disponíveis ao público, como reconhecimento facial, recomendação de músicas e filmes em serviços de “streaming” e carros inteligentes. Porém, apesar das facilidades que a IA proporciona, é necessário debater questões éticas e morais com ela associada, como o risco de utilizar bases de informações tendenciosas e a importância de estabelecer critérios para controlar o seu processo de tomada de decisão.

Inicialmente, menciona-se que pesquisadores do Massachusetts Institute of Technology mostraram que sistemas de reconhecimento facial registram taxas de erros de 35% em mulheres negras, enquanto esse número cai para 0,8% em homens brancos. Tal disparidade é fruto de ferramentas de IA desenvolvidas a partir de bancos de dados constituídos majoritariamente por imagens de homens brancos. Dessa forma, percebe-se os perigos de não se basear em informações imparciais, o que pode levar a abordagens equivocadas no uso de IA por forças de segurança, por exemplo.

Além disso, ressalta-se a relevância de constituir critérios objetivos para guiar escolhas feitas por sistemas inteligentes. Por exemplo, carros autônomos, como os fabricados pela empresa Tesla, invariavelmente enfrentarão situações nas quais, na iminência de um acidente de trânsito, será necessário decidir entre priorizar a integridade física do seu motorista ou a de pedestres; ou mesmo optar entre salvar uma criança ou salvar um idoso de uma colisão. Destarte, essas deliberações devem ser programadas nos sistemas de IA de acordo com resoluções obtidas no debate público, não apenas a partir de escolhas feitas pelas companhias privadas.

Diante do exposto, nota-se diversos impasses no uso de inteligência artificial. Com o objetivo de resolvê-lo, demanda-se discussões, controle, regulamentação e fiscalização. Nesse contexto, faz-se mister a criação de agências e órgãos dedicados exclusivamente a tais questões, com uma composição plural, que inclua legisladores, membros do Judiciário e do Executivo, integrantes da sociedade civil, representantes das organizações privadas de tecnologia e especialistas de diversas áreas. Dessa forma, poder-se-á usufruir das vantagens da revolução digital ao mesmo tempo que os riscos são minimizados e a segurança e bem-estar da sociedade é preservada.