IA: Preconceitos ‘intencionais’, diz pesquisadora da Singularity U
Alix Rübsaam, filósofa holandesa de IA e vice-presidente de Pesquisa, Expertise e Conhecimento na Singularity University, defende que a inteligência artificial (IA) é inerentemente enviesada e que essa característica, em muitos casos, é intencional. A pesquisadora, que esteve no Brasil para o AI Bootcamp, evento da HSM e SingularityU Brazil,explica que o viés é resultado das decisões humanas na criação dos modelos de linguagem.
A Intencionalidade dos Vieses na IA
Segundo Rübsaam, toda IA possui um viés, pois sem ele não seria possível discernir entre diferentes elementos. Ela exemplifica com a necessidade de uma IA distinguir um chihuahua de um muffin, necessitando de um viés a favor do chihuahua para funcionar corretamente. A pesquisadora ressalta que, embora existam preconceitos e problemas na forma como muitos modelos tomam decisões, muitos dos vieses embutidos na tecnologia atual são, em parte, intencionais.
Veja também:
A Influência Humana nas Decisões da IA
Em 2019, Rübsaam e um colega da Singularity University realizaram um experimento onde pediram a diferentes equipes que treinassem suas próprias IAs com o mesmo objetivo, utilizando a mesma tecnologia e dados. A única diferença entre os grupos eram as pessoas tomando as decisões. Os resultados mostraram que, mesmo com as mesmas condições, as IAs apresentaram diferenças nos resultados devido às diferentes decisões tomadas pelas pessoas.
A Necessidade de Considerar o Viés
Rübsaam enfatiza a importância de analisar o que é criado ao desenvolver uma IA, pois o termo pode ter diferentes significados. Ela destaca a necessidade de considerar o viés na criação e utilização da IA, e que o treinamento de IA envolve entender os dados e o impacto que eles podem causar. A professora Lívia Oliveira, da Ciência da Computação, também aponta que injustiças raciais podem surgir a partir do uso da inteligência artificial, principalmente no gerenciamento de sentenças judiciais.
Exemplos de Vieses e Discriminação em IAs
A relatora especial da ONU sobre formas contemporâneas de racismo, discriminação racial, xenofobia e intolerância correlata, Ashwini K.P., alerta que a IA pode perpetuar a discriminação racial, especialmente em práticas como policiamento preditivo. Ela explica que o policiamento preditivo pode exacerbar o histórico excesso de policiamento das comunidades marginalizadas, uma vez que os algoritmos preveem crimes futuros com base em dados pessoais e de localização, o que leva a uma maior mobilização da polícia nessas áreas.
A Importância da Diversidade e da Ética no Desenvolvimento da IA
Uma pesquisa do Google for Startups revelou a falta de diversidade nas empresas de IA no Brasil, com 49% não tendo mulheres na liderança, 61% sem pessoas negras e 71% sem pessoas LGBTQIAPN+. A falta de um olhar diverso pode levar a algoritmos que não preveem a diversidade da população. Lívia Oliveira ressalta que o profissional que trabalha dentro da ética deve testar falsos positivos e falsos negativos, identificar erros e os efeitos das decisões baseadas nos algoritmos.
Novas Funções e a Evolução do Mercado de Trabalho com a IA
Com o avanço da IA, novas funções estão surgindo no mercado de trabalho, como arquiteto de IA responsável, engenheiro de orquestração e líder de colaboração entre humanos e IA. Essas mudanças representam a próxima era do trabalho, onde os seres humanos usarão ou trabalharão ao lado da IA. No entanto, muitos trabalhadores temem ser substituídos pela IA, o que demonstra a necessidade de uma adaptação e requalificação profissional.