IA: Sesc SP expõe impactos ocultos e custos da tecnologia
O Sesc São Paulo está promovendo discussões e eventos sobre os impactos ocultos da inteligência artificial (IA), buscando trazer à tona os custos sociais, ambientais e políticos dessa tecnologia muitas vezes vista apenas sob uma ótica positiva. As iniciativas visam aprofundar o entendimento sobre como a IA se enraíza em exploração ambiental e social, desde a extração de minérios até a coleta massiva de dados.
A Materialidade da IA e seus Custos
Uma das principais linhas de discussão é a materialidade da IA, que vai além dos algoritmos e envolve uma complexa cadeia de produção com impactos ambientais e sociais significativos. Kate Crawford, pesquisadora e ensaísta, explora essa temática em seu livro Atlas da IA: poder, política e os custos planetários da inteligência artificial, revelando os pontos obscuros dessa realidade.
O livro, lançado pelas Edições Sesc São Paulo, traça uma cartografia dos componentes visíveis e invisíveis da IA, conduzindo o leitor a uma viagem pelos locais e pontos obscuros de uma realidade que aparenta ser inofensiva e altamente positiva. A obra apresenta a devastação causada pelas minas de extração de lítio na América do Norte e na Mongólia Interior, onde um gigantesco lago artificial de lama preta tóxica é subproduto da mineração de terras raras, indispensáveis à produção de hardwares vitais para máquinas de alto processamento computacional.
Crawford alerta que, para entender os negócios da IA, é preciso considerar a guerra, a fome e a morte que a mineração traz consigo. A pesquisadora propõe enxergar a IA como outro tipo de megamáquina, um conjunto de abordagens tecnológicas que depende de infraestruturas industriais, cadeias de suprimentos e trabalho humano, e que, mesmo se estendendo ao redor do globo, se mantém obscuro.
Veja também:
Debates e Reflexões sobre os Impactos da IA
Além do livro de Kate Crawford, o Sesc São Paulo tem promovido outros eventos e atividades para debater os impactos da IA na sociedade. Um exemplo é o seminário "Inteligência Artificial em processos criativos", realizado pelo CPF Sesc, que discutiu o impacto da IA na produção e fruição da cultura.
Outro projeto relevante é o do Sesc Florêncio de Abreu, que propõe reflexões sobre os impactos e desdobramentos da IA na sociedade. As discussões abordam desde o temor pela substituição de empregos até a expectativa de melhorias em processos, produtos e tratamentos.
É fundamental desenvolver um olhar crítico e consciente para que não se aceite, de forma passiva, os termos e condições impostos pelas plataformas digitais, nem a adesão automática aos usos virais dessas ferramentas, sem se perguntar qual o seu custo ambiental e social.
A Exposição "O Mundo Segundo a IA"
Em novembro, o Sesc Campinas receberá a exposição "O Mundo Segundo a IA", que questiona os impactos sociais, ambientais, cognitivos e econômicos da inteligência artificial. A exposição, que já está em cartaz em Paris, reúne obras de diversos artistas que exploram o lado oculto da IA.
Uma das obras, intitulada "Meta Office: Atrás das telas da Amazon Mechanical Turks", denuncia a precarização do trabalho de milhões de pessoas no mundo, que realizam microtarefas para alimentar os sistemas de IA. A instalação reúne dados sobre a remuneração média desses trabalhadores e o tamanho do espaço em que realizam suas atividades.
Outra obra interativa convida os visitantes a escolherem uma refeição, gerando uma conta em pegadas de carbono para cada alimento escolhido. Para cada item, há uma explicação de todas as etapas de produção, transporte e preparo até ele chegar ao prato.
Racismo Algorítmico e Discriminação
O Sesc São Paulo também tem se dedicado a discutir o racismo algorítmico e a discriminação nas redes digitais. O pesquisador Tarcízio Silva, em seu livro Racismo algorítmico: Inteligência Artificial e discriminação nas redes digitais, reforça a profundidade dos desafios nos ambientes digitais.
É preciso entender os modos pelos quais o racismo se imbrica nas tecnologias digitais através de processos ‘invisíveis’ nos recursos automatizados e/ou definidos pelas plataformas, tais como recomendação de conteúdo, moderação, reconhecimento facial e processamento de imagens.
A inteligência artificial generativa (IAG) também pode se consolidar numa forma de extração dos conhecimentos, das riquezas e da atividade criativa de comunidades, artistas, comunicadores e demais trabalhadores do conhecimento. É preciso cautela para que a IAG não reproduza práticas discriminatórias e não dissemine deepfakes e golpes digitais.
Conclusão
O Sesc São Paulo tem desempenhado um papel importante ao promover debates e reflexões sobre os impactos ocultos da inteligência artificial. As iniciativas buscam ampliar a compreensão sobre os custos sociais, ambientais e políticos dessa tecnologia, incentivando um olhar crítico e consciente sobre o seu desenvolvimento e uso. Ao trazer à tona questões como a materialidade da IA, o racismo algorítmico e a precarização do trabalho, o Sesc contribui para uma discussão mais ampla e informada sobre o futuro da inteligência artificial e o seu papel na sociedade.