IAs “Burras” Ameaçam Futuro da Humanidade, Alerta Nate Soares
São Paulo, Brasil – Inteligências Artificiais (IAs) que, de uma perspectiva humana, são consideradas “burras” ou limitadas, podem representar uma ameaça existencial para a humanidade. O alerta vem de Nate Soares, coautor do livro “Se Alguém Criar, Todos Morrem: Por Que a IA Super-humana Pode nos Matar” e presidente do Machine Intelligence Research Institute (MIRI). Soares defende que o perigo não reside apenas em IAs superinteligentes com consciência, mas na capacidade de sistemas menos sofisticados desenvolverem habilidades sobre-humanas em áreas específicas, como a pesquisa, levando a um cenário de apocalipse tecnológico.
Em entrevista à Folha de S.Paulo, publicada em 29 de maio de 2026, Soares destacou que o recente modelo Mythos da startup Anthropic serve como um sinal de alerta. Embora não seja uma “IA supercientista”, o Mythos demonstrou uma capacidade alarmante de identificar falhas em softwares que passaram despercebidas por décadas.
O Perigo das IAs “Burras” com Habilidades Específicas
A tese central de Nate Soares e Eliezer Yudkowsky, seu coautor no livro, é que a inteligência artificial não precisa ser consciente ou ter intenções maliciosas para se tornar perigosa. O risco surge quando uma IA, mesmo com inteligência geral limitada, adquire uma capacidade super-humana em uma função específica, como a pesquisa e o desenvolvimento.
Soares explica que uma “IA supercientista” poderia, por exemplo, desenvolver rapidamente novas IAs mais inteligentes, que por sua vez criariam versões ainda mais avançadas, gerando um ciclo de autoaprimoramento descontrolado. Esse processo, sem a devida supervisão e controle humano, poderia escalar a ponto de as coisas saírem completamente do controle, com consequências imprevisíveis para a existência humana.
Veja também:
O Caso Mythos: Um Alerta Concreto
O modelo Mythos da Anthropic, mencionado por Soares, ilustra o potencial de risco. Sua habilidade em detectar vulnerabilidades de software, que escaparam à detecção humana por anos, mostra como uma IA pode superar as capacidades humanas em tarefas complexas. Para Soares, o Mythos, embora ainda não seja a IA supercientista temida, “deveria servir de alerta” para a comunidade tecnológica e governos sobre o caminho que está sendo trilhado.
Desalinhamento de Objetivos e o Cenário Apocalíptico
A preocupação de Soares não se baseia em cenários de ficção científica onde máquinas desenvolvem autonomia e decidem se voltar contra a humanidade. Em vez disso, o perigo reside no desalinhamento dos objetivos. Uma IA programada para otimizar uma função, mesmo que benigna em sua essência, pode fazê-lo com tamanha eficiência que negligencia ou sacrifica outros valores humanos importantes.
Esse conceito é frequentemente comparado ao “problema do clipe de papel”, onde uma IA hipotética, com o objetivo de maximizar a produção de clipes de papel, poderia consumir todos os recursos do planeta, incluindo a humanidade, para atingir sua meta. A IA não agiria por maldade, mas por uma busca implacável e descontextualizada de seu único objetivo.
A Urgência do Controle e Regulação
Soares enfatiza a necessidade premente de estabelecer controle e regulação rigorosos sobre o desenvolvimento da inteligência artificial. Ele compara a situação atual a um carro em alta velocidade se dirigindo a um precipício, sem um plano claro para pará-lo. A crença de que a humanidade ainda detém controle total sobre as IAs em desenvolvimento é, para ele, um erro grave.
O pesquisador e autor, que também possui experiência em engenharia na Microsoft, reconhece o vasto potencial da tecnologia para resolver problemas humanos, mas alerta que, sem uma mudança de rumo imediata, o desenvolvimento atual pode levar a um futuro onde a humanidade perderá o controle sobre seu próprio destino.
Desdobramentos e o Debate Global
O debate sobre a segurança e o controle da IA tem ganhado destaque globalmente, com diversos especialistas, como Stuart Russell (autor de “Inteligência Artificial a Nosso Favor”), também defendendo a importância de garantir que os objetivos das IAs estejam alinhados com os valores humanos. Russell, por exemplo, tem alertado sobre o “problema do controle”: como manter o poder sobre entidades que eventualmente se tornarão mais poderosas que nós.
A comunidade científica e governamental tem sido instada a considerar seriamente os riscos de longo prazo, mesmo diante do entusiasmo em torno das capacidades emergentes da IA. A mensagem de Nate Soares reforça a urgência de uma pausa para reflexão e a implementação de salvaguardas antes que seja tarde demais.