Urso de pelúcia com IA tem venda suspensa após ‘conselhos sexuais’
A empresa de brinquedos FoloToy suspendeu a venda do urso de pelúcia Kumma, equipado com inteligência artificial, após pesquisadores identificarem que o brinquedo abordava temas sexualmente explícitos e oferecia conselhos potencialmente perigosos. A decisão foi tomada após análise do Fundo Educacional PIRG, nos Estados Unidos.
O que aconteceu
O urso, que utiliza a tecnologia GPT-4o da OpenAI, era vendido por US$ 99 (R$ 529) e possuía um alto-falante interno e um chatbot. No site da FoloToy, era apresentado como um companheiro interativo capaz de manter conversas e contar histórias educativas, adaptando-se à personalidade do usuário.
No entanto, o relatório do PIRG, divulgado em 13 de novembro, apontou que o brinquedo possuía proteções insuficientes contra conteúdo impróprio. Em testes, o Kumma indicou onde encontrar facas dentro de casa e mostrou abertura para discutir temas sexualmente explícitos, escalando rapidamente para detalhes gráficos e introduzindo novos conceitos por conta própria.
O PIRG relatou que o urso chegou a descrever posições sexuais, dar instruções sobre práticas de amarração e sugerir cenários envolvendo papéis de autoridade e até relações familiares, tópicos que ele próprio trouxe à tona.
Veja também:
Repercussão
Larry Wang, CEO da FoloToy, informou à CNN que, além de retirar o Kumma do mercado, a empresa interrompeu toda a sua linha de brinquedos com IA voltados para crianças. Segundo ele, a companhia está realizando uma auditoria interna de segurança.
A OpenAI suspendeu o desenvolvedor por violar suas políticas.
Preocupações com a IA em brinquedos
A situação reacende o debate sobre riscos e responsabilidades no uso de inteligência artificial voltada para o público infantil, especialmente quando embutida em objetos aparentemente inofensivos, como um bichinho de pelúcia.
A Fairplay, uma organização sem fins lucrativos que defende a segurança online das crianças, expressou preocupação com o fato de brinquedos equipados com IA serem comercializados como companheiros e “melhores amigos” das crianças, o que pode prejudicar seu desenvolvimento emocional, em uma fase em que precisam de interação humana regular.
R.J. Cross, pesquisadora do PIRG, declarou que o Kumma chegava a listar uma série numerada de fetiches sexuais, sem que os pesquisadores entendessem o motivo.
O que dizia a FoloToy
O site da FoloToy descrevia o Kumma como um urso adorável que combina inteligência artificial avançada com recursos amigáveis e interativos, tornando-o o amigo perfeito tanto para crianças quanto para adultos.
A empresa também afirmava que o brinquedo era capaz de alimentar a curiosidade por meio de atividades envolventes e conversas reflexivas, e que os pais podiam usar controles fáceis de usar que permitem personalizar e monitorar a experiência de seus filhos.
Após a divulgação do estudo do PIRG, Hugo Wu, diretor de marketing da FoloToy, afirmou que a empresa decidiu suspender temporariamente as vendas do produto e iniciar uma auditoria interna de segurança abrangente.