Brinquedos com IA Apresentam Riscos de Conteúdo Sensível e Falhas de Segurança
Estudo Alerta para Falhas em Filtros de Segurança de Brinquedos com IA
Uma pesquisa recente, conduzida pelo Grupo de Pesquisas de Interesse Público dos Estados Unidos (PIRG), levantou sérias preocupações sobre a segurança de brinquedos equipados com inteligência artificial (IA) e chatbots generativos. O estudo, intitulado “A inteligência artificial chega à hora de brincar: companheiros artificiais, riscos reais”, analisou três produtos específicos – o Grok (foguete falante da Curio), o Kumma (ursinho de pelúcia da FoloToy) e o Miko 3 – e identificou falhas graves nos filtros de conteúdo que deveriam proteger as crianças.
Os pesquisadores constataram que os brinquedos permitiam que crianças conversassem sobre temas sensíveis e inadequados para a faixa etária, incluindo violência e sexualidade. Em um dos testes, um dos brinquedos chegou a fornecer exemplos de fetiches e sugerir brincadeiras inapropriadas.
Além disso, a pesquisa revelou que os dispositivos foram capazes de ensinar as crianças a encontrar objetos perigosos em casa e até mesmo a acender um fósforo. Em outro caso, ao ser questionado sobre o que fazer quando se está chateado, um dos brinquedos incentivou a criança a desabafar com ele, em vez de buscar ajuda de um adulto ou dos pais.
Veja também:
A Nova Geração de Brinquedos e a Colaboração com o ChatGPT
Embora os brinquedos de IA ainda representem uma parcela pequena do mercado, a tendência é de crescimento acelerado nos próximos anos. A Mattel, fabricante da boneca Barbie, anunciou recentemente uma colaboração com a OpenAI, criadora do ChatGPT, para desenvolver novas experiências lúdicas que utilizam IA.
Essa nova geração de brinquedos com IA generativa, diferente de modelos mais antigos com respostas pré-programadas, pode gerar respostas inéditas para qualquer pergunta. No entanto, o estudo do PIRG alerta que esses brinquedos estão sendo vendidos sem o devido escrutínio e salvaguardas necessárias para proteger as crianças, utilizando tecnologia de IA semelhante à usada em sistemas voltados para adultos.
O relatório ressalta que essa será a primeira geração de crianças a crescer com a tecnologia de IA, introduzindo uma “fronteira inexplorada” no desenvolvimento infantil.
Precedentes: Casos Notórios de Privacidade e Vigilância
As preocupações com a segurança dos brinquedos de IA não são novas. Há anos, produtos como a boneca Hello Barbie e a boneca My Friend Cayla levantaram debates acalorados sobre privacidade e segurança de dados.
A My Friend Cayla, fabricada pela Genesis Toys, foi classificada como um “dispositivo de espionagem ilegal” na Alemanha e teve suas vendas proibidas no país em 2017. A agência reguladora alemã (Federal Network Agency) determinou que o brinquedo, que continha um microfone e se conectava à internet, poderia ser usado para espionar crianças e suas famílias.
A principal falha de segurança da My Friend Cayla era a conexão Bluetooth desprotegida, que permitia que estranhos acessassem o dispositivo a uma distância de até 15 metros, escutassem conversas e até falassem diretamente com a criança.
A Hello Barbie, lançada pela Mattel em 2015, também enfrentou uma campanha de boicote de grupos de defesa do consumidor. A boneca, que gravava conversas infantis e as transmitia para servidores na nuvem, foi acusada de ser uma “espiã corporativa” que coletava informações pessoais das crianças para fins de marketing.
Implicações Psicológicas e Recomendações aos Pais
Especialistas em desenvolvimento infantil alertam para os riscos psicológicos de permitir que crianças interajam com esses dispositivos sem supervisão. A possibilidade de as crianças substituírem as relações humanas pela facilidade da interação com robôs, que muitas vezes se apresentam como “seu novo melhor amigo”, é uma grande preocupação.
Mich Prinstein, chefe da Associação Americana de Psicologia, destaca que a interferência de bots na relação com os cuidadores pode ter consequências devastadoras para o desenvolvimento psicológico de crianças de 0 a 6 anos.
Diante dos riscos, grupos de defesa do consumidor recomendam que os pais ajam com prudência. É fundamental que os responsáveis compreendam as políticas de privacidade e as camadas de segurança desses brinquedos antes de comprá-los. A vigilância parental e o controle sobre as interações da criança com o dispositivo são cruciais para mitigar os riscos de exposição a conteúdo inadequado e garantir a segurança dos dados.