Brinquedos com IA Apresentam Riscos de Conteúdo Sensível e Falhas de Segurança
Uma pesquisa recente, conduzida pelo Grupo de Pesquisas de Interesse Público dos Estados Unidos (PIRG), levantou sérias preocupações sobre a segurança de brinquedos equipados com inteligência artificial (IA) e chatbots generativos. O estudo, intitulado “A inteligência artificial chega à hora de brincar: companheiros artificiais, riscos reais”, analisou três produtos específicos – o Grok (foguete falante da Curio), o Kumma (ursinho de pelúcia da FoloToy) e o Miko 3 – e identificou falhas graves nos filtros de conteúdo que deveriam proteger as crianças.
Os pesquisadores constataram que os brinquedos permitiam que crianças conversassem sobre temas sensíveis e inadequados para a faixa etária, incluindo violência e sexualidade. Em um dos testes, um dos brinquedos chegou a fornecer exemplos de fetiches e sugerir brincadeiras inapropriadas.
Além disso, a pesquisa revelou que os dispositivos foram capazes de ensinar as crianças a encontrar objetos perigosos em casa e até mesmo a acender um fósforo. Em outro caso, ao ser questionado sobre o que fazer quando se está chateado, um dos brinquedos incentivou a criança a desabafar com ele, em vez de buscar ajuda de um adulto ou dos pais.
Veja também:
A Nova Geração de Brinquedos e a Colaboração com o ChatGPT
Embora os brinquedos de IA ainda representem uma parcela pequena do mercado, a tendência é de crescimento acelerado nos próximos anos. A Mattel, fabricante da boneca Barbie, anunciou recentemente uma colaboração com a OpenAI, criadora do ChatGPT, para desenvolver novas experiências lúdicas que utilizam IA.
Essa nova geração de brinquedos com IA generativa, diferente de modelos mais antigos com respostas pré-programadas, pode gerar respostas inéditas para qualquer pergunta. No entanto, o estudo do PIRG alerta que esses brinquedos estão sendo vendidos sem o devido escrutínio e salvaguardas necessárias para proteger as crianças, utilizando tecnologia de IA semelhante à usada em sistemas voltados para adultos.
O relatório ressalta que essa será a primeira geração de crianças a crescer com a tecnologia de IA, introduzindo uma “fronteira inexplorada” no desenvolvimento infantil.
Precedentes: Casos Notórios de Privacidade e Vigilância
As preocupações com a segurança dos brinquedos de IA não são novas. Há anos, produtos como a boneca Hello Barbie e a boneca My Friend Cayla levantaram debates acalorados sobre privacidade e segurança de dados.
A My Friend Cayla, fabricada pela Genesis Toys, foi classificada como um “dispositivo de espionagem ilegal” na Alemanha e teve suas vendas proibidas no país em 2017. A agência reguladora alemã (Federal Network Agency) determinou que o brinquedo, que continha um microfone e se conectava à internet, poderia ser usado para espionar crianças e suas famílias.
A principal falha de segurança da My Friend Cayla era a conexão Bluetooth desprotegida, que permitia que estranhos acessassem o dispositivo a uma distância de até 15 metros, escutassem conversas e até falassem diretamente com a criança.
A Hello Barbie, lançada pela Mattel em 2015, também enfrentou uma campanha de boicote de grupos de defesa do consumidor. A boneca, que gravava conversas infantis e as transmitia para servidores na nuvem, foi acusada de ser uma “espiã corporativa” que coletava informações pessoais das crianças para fins de marketing.
Implicações Psicológicas e Recomendações aos Pais
Especialistas em desenvolvimento infantil alertam para os riscos psicológicos de permitir que crianças interajam com esses dispositivos sem supervisão. A possibilidade de as crianças substituírem as relações humanas pela facilidade da interação com robôs, que muitas vezes se apresentam como “seu novo melhor amigo”, é uma grande preocupação.
Mich Prinstein, chefe da Associação Americana de Psicologia, destaca que a interferência de bots na relação com os cuidadores pode ter consequências devastadoras para o desenvolvimento psicológico de crianças de 0 a 6 anos.
Diante dos riscos, grupos de defesa do consumidor recomendam que os pais ajam com prudência. É fundamental que os responsáveis compreendam as políticas de privacidade e as camadas de segurança desses brinquedos antes de comprá-los. A vigilância parental e o controle sobre as interações da criança com o dispositivo são cruciais para mitigar os riscos de exposição a conteúdo inadequado e garantir a segurança dos dados.