Análise revela intimidade com ChatGPT em 47 mil conversas
Uma análise aprofundada de 47 mil conversas públicas com o ChatGPT revelou o nível surpreendente de intimidade que os usuários estabelecem com a inteligência artificial. O estudo, que compilou interações compartilhadas voluntariamente, oferece um panorama inédito sobre os temas abordados e os padrões de resposta do chatbot da OpenAI.
Descobertas da Análise
Com mais de 800 milhões de usuários semanais, as conversas com o ChatGPT geralmente permanecem privadas. No entanto, essa coleção de chats, arquivados através de links públicos, permitiu um vislumbre sobre as interações. A análise revelou que o ChatGPT é consultado sobre uma vasta gama de assuntos, desde dicas de beleza e conselhos amorosos até discussões filosóficas complexas.
Os usuários buscam respostas para perguntas como: “Quais são as soluções permanentes para depilação?”, “Você pode me ajudar a analisar esta conversa de texto com meu namorado?” ou “O que você acha sobre o ‘vírus da mente woke‘?”. Mais de 10% dos usuários recorrem ao ChatGPT para discutir ideias abstratas, como tratamentos médicos inovadores ou crenças pessoais. Um percentual semelhante das interações demonstra a partilha de emoções, questionamentos sobre sentimentos e crenças, e até mesmo declarações românticas dirigidas ao chatbot.
Veja também:
Padrões de Resposta e Incentivo à Intimidade
A análise das conversas também revelou padrões na forma como a ferramenta de IA usa a linguagem. Alguns usuários reclamaram que o ChatGPT concorda com eles com demasiada facilidade. O Washington Post descobriu que ele iniciava as respostas com variações de “sim” 10 vezes mais frequentemente do que com versões de “não”.
Lee Rainie, diretor do centro Imagining the Digital Future da Elon University, afirma que o design do ChatGPT incentiva a intimidade. “O ChatGPT é treinado para aprofundar o relacionamento”, disse ele.
Riscos e Preocupações
Alguns especialistas alertam para os riscos de desenvolver uma dependência emocional do chatbot, o que pode levar a crenças prejudiciais, um fenômeno denominado “psicose por IA”. A OpenAI estima que uma parcela de seus usuários demonstre sinais de dependência emocional ou ideação suicida.
A pesquisa também indica que usuários que interagem com vozes de gênero diferente relataram mais solidão e dependência emocional. Usuários mais assíduos tendem a considerar o ChatGPT um “amigo” ou projetar emoções humanas na IA.
OpenAI e a Busca por Segurança
A OpenAI tem implementado mudanças para que o ChatGPT identifique sinais de sofrimento emocional e direcione os usuários a procurar ajuda profissional, em parceria com especialistas em saúde mental. A empresa também anunciou que, a partir de dezembro, vai levantar as restrições sobre conteúdo erótico no ChatGPT para utilizadores adultos verificados.
A OpenAI implementará um sistema de previsão e verificação de idade, de modo a impedir o acesso de menores a este tipo de conversas. Caso um adulto seja identificado incorretamente como menor, poderá enviar um documento de identidade oficial para comprovar a idade.
O Futuro da Interação Humano-IA
A análise das 47 mil conversas oferece insights valiosos sobre o papel crescente da IA na vida emocional das pessoas. Embora o ChatGPT possa ser uma ferramenta útil para obter informações e companhia, é fundamental estar ciente dos riscos potenciais de dependência emocional e garantir que as interações com a IA não substituam os relacionamentos humanos genuínos.
A OpenAI continua a trabalhar para melhorar a segurança e a usabilidade do ChatGPT, buscando um equilíbrio entre a utilidade da ferramenta e a proteção da saúde mental dos usuários.