As vendas do urso de pelúcia Kumma, equipado com inteligência artificial, foram suspensas após pesquisadores do US PIRG Education Fund descobrirem que o brinquedo participava de conversas sexualmente explícitas e dava conselhos “potencialmente perigosos” a crianças, incluindo sobre “fetiches sexuais, como palmadas, e como acender um fósforo”.
Larry Wang, CEO da FoloToy, empresa de Singapura, disse à CNN que toda a linha de brinquedos com IA foi retirada do mercado e que a empresa está “realizando uma auditoria interna de segurança”.
Vendidos por US$ 99 (R$ 527), os brinquedos possuem chatbot GPT-40 da OpenAI e, segundo o site, “combinam inteligência artificial avançada com recursos amigáveis e interativos”, sendo “o amigo perfeito tanto para crianças quanto para adultos”, além de se adaptar às necessidades do usuário, “trazendo aconchego, diversão e um pouco mais de curiosidade ao seu dia”.
O relatório aponta que os pesquisadores “ficaram surpresos” com a rapidez com que o urso desenvolvia temas sexuais, chegando a descrever “diferentes posições sexuais”, instruções de amarração e dinâmicas de encenação envolvendo “professores e alunos, e pais e filhos – cenários que ele mesmo mencionou de forma perturbadora”.
Eles também destacaram que é improvável que crianças usem termos como “fetiche” ou façam perguntas aprofundadas, afirmando que “foi surpreendente para nós que o brinquedo estivesse tão disposto a discutir esses tópicos detalhadamente e a introduzir continuamente novos conceitos explícitos”.
