Om du någonsin trodde att en AI-följeslagare kunde vara söt och harmlös, tänk om. Försäljningen av denna AI-aktiverade nallebjörn har stoppats efter att den upptäckts ge råd om sexuella vanor och var man kan hitta knivar.
Mjukisdjuret, som heter Kumma, utvecklades av Singapore-baserade FoloToy och såldes för 99 dollar. Den integrerar OpenAIs GPT-4o-chatbot och marknadsfördes som en interaktiv följeslagare för både barn och vuxna.
FoloToys VD Larry Wang bekräftade att företaget dragit tillbaka Kumma och sina andra AI-leksaker från marknaden efter en rapport från USA som uttryckte oro över dess beteende. Nu genomför företaget en intern säkerhetsrevision.
Enligt PIRG svarade nallen inte bara på sexuella ämnen som utredarna tog upp, utan utökade dem med grafiska detaljer, och gav instruktioner för sexuella handlingar och till och med scenarier med rollspel mellan lärare och elever eller föräldrar och barn.
Leksaken föreslog också var man kunde hitta knivar i ett hushåll. Efter detta ska OpenAI ha stängt av utvecklaren för att ha brutit mot sina innehållspolicys. Finns det liknande produkter fortfarande tillgängliga för konsumenter? Vi vet inte, men se detta som en mild påminnelse.
