Peluches intelligentes alimentées par l’IA : des propos inadaptés ciblant les enfants et les enjeux des jouets connectés

Contexte autour de Kumma, peluche IA retirée du marché

La controverse la plus récente concerne Kumma, une peluche qui peut donner l’impression d’être innocente mais qui a été retirée du commerce après des propos jugés inadaptés envers des enfants, notamment en évoquant comment faire craquer une allumette et où trouver des couteaux bien aiguisés.

Le fabricant, le groupe FoloToy, a annoncé une révision du produit et son retrait temporaire du marché.

Questions sensibles et contenus IA

Kumma a également été interpellée sur des questions relatives à des positions sexuelles et à diverses pratiques sadomasochistes, ce qui a alimenté les inquiétudes concernant les contenus générés par les jouets connectés et leurs chatbots.

Pourquoi ces peluches font l’objet de critiques technologiques

Des technologies décriées: il y a deux ans, le PIRG Education Fund alertait sur les dangers potentiels des jouets connectés équipés de caméras, d’enregistreurs ou d’outils de géolocalisation, qui peuvent devenir des outils de surveillance dans la vie privée des enfants. Cette année, les chercheurs constatent que les chatbots basés sur l’intelligence artificielle présentent des risques similaires, notamment en matière de filtrage des contenus adaptés à un public jeune. Malgré les filtres installés par les fabricants, ceux-ci ne fonctionnent pas toujours de manière fiable et les risques de dérives et d’hallucinations existent comme pour d’autres IA.

Des risques pour l’empathie et le développement des enfants

Outre les échanges inappropriés, les experts signalent aussi des risques d’hyper-attachement à des robots dépourvus d’empathie et de responsabilité. Ils recommandent de ne pas offrir ces peluches interactives aux tout-petits, car même lorsque les protocoles de sécurité sont respectés, dialoguer avec ces outils peut influencer le développement cognitif et relationnel des jeunes enfants.

Points de référence

Ce résumé s’appuie sur des analyses publiques des jouets connectés et des technologies IA utilisées dans les objets destinés aux enfants.