Les jouets dotés d’IA sont-ils sans danger pour les enfants?

Grok par Curio. Kumma. Robot MINI. Miko 3. Il y a de fortes chances que vous ayez vu ces noms en ligne. Si ce n’est pas le cas, vos enfants les connaissent peut-être déjà. Ils font partie d’une nouvelle génération de jouets connectés à l’intelligence artificielle (IA). Ces jouets peuvent répondre à des questions, raconter des histoires, se souvenir de détails et tenir des conversations qui semblent étonnamment réelles.

Pour les enfants, ils sont fascinants. Pour les parents, ils peuvent être inquiétants. Ces jouets sont conçus pour amener les enfants à faire la conversation, à jouer à des jeux d’apprentissage et à parler de ses émotions, en utilisant l’IA pour s’adapter à la façon dont l’enfant parle et joue. Mais sont-ils sécuritaires? Si vous décidez d’offrir des jouets dotés d’IA à votre enfant, il est important de le faire d’une manière qui équilibre l’amusement, l’apprentissage et la confiance numérique.

Qu’est-ce qu’un jouet connecté à l’IA?

Ce type de jouet ressemble à une poupée ordinaire, un minirobot, une peluche ou une figurine d’action. Sauf qu’il est connecté à l’IA, qui leur permet d’interagir. En effet, il utilise la reconnaissance émotionnelle, l’analyse de la parole et des algorithmes d’apprentissage adaptatif pour personnaliser les interactions en fonction de l’humeur, de l’expression et des comportements de l’enfant.

Selon la Société canadienne de pédiatrie, les jouets dotés d’IA sont présentés comme des « compagnons de confiance » qui « écoutent et répondent » aux enfants avec une « touche humaine ». Les entreprises de jouets connectés à l’IA les présentent comme des compagnons éducatifs et interactifs qui encouragent la créativité des enfants.

Les risques inhérents

Les défenseurs des intérêts du secteur, les spécialistes de la sécurité, les régulateurs et les experts en développement de l’enfant tirent la sonnette d’alarme sur les jouets connectés à l’IA. Ils mettent en évidence plusieurs risques et préjudices potentiels associés à ces nouveaux compagnons.

Contenu inapproprié :

Le Public Interest Research Group (PIRG) a évalué quatre jouets dotés d’IA dans le cadre de son rapport Trouble in Toyland (en anglais). L’ours en peluche Kumma de FoloToy s’est avéré particulièrement problématique. Lorsqu’on l’a testé, Kumma a proposé du contenu sexuellement explicite et des conseils sur la façon d’allumer des allumettes et de trouver des couteaux. Selon une étude de Common Sense Media (en anglais seulement), 27 % du contenu provenant de l’IA du jouet était inapproprié pour les enfants (automutilation, drogues, comportements à risque, etc.).

Protection de la vie privée et sécurité :

Ces jouets recueillent d’importantes quantités de données, y compris des enregistrements vocaux, des transcriptions et des types de comportement. Fairplay a publié un avis sur les jouets connectés à l’IA, notant que « (les enfants) se confient souvent à leurs jouets préférés, ce qui permet aux fabricants de jouets et aux tiers d’accéder à des détails intimes et privés, y compris les pensées, les émotions, les peurs et les désirs profondément personnels d’un enfant ». Et les inquiétudes sont justifiées. En janvier de cette année, une faille de sécurité de la société de jouets IA Bondu a permis à toute personne disposant d’un compte Gmail d’accéder à plus de 50 000 journaux de bord de discussions d’enfants avec ses jouets dinosaures alimentés par l’IA. Les chercheurs en sécurité ont découvert la vulnérabilité et ont facilement accédé aux noms des enfants, aux dates de naissance, aux détails sur les familles et aux conversations intimes des enfants. Cette découverte a soulevé de sérieuses questions sur la façon dont les entreprises de jouets connectés à l’IA traitent les données personnelles.

Attachement émotionnel :

Les jouets dotés d’IA ne sont pas comme un véritable ami ou un adulte de confiance, mais les enfants peuvent développer ce genre de relation avec eux. Kara Brisson-Boivin, directrice de la recherche à HabiloMédias, souligne que « les jeunes enfants sont plus susceptibles de développer une relation parasociale avec les jouets dotés d’IA, où ils voient l’appareil comme un véritable ami ». Les assistants virtuels d’IA ont également tendance à être trop gentils, privant les enfants de l’occasion de gérer les conflits ou d’établir des relations de manière authentique.

Créativité et développement :

Les jouets traditionnels encouragent la créativité, favorisent le jeu imaginatif et aident à développer la motricité. Les enfants utilisent leur imagination et font généralement les deux côtés de la conversation lorsqu’ils parlent à leurs poupées ou à leurs figurines d’action. Ils créent des mondes, résolvent des problèmes et racontent des histoires. Les pédiatres constatent déjà une augmentation des taux de retard de développement, de langage et socio-émotionnels chez les jeunes enfants. On craint sérieusement que les jouets connectés à l’IA n’aggravent cette tendance.

Comment utiliser les jouets dotés d’IA en toute sécurité

Si vous choisissez de laisser vos enfants jouer avec des jouets connectés à l’IA, il est important de le faire en toute connaissance de cause. Grâce à quelques stratégies simples, vos enfants peuvent profiter de l’apprentissage et du plaisir de ces jouets tout en gérant les risques :

• Faites vos recherches : le marché des jouets dotés d’IA regorge de milliers de fabricants, des jeunes entreprises aux grandes marques comme Mattel en partenariat avec OpenAI. Si vous choisissez d’acheter l’un de ces jouets, informez-vous bien avant. Lisez les avis. Allez sur des forums comme Reddit pour connaître l'expérience vécue par les gens.
• Jouez d’abord avec le jouet vous-même : apprenez son fonctionnement, testez les garde-fous, explorez les types de questions que vous pouvez poser et comment il répond.
• Jouez avec vos enfants : en jouant avec eux, ils vous aideront à mieux comprendre ce qu’ils aiment bien dans ce jouet, pourquoi ils l’aiment et ce qu’ils n'aiment pas. Cela vous donne également l’occasion d’avoir des conversations spontanées et des moments d’apprentissage sur la façon d’interagir avec l’IA, ce à quoi s’attendre, ce qui est réel et ce qui ne l’est pas, et comment jouer en toute sécurité.
• Fixez des limites à l’utilisation : tout comme le temps d’écran, le temps consacré aux jouets connectés à l’IA doit être structuré et avoir des limites. Décidez quand et où ces jouets peuvent être utilisés. Insistez sur le fait que les jouets dotés d’IA sont un complément au jeu et qu'ils ne remplacent pas les activités créatives, sociales ou hors ligne.

Utilisés de manière réfléchie et prudente, les jouets dotés d’IA peuvent encourager le jeu sain et élargir l’ouverture d’esprit des enfants. La clé pour les parents est de rester curieux, impliqués et engagés pendant le temps de jeu avec le jouet connecté à l’IA. Ces jouets ne remplacent pas l’imagination, la connexion ou les relations humaines. Lorsqu’ils sont introduits avec intention et soin, ils peuvent être un excellent outil pour soutenir l’apprentissage et le jeu. En faisant des choix éclairés et en fixant des limites, vous pouvez adopter les jouets dotés d’IA avec plus de confiance, aidant ainsi vos enfants à se sentir en sécurité, soutenus et libres d’aller là où leur imagination les mène.