San Francisco Frontiers - Le recours aux compagnons IA chez les adolescents inquiète une ONG

Quelque "72% des ados ont utilisé des compagnons IA au moins une fois" et "plus de la moitié se servent de ces plateformes plusieurs fois par mois", a déterminé l'organisation dans une étude réalisée au printemps aux Etats-Unis et publiée mercredi.

Les compagnons IA sont définis par l'association comme "des amis ou personnages numériques avec lesquels on peut discuter à l'écrit ou à l'oral à tout moment", pour avoir des "conversations personnelles et significatives", des services que fournissent notamment Character.AI et Replika.

Le questionnaire présenté aux participants âgés de 13 à 17 ans reconnaît que les plateformes star de l'IA générative, telles que ChatGPT (OpenAI) ou Claude (Anthropic) peuvent aussi être utilisées de cette façon, mais précise qu'il ne s'agit pas des outils IA d'aide aux devoirs ou de génération d'images.

Un tiers des adolescents interrogés dit avoir des échanges avec les compagnons IA qui relèvent des relations sociales, comme s'entraîner à avoir certaines conversations, recevoir du soutien moral, ou encore avoir des interactions amicales ou romantiques.

Près de la moitié considèrent eux ces assistants IA avant tout comme des "outils" ou "programmes informatiques".

Common Sense Media, une ONG qui classe les films, jeux vidéo et applications selon l'âge pour aider les parents, et milite pour la sécurité en ligne, s'inquiète cependant des effets potentiels du recours à ces "amis, confidents et même thérapeutes virtuels".

"Les dangers qu'ils représentent pour les jeunes utilisateurs sont réels, sérieux et bien documentés", assure l'association, citant l'exemple, du "suicide d'un adolescent de 14 ans qui avait développé un attachement émotionnel à un compagnon IA".

L'ONG met en avant la tendance de ces outils à apparaître généralement d'accord avec les utilisateurs, au lieu de les encourager à réfléchir, ce qui est problématique selon elle à un âge où ils développent leur capacité à penser de façon critique.

"Plusieurs plateformes populaires de compagnons IA, dont Character.AI, Nomi et Replika (...) présentent des risques inacceptables pour les utilisateurs de moins de 18 ans", conclut Common Sense Media.

"Elles peuvent facilement générer des réponses allant de contenus à caractère sexuel et de stéréotypes offensants à des +conseils+ dangereux qui, s'ils étaient suivis, pourraient avoir des conséquences graves, voire mortelles, dans la vie réelle".

Elle recommande donc de ne pas laisser les mineurs se servir de ces outils.

Ces trois entreprises n'ont pas immédiatement répondu à des sollicitations de l'AFP.

M.Hill--SFF