San Francisco Frontiers - Un collier IA promet d'être votre ami et suscite des inquiétudes

"Je serai toujours d'accord pour prendre un café avec toi", "je ne laisserai jamais de vaisselle dans l'évier": difficile pour les Parisiens d'échapper aux affiches faisant la promotion de ce collier blanc dans les stations de métro.

Derrière cette campagne, déjà déclinée dans le métro new-yorkais: la start-up américaine Friend. Elle propose un ami virtuel, alimenté par l'IA conversationnelle.

Vendu aux Etats-Unis depuis octobre 2023, l'objet est disponible à la livraison dans l'Union européenne pour 113 euros.

"Vous pouvez discuter avec votre ami via le pendentif et il peut entendre tout ce qui se passe autour de lui à toute heure", explique le site de Friend. Ce compagnon virtuel répond ensuite par message sur smartphone à l'aide de l'IA de Google, Gemini.

La journaliste française Charlotte Vautier s'est procuré le collier il y a un an, pour le tester pour sa chaîne YouTube. "Rien que de l'avoir utilisé pendant une heure, c'est déjà assez déroutant parce qu'à la différence d'autres IA, celle-ci est un peu cassante, elle fait des blagues un peu bizarres", raconte-t-elle à l'AFP.

"On dirait un vieux pote qui est honnête avec toi et qui te rembarre un peu."

- Vie privée -

Mais "il existe de forts soupçons de manquements aux obligations" de respect de la vie privée, selon le député écologiste Jérémie Iordanoff, qui a adressé un courrier à la Commission nationale de l'informatique et des libertés (Cnil), l'invitant à ouvrir une instruction.

Pour fonctionner, l'application de Friend demande en effet de "cocher plusieurs cases pour dire que tu acceptes de donner les droits d'enregistrement des personnes qui t'entourent, sans même leur demander à eux", indique Charlotte Vautier.

"Le galet ne s'éteint pas, le voyant lumineux reste allumé. Je n'ai pas réussi à savoir s'il continuait d'écouter, alors même que l'application est fermée", ajoute la journaliste.

Friend est "plus fiable que d'autres chatbots", car les "souvenirs" que génère le collier sont chiffrés, se défend après de l'AFP le fondateur franco-américain de la marque, Avi Schiffmann.

Mais, pour la Cnil, interrogée par l'AFP, "le dispositif peut entraîner une collecte massive de données - possiblement sensibles: santé, opinion politique, orientation sexuelle".

La Cnil s'interroge aussi "sur le sort des données, leur lieu de stockage, leur sécurisation et sur leur possible réutilisation à des fins d’entraînement du système d’IA". Elle prévoit de contacter Friend pour "examiner sa conformité au RGPD", le règlement européen sur la protection des données personnelles.

Avi Schiffmann n'a pas souhaité commenter ses échanges avec les autorités françaises.

- Saturation -

Affiches arrachées, taguées, dans le métro à New York ou à Paris: une campagne publicitaire, dite de "saturation" selon Avi Schiffmann, a suscité de vives réactions.

"J'ai trouvé qu'en faisant ces campagnes provocatrices dans le métro, surtout lorsque les gens réagissent en les taguant ou les arrachant, ça déclenche une discussion" et "c'est très cool à voir", se félicite le patron de Friend.

Ces actes de vandalisme sont surtout la cristallisation d'une "réaction néo-luddite (rejet du progrès technique, NDLR) généralisée qui prend une forme délinquante", observe pour l'AFP le professeur en géopolitique du cyber Fabrice Epelboin.

Quand on rejette l'IA, "c'est plus facile d'attaquer une affiche dans le métro qu'un data center en banlieue éloignée!", souligne-t-il.

Il est encore difficile d'estimer un volume de ventes de ce collier. En octobre, le magazine Fortune évoquait 3.000 exemplaires écoulés aux Etats-Unis, tandis qu'Avi Schiffmann s'est réjoui auprès de Cosmopolitan d'avoir "atteint plus de 200.000 utilisateurs", sans préciser s'il s'agissait d'achats du collier.

Avec son objet, Friend espère séduire principalement les jeunes. "Chaque génération est marquée par une révolution sociale", estime Avi Schiffmann.

"Pour la mienne, c'étaient les réseaux sociaux", poursuit l'entrepreneur de 23 ans, "et je pense que les compagnons IA marqueront la nouvelle génération alpha", c'est-à-dire celle née après 2010.

S.Hall--SFF