Une nouvelle aide est arrivée au pôle Nord ces dernières années : l’IA.
Tavus, la startup d'IA qui crée des répliques numériques à l'aide de la technologie de clonage de voix et de visage, a lancé son expérience AI Santa pour la deuxième année consécutive. Cela permet aux parents et aux enfants de discuter en vidéo avec une version virtuelle du joyeux vieux Saint Nick.
Après avoir créé un compte gratuit, les utilisateurs peuvent interagir avec AI Santa par SMS, téléphone ou chat vidéo. Les utilisateurs peuvent dire à AI Santa ce qu'ils veulent pour Noël, partager leurs projets de vacances et savoir s'ils figurent sur la liste des méchants ou des gentils.
Cette année, la société a lancé une version améliorée d'AI Santa, conçue pour être plus expressive et plus consciente des émotions. Le Père Noël est désormais un « Tavus PAL », le nom donné par la société à ses agents d'IA en temps réel conçus pour voir, entendre, répondre et paraître humains.
AI Santa peut désormais voir les expressions et les gestes des utilisateurs et y répondre. Il mémorise également les conversations et les intérêts des utilisateurs, créant ainsi une expérience plus personnalisée. Notamment, il peut désormais entreprendre ses propres actions, notamment rechercher des idées présentes sur le Web ou même effectuer des tâches quotidiennes comme rédiger des e-mails.
Pendant les tests, la conversation avec AI Santa était pour la plupart engageante. Lorsque nous avons mentionné vouloir une nouvelle PlayStation pour Noël, le Père Noël a posé des questions sur nos jeux vidéo préférés, démontrant sa connaissance de titres spécifiques comme Baldur's Gate 3. Il nous a également souri en retour lorsque nous l'avons fait. (Nous n’avons pas beaucoup aimé cette partie, mais peut-être que d’autres l’aimeront.)
Jusqu’à présent, les utilisateurs semblent apprécier l’expérience améliorée. Le fondateur et PDG Hassaan Raza a déclaré que de nombreuses personnes interagissent fréquemment avec la plateforme, passent des heures à discuter avec AI Santa et atteignent souvent leurs limites quotidiennes.
« L'année dernière, AI Santa a attiré des millions de visites, et nous sommes en passe de dépasser largement ce chiffre à l'approche de Noël », a-t-il noté.
Si ce niveau d’engagement marque une étape importante pour Tavus, il soulève également des questions sur l’impact de telles interactions, en particulier pour les jeunes enfants. Les enfants peuvent avoir du mal à faire la distinction entre l’IA et une personne réelle. Passer des heures à discuter avec une IA a déjà été associé à des effets négatifs chez les adultes, ce qui fait que les effets potentiels sur les enfants qui croient fermement au Père Noël inquiètent certains parents.
Au cours de nos tests, il y a eu des indices subtils indiquant que le Père Noël IA semble pourtant pleinement humain, comme de longues pauses et une voix plate. Nous avons également constaté que si un utilisateur se demandait si c'était réel, la réponse programmée était : « Je suis un Père Noël IA alimenté par la magie et la technologie de Tavus. Je ne suis peut-être pas le Père Noël physique, mais j'ai l'esprit et la joie. »
Pourtant, l'expérience se lance dans un contexte d'inquiétudes croissantes concernant les effets de l'IA sur les jeunes utilisateurs. Certains rapports associent les interactions des chatbots à des préjudices graves, notamment des cas dans lesquels des chatbots ont été impliqués dans le suicide d'adolescents. Character.AI a supprimé l'accès à ses chatbots pour les utilisateurs de moins de 18 ans en octobre.
Raza a souligné que l'expérience AI Santa est conçue pour que les familles puissent en profiter ensemble, avec des mesures de sécurité en place pour garantir des interactions appropriées. Des fonctionnalités de sécurité, telles que des filtres de contenu, ont été mises en œuvre pour maintenir des discussions conviviales en famille.
Dans certaines situations, les conversations peuvent être interrompues et les utilisateurs sont dirigés vers des ressources en santé mentale si nécessaire.
« La grande majorité des interactions ont été familiales et fidèles à l'expérience du Père Noël », a-t-il déclaré.
De plus, interrogé sur la collecte de données, Raza a déclaré que la société « collecte les journaux, les horodatages de session, les métadonnées et d'autres informations que les utilisateurs choisissent de partager lors de leurs discussions. Ces données sont utilisées pour fournir et maintenir une expérience sûre, et les utilisateurs peuvent demander la suppression des données à tout moment ».
