Le chatbot viral alimenté par l’IA d’OpenAI, ChatGPT, peut désormais naviguer sur Internet – dans certains cas.
OpenAI a lancé aujourd’hui des plugins pour ChatGPT, qui étendent les fonctionnalités du bot en lui donnant accès à des sources de connaissances et des bases de données tierces, y compris le Web. Disponible en version alpha pour les utilisateurs et les développeurs de ChatGPT sur la liste d’attente, OpenAI indique qu’il accordera initialement la priorité à un petit nombre de développeurs et d’abonnés à son plan premium ChatGPT Plus avant de déployer un accès à plus grande échelle et à l’API.
Le plug-in le plus intrigant est sans aucun doute le plug-in de navigation Web d’OpenAI, qui permet à ChatGPT de puiser des données sur le Web pour répondre aux diverses questions qui lui sont posées. (Auparavant, les connaissances de ChatGPT étaient limitées aux dates, événements et personnes antérieurs à septembre 2021 environ.) Le plug-in récupère le contenu du Web à l’aide de l’API de recherche Bing et affiche tous les sites Web qu’il a visités pour élaborer une réponse, citant ses sources dans les réponses de ChatGPT.
Un chatbot avec accès au Web est une perspective risquée, comme l’ont révélé les propres recherches d’OpenAI. Un système expérimental construit en 2021 par la startup d’IA, appelé WebGPT, citait parfois des sources non fiables et était incité à sélectionner les données des sites qu’il s’attendait à ce que les utilisateurs trouvent convaincants – même si ces sources n’étaient pas objectivement les plus solides. Le BlenderBot 3.0 de Meta, dissous depuis, avait également accès au Web et a rapidement déraillé, plongeant dans les théories du complot et le contenu offensant lorsqu’il était invité avec certains textes.
Crédits image : OpenAI
Le Web en direct est moins organisé qu’un ensemble de données de formation statique et, par implication, moins filtré, bien sûr. Les moteurs de recherche comme Google et Bing utilisent leurs propres mécanismes de sécurité pour réduire les chances qu’un contenu non fiable atteigne le sommet des résultats, mais ces résultats peuvent être manipulés. Ils ne sont pas non plus nécessairement représentatifs de la totalité du Web. Comme le note le New Yorker, l’algorithme de Google donne la priorité aux sites Web qui utilisent des technologies Web modernes telles que le cryptage, le support mobile et le balisage de schéma. En conséquence, de nombreux sites Web avec un contenu de qualité se perdent dans le shuffle.
Cela donne aux moteurs de recherche beaucoup de pouvoir sur les données qui pourraient informer les réponses des modèles de langage connectés au Web. Il a été constaté que Google donne la priorité à ses propres services dans la recherche, par exemple en répondant à une requête de voyage avec des données de Google Places au lieu d’une source plus riche et plus sociale comme TripAdvisor. Dans le même temps, l’approche algorithmique de la recherche ouvre la porte aux mauvais acteurs. En 2020, Pinterest a exploité une bizarrerie de l’algorithme de recherche d’images de Google pour faire apparaître une plus grande partie de son contenu dans les recherches d’images Google, selon The New Yorker.
OpenAI admet qu’un ChatGPT compatible Web peut adopter tous les types de comportements indésirables, comme l’envoi d’e-mails frauduleux et de spam, le contournement des restrictions de sécurité et généralement « l’augmentation des capacités des mauvais acteurs qui frauderaient, induiraient en erreur ou abuseraient les autres ». Mais l’entreprise affirme également qu’elle a « mis en place plusieurs mesures de protection » informées par des équipes rouges internes et externes pour empêcher cela. Le temps dira si elles sont suffisantes.
Au-delà du plugin Web, OpenAI a publié un interpréteur de code pour ChatGPT qui fournit au chatbot un interpréteur Python fonctionnel dans un environnement sandbox et pare-feu avec de l’espace disque. Elle supporte télécharger des fichiers sur ChatGPT et télécharger les résultats ; OpenAI dit qu’il est particulièrement utile pour résoudre des problèmes mathématiques, effectuer des analyses et des visualisations de données et convertir des fichiers entre des formats.
Crédits image : OpenAI
Une multitude de premiers collaborateurs ont créé des plugins pour ChatGPT pour rejoindre OpenAI, notamment Expedia, FiscalNote, Instacart, Kayak, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram et Zapier.
Ils sont largement explicites. Le plugin OpenTable permet au chatbot de rechercher dans les restaurants les réservations disponibles, par exemple, tandis que le plugin Instacart permet à ChatGPT de passer des commandes dans les magasins locaux. De loin le plus extensible du groupe, Zapier se connecte à des applications telles que Google Sheets, Trello et Gmail pour déclencher une gamme de tâches de productivité.
Pour favoriser la création de nouveaux plugins, OpenAI a ouvert un plugin de « récupération » qui permet à ChatGPT d’accéder à des extraits de des documents provenant de sources de données telles que des fichiers, des notes, des e-mails ou de la documentation publique en posant des questions en langage naturel.
« Nous travaillons pour développer des plugins et les proposer à un public plus large », a écrit OpenAI dans un article de blog. « Nous avons beaucoup à apprendre, et avec l’aide de tous, nous espérons construire quelque chose qui soit à la fois utile et sûr. »
Les plugins sont un ajout curieux à la chronologie du développement de ChatGPT. Autrefois limité aux informations contenues dans ses données de formation, ChatGPT est, avec les plugins, soudainement beaucoup plus capable – et peut-être moins à risque juridique. Certains experts accusent OpenAI de profiter du travail sans licence sur lequel ChatGPT a été formé ; L’ensemble de données de ChatGPT contient une grande variété de sites Web publics. Mais les plugins résolvent potentiellement ce problème en permettant aux entreprises de conserver un contrôle total sur leurs données.
