Retool a commencé comme une plate-forme permettant de créer des applications métier, mais au cours des dernières années, la startup bien financée a également ajouté un certain nombre de services back-end, y compris, plus récemment, un service d’automatisation des flux de travail. Aujourd’hui, la société lance un certain nombre de nouveaux outils qui aideront ses utilisateurs à créer des applications basées sur l’IA, notamment un magasin de vecteurs hébergé qui leur permettra d’ajouter plus facilement du contexte aux grands modèles de langage (LLM).
Comme me l’a dit David Hsu, PDG et co-fondateur de Retool, beaucoup de ses clients cherchent déjà à utiliser l’IA dans leurs applications, mais pour la plupart des entreprises, l’avantage d’utiliser ces outils réside dans la capacité de raisonner sur leurs données internes. . Ils ont la possibilité de copier et coller des données dans une requête pour ajouter du contexte, mais cela est limité et peut rapidement devenir assez coûteux. Même si peu d’entreprises disposent des ressources nécessaires pour former leurs propres modèles, elles pourraient probablement affiner les modèles existants avec une quantité raisonnable de données. Hsu, cependant, affirme qu’il n’est pas non plus vraiment possible d’affiner un modèle avec toutes les données de production d’une entreprise – et que les données seraient bientôt obsolètes.
Crédits images : Réoutiller
Actuellement, l’état de l’art pour importer des données personnalisées dans les LLM consiste à vectoriser les données pour les rendre facilement accessibles pour ces modèles. C’est pourquoi Google, Microsoft, DataStax et MongoDB ont tous lancé leurs services de recherche vectorielle ces derniers mois.
De l’avis de Hsu, il n’y a pas grand-chose qui différencie ces offres : elles sont toutes assez similaires dans leurs capacités. « Je pense que le problème n’est pas de savoir quelle base de données vectorielles vous choisissez, qu’il s’agisse de MongoDB ou autre. Il s’agit plutôt de savoir comment introduire réellement des données dans cette base de données vectorisée et comment la maintenir à jour. Comment le synchroniser avec Salesforce, par exemple, afin de pouvoir poser vos questions LLM et lui permettre d’extraire de nouvelles données de Salesforce. C’est là, affirme-t-il, que les clients de Retool sont actuellement confrontés aux plus grands obstacles dans la création d’applications d’IA personnalisées pour leurs cas d’utilisation professionnelle. Il n’est donc pas surprenant que la société lance aujourd’hui Retool Vectors, un service de stockage vectoriel hébergé (utilisant l’open source). source pgvector pour Postgres en son cœur).
Crédits images : Réoutiller
En interne, a expliqué Hsu, Retool avait testé l’utilisation du chatbot IA alimenté par GPT d’Intercom pour gérer certaines interactions du service client. Ce bot, qui avait déjà accès à de nombreux contextes commerciaux, a pu clôturer environ 20 % des tickets. Mais ensuite, en utilisant une base de données vectorielle couplée à un LLM qui incluait toutes les données Salesforce de Retool, les données de support et bien plus encore, le taux de clôture de son bot personnalisé est passé à près de 60 %. L’entreprise a également vectorisé toutes ses transcriptions d’appels commerciaux, puis y a placé l’API d’OpenAI pour les interroger.
Une fonctionnalité intéressante ici est que Retool utilise également son service Workflow récemment lancé pour synchroniser la base de données de production d’une entreprise et la base de données vectorisée, garantissant ainsi que les modèles ont accès à des informations à jour.
Crédits images : Réoutiller
En plus du service de stockage vectoriel, Retool a également lancé un certain nombre d’actions basées sur l’IA pour des cas d’utilisation courants tels que le résumé et la classification de textes, la génération d’images, etc. Retool s’est associé à OpenAI pour ces fonctionnalités, qui incluent des intégrations dans les workflows Retool.
« Nous sommes incroyablement heureux de nous associer à Réoutiller permettre à davantage d’entreprises de tirer parti de l’IA générative dans l’ensemble de leur activité », a déclaré Brad Lightcap, directeur des opérations chez OpenAI. « Qu’il s’agisse de réduire le travail manuel, de partager davantage de connaissances ou d’ajouter de nouvelles fonctionnalités orientées client, nous pensons que des outils tels que Réoutiller aider les entreprises à mettre l’IA en production beaucoup plus rapidement sans compromettre la sécurité.
