De la même manière que les entreprises adaptent leurs logiciels pour qu’ils fonctionnent sur différents systèmes d’exploitation de bureau, mobiles et cloud, les entreprises doivent également configurer leurs logiciels pour la révolution rapide de l’IA, où les grands modèles de langage (LLM) ont émergé pour servir de nouveaux puissants. Applications d’IA capables d’interpréter et de générer du texte en langage humain.
Même si une entreprise peut déjà créer une « instance LLM » de son logiciel sur la base de sa documentation API actuelle, le problème est qu’elle doit s’assurer que l’écosystème LLM plus large peut l’utiliser correctement – et obtenir suffisamment de visibilité sur l’efficacité de cette instance de leur produit fonctionne réellement dans la nature.
Et c’est effectivement ce que Tidalflow cherche à résoudre, avec une plate-forme de bout en bout qui permet aux développeurs de faire en sorte que leurs logiciels existants fonctionnent bien avec l’écosystème LLM. La jeune startup émerge aujourd’hui de manière furtive avec 1,7 million de dollars dans le cadre d’une ronde de financement codirigée par Gradient Ventures de Google aux côtés de Dig Ventures, une société de capital-risque créée par Ross Mason, le fondateur de MuleSoft, avec la participation d’Antler.
Confiance
Considérez ce scénario hypothétique : une plateforme de voyage en ligne décide d’adopter des chatbots compatibles LLM tels que ChatGPT et Bard de Google, permettant à ses clients de demander des billets d’avion et de réserver des billets via des invites en langage naturel dans un moteur de recherche. L’entreprise crée donc une instance LLM pour chacun, mais pour autant qu’elle sache, 2 % des résultats ChatGPT renvoient à une destination que le client n’a pas demandée, un taux d’erreur qui pourrait être encore plus élevé sur Bard — c’est tout simplement impossible de je sais avec certitude.
Désormais, si une entreprise a une tolérance aux pannes inférieure à 1 %, elle se sentira peut-être plus en sécurité. pas emprunter la voie de l’IA générative jusqu’à ce qu’ils aient une plus grande clarté sur les performances réelles de leur instance LLM. C’est là que Tidalflow entre en jeu, avec des modules qui aident les entreprises non seulement à créer leur instance LLM, mais aussi à la tester, la déployer, la surveiller, la sécuriser et, éventuellement, la monétiser. Ils peuvent également affiner l’instance LLM de leur produit pour chaque écosystème dans un environnement sandbox simulé local, jusqu’à ce qu’ils arrivent à une solution qui répond à quelque chose qui répond à leur seuil de tolérance aux pannes.
« Le gros problème est que si vous lancez quelque chose comme ChatGPT, vous ne savez pas comment les utilisateurs interagissent avec lui », a déclaré Sebastian Jorna, PDG de Tidalflow, à TechCrunch. « Ce manque de confiance dans la fiabilité de leurs logiciels constitue un obstacle majeur au déploiement d’outils logiciels dans les écosystèmes LLM. Le module de test et de simulation de Tidalflow renforce cette confiance.
Tidalflow peut peut-être être mieux décrit comme une plate-forme de gestion du cycle de vie des applications (ALM) dans laquelle les entreprises connectent leurs spécifications/documentations OpenAPI. Et à l’autre extrémité, Tidalflow crache une « instance LLM testée au combat » de ce produit, le front-end assurant la surveillance et l’observabilité de la façon dont cette instance LLM fonctionnera dans la nature.
« Avec les tests logiciels normaux, vous devez exécuter un nombre spécifique de cas – et si cela fonctionne, eh bien, le logiciel fonctionne », a déclaré Jorna. « Maintenant, parce que nous sommes dans cet environnement stochastique, il faut en fait y consacrer beaucoup de volume pour obtenir une certaine signification statistique. Et c’est essentiellement ce que nous faisons dans notre module de test et de simulation, où nous simulons comme si le produit était déjà opérationnel et comment les utilisateurs potentiels pourraient l’utiliser.
Tableau de bord Tidalflow. Crédits images : Flux de marée
En bref, Tidalflow permet aux entreprises de faire face à une myriade de cas extrêmes qui peuvent ou non briser sa nouvelle intelligence générative sophistiquée. Cela sera particulièrement important pour les grandes entreprises où les risques liés à la compromission de la fiabilité des logiciels sont tout simplement trop importants.
« Les grandes entreprises clientes ne peuvent tout simplement pas risquer de proposer quelque chose sans avoir la certitude que cela fonctionne », a ajouté Jorna.
De la fondation au financement
Coen Stevens (CTO), Sebastian Jorna (PDG) et Henry Wynaendts (CPO) de Tidalflow. Crédits images : Flux de marée
Tidalflow a officiellement trois mois, avec les fondateurs Jorna (PDG) et Coen Stevens (CTO) qui se sont rencontrés dans le cadre du programme d’entrepreneur en résidence d’Antler à Amsterdam. « Une fois le programme officiel lancé cet été, Tidalflow est devenue l’entreprise la plus rapide de l’histoire d’Antler Pays-Bas à obtenir un financement », a déclaré Jorna.
Aujourd’hui, Tidalflow revendique une équipe de trois personnes, dont ses deux co-fondateurs et directeur produit (CPO) Henry Wynaendts. Mais avec un nouveau financement de 1,7 million de dollars, Jorna a déclaré que la société cherche désormais activement à recruter pour divers postes d’ingénierie front-end et back-end alors qu’ils travaillent à un lancement commercial complet.
Mais à tout le moins, le passage rapide de la fondation au financement est révélateur de la ruée vers l’or actuelle de l’IA générative. Avec ChatGPT bénéficiant d’une API et de la prise en charge des plugins tiers, Google en passe de faire de même pour l’écosystème Bard et Microsoft intégrant son assistant Copilot AI dans Microsoft 365, les entreprises et les développeurs ont une grande opportunité non seulement de tirer parti de l’IA générative pour leurs propres produits, mais atteignent ainsi un grand nombre d’utilisateurs.
« Tout comme l’iPhone a inauguré une nouvelle ère pour les logiciels adaptés aux mobiles en 2007, nous sommes maintenant à un point d’inflexion similaire, à savoir que les logiciels deviennent compatibles LLM », a noté Jorna.
Tidalflow restera pour l’instant en version bêta fermée, avec un lancement commercial au public prévu d’ici la fin de 2023.
