Les agents sont la prochaine grande chose en IA. Certains définissent ces «agents» différemment des autres, mais l'idée générale est que ce sont des outils alimentés par l'IA qui peuvent effectuer des tâches de manière autonome.
Le battage médiatique de l'agent a atteint un terrain de fièvre, mais une startup a été relativement tôt pour le jeu: Llamaindex. Fondée par les anciens chercheurs Uber, Jerry Liu et Simon Suo, en 2023, Llamaindex permet aux développeurs de construire des agents personnalisés sur des données non structurées.
« Llamaindex a commencé comme un projet de source ouverte en novembre 2022 », a déclaré Liu à TechCrunch. «Je suis devenu profondément intéressé à comprendre comment les grands modèles de langue (LLM) pourraient être utilisés en plus des données propriétaires en dehors de leur ensemble de formation, et j'ai construit un ensemble initial d'outils permettant aux développeurs d'indexer et d'inclure des données dans leurs applications LLM.»
En utilisant le logiciel open-source de Llamaindex, qui a accumulé des millions de téléchargements sur GitHub, les développeurs peuvent créer des agents personnalisés qui peuvent extraire des informations, générer des rapports et des informations et prendre des mesures spécifiques. Llamaindex fournit des connecteurs de données et des services publics comme Llamaparse, qui transforme les données non structurées en un format structuré qui peut être utilisé pour des applications d'IA particulières.
Bien qu'il existe d'autres cadres open source pour construire des agents d'IA, Llamaindex est différencié par sa suite d'ingestion de données, de gestion des données et d'indexation des données et de solutions de récupération, a déclaré Liu. Il peut connecter des données à partir de fichiers tels que PDFS et PowerPoint Présentations, ainsi que des applications telles que la notion et Slack, avec un agent.
Salesforce, KPMG et Carlyle font partie des sociétés utilisant Llamaindex aujourd'hui, a déclaré Liu.
« Toutes ces solutions concurrentes résolvent des problèmes spécifiques dans différentes parties de la pile d'IA générative, mais c'est la responsabilité du développeur de reconstituer des solutions fragmentées pour créer un agent en travail », a ajouté Liu. «Il s'agit d'un point de douleur important qui entrave les agents maritimes à la production. Llamaindex s'est donné pour mission de livrer la plate-forme la plus sécurisée, précise et facile à utiliser pour construire des agents de connaissances de bout en bout. »
Le prochain chapitre de Llamaindex est un service d'entreprise construit au-dessus des offres open-source de l'entreprise. Appelé Llamacloud, il permet aux clients de créer des agents hébergés par le cloud qui peuvent fonctionner et manipuler des données non structurées dans une variété de formats.
Llamacloud peut être déployé via une installation logicielle en tant que service ou dans un cloud privé virtuel, et est livré avec des fonctionnalités comprenant un contrôle d'accès basé sur les rôles et une seule connexion, a déclaré Liu.
En partie pour aider à financer le développement de Llamacloud, Llamaindex a récemment levé 19 millions de dollars dans une série de financement de série A dirigée par Norwest Venture Partners, et a également vu la participation de Greylock. Le nouvel espèces rapporte le financement total de Llamaindex collecté à 27,5 millions de dollars, et Liu dit qu'il sera utilisé pour étendre l'équipe de 20 personnes de Llamaindex et le développement de produits.
« Nous avons une piste suffisante pour nous emmener dans l'expansion commerciale initiale de notre plateforme », a déclaré Liu. «Nous parions sur un avenir où les développeurs jouent un grand rôle dans la fourniture d'applications Genai au sein de l'entreprise.»
