De nos jours, presque tout le monde essaie de participer à l’action de l’IA générative. Bien que l’attention se porte majoritairement sur les fournisseurs de modèles comme OpenAI, Anthropic et Cohere, ou sur les plus grandes entreprises comme Microsoft, Meta, Google et Amazon, de nombreuses startups tentent en fait de s’attaquer au problème de l’IA générative de diverses manières. de manières.
Fireworks.ai est l’une de ces startups. Bien qu'il lui manque la notoriété de certains de ces autres acteurs, il possède le plus grand modèle d'API open source avec plus de 12 000 utilisateurs, selon l'entreprise. Ce type de traction open source a tendance à attirer l’attention des investisseurs, et la société a jusqu’à présent levé 25 millions de dollars.
Lin Qiao, cofondatrice et PDG de Fireworks, souligne que son entreprise ne forme pas des modèles de base à partir de zéro, mais aide plutôt à affiner d'autres modèles en fonction des besoins particuliers d'une entreprise. « Il peut s'agir soit de modèles disponibles dans le commerce, de modèles open source, soit de modèles que nous ajustons, soit de modèles que nos clients peuvent régler eux-mêmes. Les trois variétés peuvent être servies via notre API de moteur d’inférence », a déclaré Qiao à TechCrunch.
En tant qu'API, les développeurs peuvent la connecter à leur application, entraîner le modèle de leur choix sur leurs données et ajouter des fonctionnalités d'IA générative, comme poser des questions très rapidement. Qiao dit que c'est rapide, efficace et produit des résultats de haute qualité.
Un autre avantage de l'approche de Firework est qu'elle permet aux entreprises d'expérimenter plusieurs modèles, ce qui est important dans un marché en évolution rapide. « Notre philosophie ici est que nous voulons permettre aux utilisateurs d'itérer et d'expérimenter plusieurs modèles et de disposer d'outils efficaces pour intégrer leurs données dans plusieurs modèles et tester avec un produit », a-t-elle déclaré.
Peut-être plus important encore, ils réduisent les coûts en limitant la taille du modèle entre 7 et 13 milliards de paramètres, contre plus de 1 000 milliards de paramètres dans ChatGPT4. Bien que cela limite l'univers des mots que le grand modèle de langage peut comprendre, cela permet aux développeurs de se concentrer sur des ensembles de données beaucoup plus petits et ciblés, conçus pour fonctionner avec des cas d'utilisation métier plus limités.
Qiao est particulièrement qualifié pour construire un tel système, ayant déjà travaillé chez Meta, dirigeant l'équipe de développement de la plateforme d'IA dans le but de créer un moteur de développement rapide et évolutif pour alimenter l'IA dans tous les produits et services de Meta. Elle a pu tirer parti de ces connaissances en travaillant chez Meta et créer un outil basé sur une API qui met ce type de puissance à la portée de n'importe quelle entreprise sans nécessiter le niveau de ressources d'ingénierie d'une entreprise de la taille de Meta.
La société a levé 25 millions de dollars en 2022 sous la direction de Benchmark, avec la participation de Sequoia Capital et d'investisseurs providentiels, dont Databricks et Snowflake. Ces deux derniers constituent des investisseurs stratégiques particulièrement intéressants, dans la mesure où ils sont tous deux des outils de stockage de données, et Fireworks permettra aux utilisateurs d'exploiter ces données.
