TrueFoundry, une startup dirigée par un groupe d'anciens Meta Engineers pour aider les entreprises à déployer des systèmes d'IA à grande échelle, a levé 19 millions de dollars d'investissements frais menés par Intel Capital.
Avec l'émergence de Genai après le lancement de Chatgpt en novembre 2022, les entreprises de toutes tailles ont examiné les moyens d'embrasser l'IA. Mais Genai s'appuie sur des modèles de grandes langues pour fournir l'intelligence (lire l'efficacité), exigeant une puissance de calcul significative. Toutes les entreprises n'ont pas l'avantage d'accéder à des centaines ou des milliers de GPU, ce qui rend l'optimisation du GPU essentielle. De plus, les entreprises doivent expérimenter plusieurs modèles pour trouver le meilleur ajustement pour leur cas d'utilisation et affiner les modèles existants pour rendre les systèmes d'IA pertinents pour leurs opérations.
TrueFoundry aborde tout cela avec ses logiciels disponibles dans un modèle de plate-forme en tant que service, ciblant les scientifiques des données complètes. Il fournit des fonctionnalités telles que la mise à l'échelle automatique, la maintenance proactive, les contrôles d'accès centralisés et la surveillance en temps réel pour simplifier les déploiements d'IA de bout en bout.
Fondée en juin 2021 par les anciens ingénieurs Meta Nikunj Bajaj et Abhishek Choudhary avec leur lot IIT Kharagpur Anuraag Guttutia, TrueFoundry a initialement proposé un logiciel natif croisé pour accélérer les déploiements d'apprentissage automatique. Cependant, à mesure que Genai est devenu grand public en 2023, la startup a modifié son système pour soutenir les capacités de Genai.
«Auparavant, les scientifiques des données ne travailleraient qu'avec des modèles et expérimenteraient avec eux, mais une grande partie du déploiement a été remise aux ingénieurs ML. Avec notre système, ce que nous permettant, c'est que les scientifiques des données eux-mêmes peuvent réellement construire tout ce système complexe et le tester à grande échelle avant de le remettre à l'équipe de plate-forme pour les déploiements finaux », a déclaré Gutgutia dans une interview exclusive.
La startup fournit une solution logicielle appelée système de pilote automatique, qui utilise l'IA pour examiner les journaux et les mesures pour aider à mettre à l'échelle les applications d'IA en ajustant l'utilisation du GPU et la fixation des exigences de la mémoire.
À l'aide du système de pilote automatique, Guttutia a déclaré à TechCrunch, l'un des clients de TrueFoundry avec une petite équipe de deux personnes a géré 10 millions de demandes par seconde.
TrueFoundry a actuellement 30 clients rémunérés dans le monde aux côtés de «beaucoup» d'utilisateurs accédant à son cadre de chiffon open source pour l'expérimentation. Parmi ces clients, le géant du GPU Nvidia utilise le logiciel pour créer et déployer des agents qui optimisent ses clusters GPU. Med-Tech Company ResMed utilise également l'offre de TrueFoundry pour développer une plate-forme d'IA interne. De même, Siemens Healthineers, Automation Anywhere, Games24x7 et WhatFix sont parmi les clients.
La startup a architecturé son logiciel à l'aide de Kubernetes, ce qui le rend multi-cloud prêt et compatible avec toutes les principales plates-formes cloud, y compris AWS, Google Cloud Platform et Azure, entre autres. De plus, les entreprises peuvent déployer la plate-forme nativement sur site.
Les entreprises utilisant TrueFoundry ont construit et lancé leurs plateformes d'IA internes en deux mois et obtenu leur retour sur investissement en quatre mois, contrairement à la moyenne de l'industrie de 14 mois, a déclaré Bajaj. Guttutia a ajouté que la startup a livré ses clients avec une réduction des coûts d'environ 40 à 50% sur les dépenses d'infrastructure, ainsi qu'une amélioration de la vitesse de déploiement de 10 ×, qu'elles travaillent sur un agent, un chiffon, un modèle complexe d'apprentissage en profondeur ou une amende modèle à réglage.
Les fournisseurs de cloud ont commencé à offrir leur propre logiciel pour faciliter le bâtiment et le déploiement de modèles d'IA, tels que SageMaker d'Amazon et le sommet de Google Cloud. Néanmoins, Gutgutia a déclaré à TechCrunch que la solution de TrueFoundry est toujours pertinente car elle aide à «accélérer l'utilisation du calcul» pour les fournisseurs de cloud, à accélérer le délai de marketing pour les applications d'IA et à réduire leurs coûts globaux.
La série All-Equity A a vu la participation d'Eniac Ventures, Peak XV Partners et Jump Capital, ainsi que des investisseurs providentiels, notamment Gokul Rajaram, Mohit Aron et Cyan Bainster.
La startup utilisera le financement pour agrandir l'équipe de 45 membres basés en Inde aux postes de mise sur le marché aux États-Unis, y compris les ventes, la réussite des clients et les rôles de marketing de produit. Il prévoit également d'investir dans des partenariats, en particulier avec les fournisseurs de cloud et est en train d'être répertorié dans les principaux marchés du cloud, en commençant par AWS Marketplace.
De plus, TrueFoundry vise à lancer son agent d'IA qui aidera à suggérer les bonnes ressources et à activer la mise à l'échelle automatique, ainsi que le dépannage.
Avec le nouveau financement, TrueFoundry a levé plus de 21 millions de dollars au total, notamment les 2,3 millions de dollars dans son tour de semences en septembre 2022 menés par la surtension de pic XV (alors Sequoia India).
La startup a quadruplé sa clientèle l'année dernière et a déployé plus de 1 000 clusters entre les clients pour les charges de travail ML. Guttutia a également déclaré à TechCrunch qu'il était au nord de 1,5 million de dollars ARR « et cherchait à doubler cette année.
