NeuBird les fondateurs Goutham Rao et Vinod Jayaraman venaient de PortWorx, une solution de stockage cloud native qu'ils ont finalement vendu à PureStorage en 2019 pour 370 millions de dollars. C'était leur troisième sortie réussie.
Lorsqu'ils ont cherché leur prochain défi de startup l'année dernière, ils ont vu une opportunité de combiner leurs connaissances natives du cloud, notamment en matière d'opérations informatiques, avec le domaine en plein essor de l'IA générative.
Aujourd'hui, Neubird a annoncé un investissement de 22 millions de dollars de Madrona pour commercialiser l'idée. Il s'agit d'une somme considérable pour une startup en phase de démarrage, mais l'entreprise compte probablement sur l'expérience antérieure des fondateurs pour créer une autre entreprise prospère.
Rao, le PDG, affirme que même si la communauté cloud native a fait du bon travail en résolvant de nombreux problèmes difficiles, elle a créé des niveaux de complexité croissants en cours de route.
« Nous avons accompli un travail incroyable en tant que communauté au cours des 10 dernières années en créant des architectures cloud natives avec des conceptions orientées services. Cela a ajouté beaucoup de couches, ce qui est bien. C'est une bonne façon de concevoir des logiciels, mais cela a également eu un coût en matière de télémétrie accrue. Il y a tout simplement trop de couches dans la pile », a déclaré Rao à TechCrunch.
Ils ont conclu que ce niveau de données empêchait les ingénieurs humains de trouver, diagnostiquer et résoudre les problèmes à grande échelle au sein des grandes organisations. Dans le même temps, de grands modèles de langage commençaient à mûrir, les fondateurs ont donc décidé de les mettre au travail sur ce problème.
« Nous exploitons de grands modèles de langage d'une manière tout à fait unique pour pouvoir analyser des milliers et des milliers de métriques, d'alertes, de journaux, de traces et d'informations de configuration d'application en quelques secondes et être en mesure de diagnostiquer l'état de santé de l'environnement. , détecter s'il y a un problème et trouver une solution », a-t-il déclaré.
L'entreprise construit essentiellement un assistant numérique de confiance pour l'équipe d'ingénierie. « Il s'agit donc d'un collaborateur numérique qui travaille aux côtés des ingénieurs SRE et ITOps et surveille toutes les alertes et journaux à la recherche de problèmes », a-t-il déclaré. L’objectif est de réduire le temps nécessaire pour répondre et résoudre un incident de quelques heures à quelques minutes, et ils pensent qu’en mettant l’IA générative au service du problème, ils peuvent aider les entreprises à atteindre cet objectif.
Les fondateurs comprennent les limites des grands modèles de langage et cherchent à réduire les réponses hallucinées ou incorrectes en utilisant un ensemble limité de données pour entraîner les modèles et en mettant en place d'autres systèmes permettant de fournir des réponses plus précises.
« Parce que nous utilisons cela de manière très contrôlée pour un cas d'utilisation très spécifique pour des environnements que nous connaissons, nous pouvons vérifier les résultats qui sortent de l'IA, encore une fois via une base de données vectorielle et voir si cela a du sens et si nous ne sommes pas à l'aise avec cela, nous ne le recommanderons pas à l'utilisateur.
Les clients peuvent se connecter directement à leurs différents systèmes cloud en saisissant leurs informations d'identification, et sans déplacer de données, NeuBird peut utiliser cet accès pour vérifier par rapport à d'autres informations disponibles afin de trouver une solution, réduisant ainsi la difficulté globale associée à l'obtention des données spécifiques à l'entreprise. pour que le modèle fonctionne.
NeuBird utilise divers modèles, dont Llama 2, pour analyser les journaux et les métriques. Ils utilisent Mistral pour d'autres types d'analyses. L'entreprise transforme en fait chaque interaction en langage naturel en requête SQL, transformant essentiellement des données non structurées en données structurées. Ils pensent que cela se traduira par une plus grande précision.
La startup en phase de démarrage travaille actuellement avec des partenaires de conception et d'alpha pour affiner l'idée alors qu'ils travaillent pour commercialiser le produit plus tard cette année. Rao dit qu'ils ont retiré une grosse somme d'argent parce qu'ils voulaient que la salle travaille sur le problème sans avoir à se soucier de chercher plus d'argent trop tôt.
