Advanced Micro Devices (AMD) et la société de télécommunications coréenne KT font partie des investisseurs de Moreh, qui construit un outil logiciel d’IA qui optimise et crée des modèles d’IA. La startup basée à Santa Clara et à Séoul a annoncé avoir levé un tour de table de série B de 22 millions de dollars, portant le total levé à 30 millions de dollars.
Moreh affirme que son logiciel d’IA phare, appelé MoAI, est similaire au CUDA de Nvidia, mais est compatible avec les cadres d’apprentissage automatique existants tels que PyTorch de Meta, TensorFlow de Google, ainsi qu’avec les applications et les modèles d’IA qui ne pouvaient auparavant fonctionner que sur Nvidia.
La startup estime que les logiciels d’IA existants sont adaptés aux modèles d’IA à petite échelle utilisant seulement quelques GPU (unités de traitement graphique), mais qu’ils sont inadéquats pour une infrastructure d’IA plus massive. Selon un rapport récent, alors que « l’IA évolue rapidement à l’échelle de l’entreprise », l’infrastructure informatique et les architectures de données des entreprises sont « inadaptées » à la formation de modèles d’IA.
Les solutions d’IA de Moreh permettent aux utilisateurs, notamment aux développeurs d’IA, aux opérateurs de centres de données et aux fabricants de puces d’IA, de créer une infrastructure d’IA plus flexible, ce qui est important compte tenu de la pénurie générale de GPU dans le monde, a déclaré Gangwon Jo, co-fondateur et PDG de Moreh, à TechCrunch.
Le logiciel d’IA de la startup, créée il y a trois ans, permet aux GPU et autres puces d’IA, telles que les unités de traitement neuronal (NPU), d’exploiter des modèles d’IA, y compris des modèles de langage étendus (LLM) comme GPT-3 et T5, sans aucune modification de code, Jo expliqué. (NPU est une puce spécialisée conçue pour accélérer les algorithmes d’apprentissage automatique, tandis que le GPU est utilisé pour le calcul intensif, l’IA, l’apprentissage automatique et l’analyse approfondie des données où une précision numérique est requise.)
KT travaille avec Moreh depuis 2021 pour créer une infrastructure d’IA rentable et évolutive optimisée par les GPU AMD et le logiciel MoAI.
KT affirme que l’offre de Moreh a prouvé que sa technologie fonctionne et que ses performances dans le développement de LLM et d’autres modèles d’IA ont dépassé celles du DGX de Nvidia en termes de vitesse de performance et de capacité de mémoire GPU. L’accélérateur MI250 Instinct d’AMD, alimenté par la plate-forme MoAI, a montré un débit GPU 116 % plus élevé que l’A100 de Nvidia, selon Moreh, qui a également déclaré que les développeurs d’IA pourraient réduire d’un dixième le temps total requis pour lancer la formation des grands modèles d’IA via son logiciel.
Plus récemment, la startup a terminé la formation du LLM basé sur la langue coréenne avec 211 milliards de paramètres et publiera le modèle en open source plus tard cette année.
Moreh a commencé à générer des revenus en 2021 et vise à atteindre environ 30 millions de dollars d’ici la fin de 2023, a déclaré Jo à TechCrunch.
« L’écosystème logiciel d’IA prenant en charge le matériel AMD AI continue de croître, offrant un choix aux scientifiques des données et aux autres utilisateurs de l’IA alors qu’ils créent les modèles et les solutions d’IA qui stimuleront la croissance continue de ce secteur », Brad McCredie, vice-président des données. GPU central et traitement accéléré chez AMD, a déclaré dans un communiqué.
Moreh utilisera l’argent pour la recherche et le développement, l’expansion des produits et l’embauche de personnel supplémentaire, qui compte désormais 70 employés. Les sociétés de capital-risque sud-coréennes Smilegate Investment et Forest Partners, l’investisseur existant de Moreh, ont également participé au cycle de série B.
