Strong Compute, une startup basée à Sydney, en Australie, qui aide les développeurs à éliminer les goulots d’étranglement dans leurs pipelines de formation en apprentissage automatique, a annoncé aujourd’hui qu’elle avait levé un tour de table de 7,8 millions de dollars. Le cycle comprend un total de 30 fonds et anges, dont Sequoia Capital India, Blackbird, Folklore et Skip Capital, ainsi que Y Combinator, Starburst Ventures et des fondateurs et ingénieurs de sociétés comme Cruise, Waymo, Open AI, SpaceX et Vierge Galactique.
La société, qui faisait partie du lot Winter ’22 de Y Combinator, promet que ses optimisations peuvent accélérer le processus de formation de 10x à 1000x, selon le modèle, le pipeline et le framework. Comme me l’a dit le fondateur de Strong Compute, Ben Sands, qui a également cofondé la société AR Meta, l’équipe a récemment fait des percées où elle a pu prendre l’implémentation de référence de Nvidia, que son client LayerJot utilisait, pour fonctionner 20 fois plus vite.
Crédits image : Calcul fort
“C’était une grande victoire”, a déclaré Sands. “Cela nous a vraiment donné le sentiment qu’il n’y a rien qui ne puisse être amélioré.” Il ne voulait pas vraiment révéler tous les détails du fonctionnement des optimisations de l’équipe, mais il a noté que l’entreprise embauche maintenant des mathématiciens et construit des outils qui lui donnent une vue plus détaillée de la façon dont le code de leur utilisateur interagit avec les processeurs et GPU à un niveau beaucoup plus profond qu’il n’était possible auparavant.
Comme l’a souligné Sands, l’objectif actuel de l’entreprise est de commencer à automatiser une grande partie du travail en cours pour optimiser le processus de formation – et c’est quelque chose que l’entreprise peut désormais aborder, grâce à ce cycle de financement. “Notre objectif est maintenant d’avoir des partenaires de développement sérieux dans l’auto-conduite, le médical et l’aérien, afin de voir ce qui va réellement se généraliser très bien”, a-t-il expliqué. «Nous avons maintenant les ressources nécessaires pour avoir une équipe de R&D qui n’a pas à livrer quelque chose en un sprint de deux semaines, mais qui peut en fait examiner ce qu’est une véritable technologie de base qui pourrait prendre un an pour obtenir une victoire. mais cela peut vraiment aider avec cette analyse automatisée du problème.
La société compte actuellement six ingénieurs à temps plein, mais Sands prévoit de doubler ce nombre au cours des prochains mois. En partie, c’est aussi parce que l’entreprise suscite désormais l’intérêt des grandes entreprises qui dépensent souvent 50 millions de dollars ou plus pour leurs ressources de calcul (et Sands a noté que le marché est essentiellement bimodal, les clients dépensant moins de 1 million de dollars ou 10 dollars à 100 millions de dollars, avec seulement quelques joueurs au milieu).
Crédits image : Calcul puissant
Cependant, toutes les entreprises qui essaient de créer des modèles ML souffrent du même problème : la formation de modèles et l’exécution d’expériences pour les améliorer prennent encore beaucoup de temps. Cela signifie que les data scientists bien payés qui travaillent sur ces problèmes passent beaucoup de temps dans un schéma d’attente, attendant que les résultats arrivent.Fort Calculer résout le problème du terrain de basket », a déclaré Nikhil Abraham, directeur financier de SteadyMD. “Les longues périodes d’entraînement ont obligé nos meilleurs développeurs à tirer des cerceaux toute la journée, attendant sur des machines.”
Et bien qu’une partie de cet intérêt entrant provienne du secteur financier et des entreprises qui souhaitent optimiser leurs modèles de traitement du langage naturel, Strong Compute reste pour le moment axé sur la vision par ordinateur.
“Nous n’avons fait qu’effleurer la surface de ce que l’apprentissage automatique et l’IA peuvent faire.” a déclaré Tanisha Banaszcyk, partenaire de Folklore. “Nous aimons travailler avec des fondateurs qui ont une ambition à long terme et des visions qui perdureront à travers les générations. Ayant investi dans la conduite autonome, nous savons à quel point la vitesse de mise sur le marché est importante – et voyons l’impact que Strong Compute peut avoir sur ce marché avec sa plate-forme spécialement conçue, sa compréhension approfondie du marché de 500 milliards de dollars et son équipe de classe mondiale.
