In Breve
- Che cos'è LLMD di ZML?
- LLMD è un server di inferenza per modelli di linguaggio open source, progettato per funzionare su vari chip.
- Qual è l'obiettivo di ZML con LLMD?
- L'obiettivo è superare i vincoli software e architetturali, permettendo l'uso di chip eterogenei per migliorare l'efficienza.
- Chi ha investito in ZML?
- ZML ha raccolto 20 milioni di dollari da investitori come 20VC, Kima Ventures e LocalGlobe.
La startup francese ZML ha recentemente lanciato LLMD, un server di inferenza innovativo, progettato per eseguire modelli di linguaggio open source su una vasta gamma di chip, tra cui Nvidia, AMD, Google TPU, Apple Metal e Intel Arc. Questo prodotto, disponibile gratuitamente al lancio ma non open source, si propone di superare i vincoli software e architetturali che spesso limitano le scelte delle aziende, consentendo loro di sfruttare al massimo le prestazioni offerte da hardware eterogeneo.
Il fondatore di ZML, Steeve Morin, ha dichiarato: «L’idea è restituire alle persone il potere di creare il proprio sistema e ottenere reali guadagni di efficienza che permettano la diffusione dell’IA». In questo modo, le imprese e gli operatori cloud possono utilizzare una combinazione di chip, anche quelli meno costosi o più efficienti dal punto di vista energetico, per ottenere significativi miglioramenti nelle prestazioni.
ZML ha anche sottolineato la volontà di collaborare con nuovi produttori di chip, molti dei quali europei, citando nomi come Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud e VSORA. Morin ha affermato che l’azienda sta lavorando su soluzioni innovative non ancora sviluppate altrove, aggiungendo: «Siamo arrivati al punto in cui stiamo co-progettando il silicio».
Il lancio di LLMD avviene in un contesto di mercato altamente competitivo, con operatori come Baseten, Inferact e RadixArk, oltre a progetti open source come vLLM e SGLang che offrono funzionalità simili. Nonostante ciò, ZML mantiene rapporti con Nvidia, un segnale della sua volontà di rimanere attiva in un ecosistema in continua evoluzione.
Con sede a Parigi e un team di circa 20 persone, ZML ha raccolto finora 20 milioni di dollari da investitori come 20VC, commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe e Puzzle Ventures. Morin, che ha precedentemente ricoperto il ruolo di VP of Engineering di Zenly, acquisita da Snapchat nel 2017, ha spiegato che il rilascio gratuito di LLMD serve a misurare l’utilizzo del prodotto prima di prendere decisioni su eventuali politiche commerciali. «Preferisco misurare e poi generare ricavi dove è più efficace, senza ostacolare stupidamente la crescita perché sono stato troppo avido fin dall’inizio», ha aggiunto Morin.
Tra i sostenitori di ZML figurano nomi noti come Solomon Hykes, Clément Delangue, Julien Chaumond e Yann LeCun, a testimonianza dell’interesse crescente verso l’ecosistema tecnologico europeo. Morin ha infine sottolineato che la realizzazione di ZML non sarebbe stata possibile senza il supporto di Parigi, un hub innovativo per le startup tecnologiche.
