Alif Semiconductor®, fornitore leader a livello mondiale di microcontrollori (MCU) e processori di fusione per l’Intelligenza Artificiale e l’Apprendimento Automatico (AI/ML) sicuri, connessi ed energeticamente efficienti, ha annunciato che gli sviluppatori possono ora utilizzare ExecuTorch Runtime, un’estensione di quantizzazione del popolare framework PyTorch ML, per le applicazioni AI costruite per essere eseguite sulla serie Ensemble E4/E6/E8 di MCU e processori di fusione.
L’estensione ExecuTorch consente agli sviluppatori di modelli di intelligenza artificiale destinati a target hardware con risorse limitate, come gli MCU, di utilizzare il framework PyTorch per creare modelli leggeri che supportano un’inferenza a bassa latenza e ad alta precisione. Poiché i prodotti Ensemble E4, E6 ed E8 includono la NPU Arm® Ethos™-U85, che supporta reti ML basate su trasformatori, gli sviluppatori possono ora utilizzare PyTorch e il runtime ExecuTorch per creare applicazioni di IA generativa da eseguire localmente in dispositivi endpoint alimentati a batteria, come occhiali intelligenti, interfacciamento uomo-computer, sanità e diagnostica, robotica, trasporti, giocattoli e istruzione, case intelligenti e apparecchiature per città intelligenti.
Alla conferenza PyTorch (Moscone West, San Francisco CA, 22-23 ottobre), Arm ha dimostrato esempi di applicazioni di IA generativa compilate con ExecuTorch ed eseguite sul processore di fusione Ensemble E8 di Alif, tra cui:
- Un piccolo modello di linguaggio in esecuzione su Ensemble E8, in grado di generare storie adatte ai bambini in risposta a richieste visive ed estendibili a richieste verbali.
- Modelli speech-to-text in tempo reale sul dispositivo, adatti all’integrazione in dispositivi indossabili come gli occhiali intelligenti. La dimostrazione ha eseguito la trascrizione in tempo reale del parlato per consentire la sottotitolazione in diretta.
Reza Kazerounian, Presidente di Alif Semiconductor, ha affermato: “La continua innovazione di Alif ci mantiene all’avanguardia nell’IA Edge, che ora si estende anche all’IA generativa. Con il supporto nativo del runtime ExecuTorch sui nostri microcontrollori Ensemble, stiamo ampliando le possibilità dell’intelligenza artificiale a livello di MCU. Per i produttori di dispositivi embedded che costruiscono prodotti intelligenti di nuova generazione, Alif rimane il leader di fiducia nel portare l’intelligenza artificiale ai margini”
Paul Williamson, Senior Vice President e General Manager, IoT Business di Arm, ha affermato: “L’intelligenza artificiale generativa all’edge sta consentendo una nuova classe di dispositivi intelligenti, alimentati a batteria, in grado di comprendere e rispondere in tempo reale. Utilizzando il framework ExecuTorch, gli sviluppatori possono distribuire in modo efficiente i modelli PyTorch sulle MCU Ensemble di Alif per un’inferenza on-device a basso consumo. Questa collaborazione dimostra come un ecosistema unificato possa scalare l’intelligenza attraverso l’edge, accelerando l’innovazione dell’IA nel mondo reale”.
La scheda di sviluppo Alif DK-E8 utilizzata nelle dimostrazioni della conferenza PyTorch, che supporta lo sviluppo su tutta la serie E4/E6/E8, è disponibile per l’acquisto.
Per saperne di più sugli MCU Ensemble E4, E6 ed E8 GenAI, visitare il sito alifsemi.com o inviare un’e-mail a [email protected].
