Qualcomm e Meta collaborano per abilitare applicazioni di IA in dispositivi sfruttando Llama 2
Questa implementazione dell’IA nel dispositivo, tra le varie caratteristiche, servirà a migliorare la privacy degli utenti e le preferenze di sicurezza.
Qualcomm Technologies Inc. e Meta stanno lavorando insieme per ottimizzare l’esecuzione dei modelli di linguaggio Llama 2 di Meta direttamente nel dispositivo, senza così dipendere unicamente da servizi in cloud. La capacità di eseguire modelli di IA generativi come Llama 2 in dispositivi quali smartphone, tablet, auricolari di realtà virtuale/aumentata e veicoli permette agli sviluppatori di risparmiare in costi di cloud e offrire agli utenti esperienze private, più affidabili e personalizzate.
Nuove applicazioni di IA
Come risultato, Qualcomm Technologies ha in programma di offrire implementazioni di IA basate su Llama 2 in dispositivi per permettere la creazione di nuove applicazioni di IA. Questo permetterà a clienti, partner e sviluppatori di creare casi d’uso, come assistenti virtuali intelligenti, applicazioni di produttività, strumenti di creazione di contenuti, intrattenimento e molto altro. Queste nuove esperienze di IA dal dispositivo, supportate da Snapdragon, potranno funzionare in aeree senza connessione o anche in modalità aereo.
Durga Malladi, vicepresidente senior e direttore generale di tecnologia, pianificazione e soluzioni edge per Qualcomm Technologies, ha sottolineato che: “accogliamo a braccia aperte l’approccio di Meta verso un’IA aperta e responsabile e ci impegniamo a stimolare l’innovazione e a ridurre le barriere di ingresso per sviluppatori di ogni grandezza per portare l’IA generativa su qualsiasi dispositivo. Per scalare in modo efficace l’IA generativa, questa dovrà essere eseguibile sia nel cloud sia in dispositivi edge, come smartphone, portatili, veicoli e dispositivi IoT”.
Supporto a Llama
La collaborazione tra Meta e Qualcomm a supporto dell’ecosistema Llama interessa ricerche e studi ingegneristici su prodotti. La leadership di Qualcomm in IA su dispositivo lo rende perfetto per supportare l’ecosistema Llama. La società ha poi esperienza solida in edge, con miliardi di cellulari, veicoli, auricolari e visori XR, computrer e IoT che si basano sulle sue soluzioni hardware e software con IA, il che permette davvero una scalabilità dell’IA generativa.
Qualcomm prevede di offrire implementazioni di IA basate su Llama 2 su dispositivi con Snapdragon a partire dal 2024. Gli sviluppatori possono già cominciare oggi a ottimizzare applicazioni per l’IA sul dispositivo utilizzando gli strumenti dedicati di Qualcomm AI Stack, che permette di lavorare con IA in modo più efficiente su Snapdragon.
