Nell’ultimo anno, i produttori di smartphone hanno accelerato le loro iniziative di intelligenza artificiale. YOYO di Honor si è integrato con più agenti di terze parti, collegando le capacità di intelligenza artificiale tra il livello del sistema e quello dell'applicazione, mentre Xiaoyi di Huawei può navigare tra le app per completare le attività con un singolo comando.

Nonostante questi potenti progressi, uno sguardo più attento rivela una realtà fondamentale: queste funzionalità dell’intelligenza artificiale si basano ancora su una connessione Internet. In sostanza, l’intelligenza artificiale per smartphone rimane nella fase di collaborazione edge-cloud, ma deve ancora fare il prossimo significativo passo avanti.

Recentemente, una fuga di notizie su X da Semi-retired-ing lo ha rivelato Samsung sta preparando un modello linguistico di grandi dimensioni (LLM) che potrà essere eseguito localmente sulla prossima serie Galaxy S26 per potenziare la maggior parte delle sue funzioni AI. Si dice che questo modello su dispositivo disponga addirittura di privilegi avanzati, che gli consentono di cancellare la memoria quando necessario per garantire che possa rispondere alle richieste dell'utente in qualsiasi momento.

In effetti, Samsung ha presentato un LLM sul dispositivo chiamato "Gauss" nel 2023, che si diceva fosse addirittura preinstallato sulla serie Galaxy S25. Tuttavia, per ragioni sconosciute, Samsung ha fortemente promosso Gemini di Google e da allora ha menzionato a malapena Gauss. È solo ora che il modello on-device di Samsung è tornato in discussione. Dato che la maggior parte dei produttori continua a concentrarsi su soluzioni basate su cloud, perché Samsung sta tentando di inserire il modello direttamente nel telefono? Si tratta di una strategia per scavalcare la concorrenza o la piattaforma mobile ha finalmente la capacità di implementare LLM a livello locale? Qualunque sia la risposta, sta per iniziare una nuova fase dell’intelligenza artificiale per smartphone.

I produttori di smartphone non abbandoneranno il modello ibrido Edge-Cloud

Se Samsung implementa davvero un LLM a livello locale, ciò significa che l’intelligenza artificiale degli smartphone abbandonerà la strategia ibrida edge-cloud per un approccio puramente on-device? In realtà, è improbabile che ciò accada nel breve termine. Il modello ibrido edge-cloud è attualmente una soluzione quasi perfetta. Il cloud gestisce la scalabilità del modello, il ragionamento complesso e l'iterazione rapida, sfruttando le risorse informatiche superiori dei server per aggiornamenti, governance e sicurezza. Nel frattempo, il dispositivo (l’edge) gestisce il comando iniziale dell’utente, come le parole di attivazione, il riconoscimento vocale e l’analisi di base delle intenzioni, prima di passare richieste complesse al cloud.

Questa divisione del lavoro funziona bene per gli utenti che utilizzano occasionalmente l’intelligenza artificiale. Tuttavia, questa logica si basa sul presupposto che la frequenza di utilizzo dell’IA non sia troppo elevata. Man mano che la direzione dell’intelligenza artificiale degli smartphone diventa più chiara, i produttori stanno spostando la loro attenzione dal “rispondere alle vostre domande” al “completare attività per voi”. L'intelligenza artificiale si sta evolvendo da un chatbot a un sistema in grado di comprendere i contenuti sullo schermo, suddividere gli obiettivi delle attività e pianificare percorsi di esecuzione, formando una catena completa di agenti AI. Una volta che l’intelligenza artificiale entra in questo scenario di interazione continua e ad alta frequenza a livello di sistema, le carenze del modello edge-cloud diventano palesemente evidenti. Ad esempio, in condizioni di rete deboli, la latenza di risposta del cloud può causare interruzioni evidenti. In una sequenza di comandi, una caduta di rete potrebbe interrompere l'intero processo. Per gli utenti tale inefficienza è inaccettabile.

LLM su dispositivo: quali sono gli ostacoli?

Considerati gli inconvenienti del modello ibrido, perché è stato così difficile implementare gli LLM on-device sugli smartphone? Non è che i produttori non siano disposti a provarci, ma i limiti sono molto chiari. Innanzitutto ci sono i vincoli hardware. Memoria, potenza di calcolo e consumo energetico sono le tre condizioni fondamentali per l'intelligenza artificiale sul dispositivo. Anche per un modello di dimensioni moderate, l'esecuzione costante in background mette a dura prova le risorse di sistema. Secondo quanto riferito, il solo requisito di memoria ha costretto Apple ad aumentare la RAM nei suoi iPhone. In secondo luogo ci sono la stabilità e i costi di manutenzione. I modelli cloud possono essere iterati rapidamente con correzioni istantanee dei bug, mentre i modelli su dispositivo possono essere ottimizzati solo tramite aggiornamenti di sistema. Per un’intelligenza artificiale a livello di sistema, ciò significa rischi più elevati e maggiori costi di test.

Tuttavia, il panorama sta cambiando nel 2025, poiché miglioramenti significativi nelle capacità dei chip stanno rendendo i LLM esclusivamente su dispositivo una realtà quasi realtà. Prendiamo ad esempio lo Snapdragon 8 Gen 5. Qualcomm ha rivelato che la sua NPU Hexagon può raggiungere velocità di output di circa 200 token/s in attività generative locali. Questa metrica è significativa perché significa che i modelli su dispositivo possono ora eseguire la generazione continua e naturale del linguaggio, un prerequisito affinché l’intelligenza artificiale esegua comandi interattivi complessi. Allo stesso modo, Dimensity 9500 di MediaTek presenta un design più aggressivo ed efficiente dal punto di vista energetico nella sua NPU 990. Secondo le affermazioni ufficiali, migliora l'efficienza di generazione su un modello su dispositivo da 3 miliardi di parametri riducendo significativamente il consumo energetico complessivo. Ciò suggerisce che i modelli su dispositivo non sono più solo una funzionalità “eseguibile una volta”, ma stanno diventando praticabili per il funzionamento continuo.

L'intelligenza artificiale on-device non sarà una rivoluzione, ma una linea di demarcazione per le ammiraglie

Osservando le scelte dei principali produttori, il modello ibrido edge-cloud rimane la soluzione più prudente. Xiaoyi di Huawei, ad esempio, è ancora uno degli assistenti AI a livello di sistema più completi in Cina, ma la sua architettura principale rimane un ibrido classico: il dispositivo gestisce la percezione e la comprensione di base, mentre il cloud si occupa di ragionamenti complessi. Ciò non è dovuto al fatto che i produttori non possano eseguire l'intelligenza artificiale sul dispositivo, ma piuttosto a un compromesso pratico. Quando l’intelligenza artificiale diventa profondamente integrata nel sistema e nei servizi, la stabilità, l’efficienza e il controllo delle risorse sono sempre più importanti di un’implementazione aggressiva.

In definitiva, i modelli linguistici di grandi dimensioni presenti sui dispositivi non modificheranno completamente la direzione generale dell’intelligenza artificiale degli smartphone nel breve termine. Che si tratti di Samsung, Huawei o di altri grandi player nazionali, la scelta attuale è la soluzione ibrida edge-cloud. Dopotutto, gli smartphone non sono stati progettati per modelli di grandi dimensioni, il che impone un equilibrio tra prestazioni, consumo energetico, stabilità e sicurezza. Da questo punto di vista, gli LLM su dispositivo potrebbero non essere la caratteristica "bomba" negli eventi di lancio dei telefoni, ma alzeranno silenziosamente il livello tecnico per i dispositivi di punta. Ciò creerà un divario tangibile nell’esperienza tra i telefoni AI con funzionalità integrate sul dispositivo e quelli puramente basati su cloud. Questa linea di demarcazione potrebbe essere tracciata molto presto.