Sta arrivando il device per avere una AI in tasca ed offline
Tiiny AI presenta il supercomputer tascabile capace di gestire modelli da 120 miliardi di parametri
Tiiny AI, startup statunitense fondata nel 2024, ha annunciato un dispositivo dalle dimensioni ridottissime ma dalle potenzialità straordinarie: un supercomputer personale in grado di eseguire modelli di intelligenza artificiale fino a 120 miliardi di parametri, completamente offline.
La società afferma che questa innovazione rappresenta una svolta nell’ambito dell’AI on-device, aprendo la strada a un futuro in cui la potenza dell’intelligenza artificiale sarà accessibile a tutti, direttamente nel palmo della mano.
Un supercomputer grande quanto una mano
Chiamato Tiiny AI Pocket Lab, il mini-PC misura appena 14,2 × 8 × 2,53 centimetri per un peso di circa 300 grammi.
Nonostante le dimensioni ridotte, il dispositivo integra un processore a 12 core ARMv9.2 abbinato a una unità neurale personalizzata (NPU) in grado di offrire fino a 190 TOPS di potenza di calcolo AI, mantenendo un consumo energetico massimo di soli 65 watt.
Il sistema è dotato di 80 GB di memoria LPDDR5X e 1 TB di archiviazione SSD, configurazione che consente di operare con prestazioni comparabili a modelli di fascia alta come GPT-4o, ma senza connessione cloud.
Tutti i dati vengono elaborati in locale, con crittografia di livello bancario per garantire massima sicurezza e privacy.
L’approccio tecnologico: efficienza e autonomia
Alla base del Pocket Lab vi sono due tecnologie proprietarie: TurboSparse e PowerInfer.
La prima ottimizza l’attivazione dei neuroni migliorando l’efficienza durante l’inferenza dei modelli, mentre la seconda sfrutta un sistema eterogeneo di distribuzione dei calcoli tra CPU e NPU, massimizzando le prestazioni.
Secondo il team Tiiny AI, questo approccio punta a ridurre la dipendenza dai data center e dai costi energetici tipici dell’elaborazione cloud, offrendo una soluzione più sostenibile e decentralizzata.
Come dichiarato da uno dei responsabili del progetto, l’obiettivo è restituire l’intelligenza alle persone, togliendola dalle mani delle grandi infrastrutture centralizzate.
Un mercato in piena espansione
L’arrivo di Tiiny AI si inserisce in un contesto industriale in rapido sviluppo.
Il mercato globale dell’AI per l’edge computing è infatti destinato a crescere con un tasso annuo composto del 22,5% fino al 2032, trainato dalla richiesta di elaborazioni in tempo reale, latenza ridotta e maggiore protezione della privacy.
Le grandi aziende tecnologiche stanno investendo sempre di più nelle capacità di elaborazione locale, spinte anche da una crescente sensibilità dei consumatori verso la gestione dei propri dati.
Uno studio ha rivelato che oltre il 70% degli utenti abbandonerebbe un marchio se quest’ultimo condividesse informazioni personali senza consenso.
Team e prospettive future
Tiiny AI è composta da un team di ingegneri provenienti da università e aziende di livello internazionale, tra cui MIT, Stanford, Intel e Meta.
Le prime ricerche condotte dal gruppo sono state presentate in prestigiose conferenze di sistema come SOSP, OSDI e EuroSys.
La startup ha inoltre ottenuto un round di finanziamento seed multimilionario nel 2025, con l’obiettivo di consolidare la propria posizione nel mercato dell’hardware AI.
Il Tiiny AI Pocket Lab supporta già l’installazione con un solo clic di modelli open-source come Llama, Qwen, DeepSeek, Mistral e Phi, oltre a framework per agenti intelligenti come OpenManus, ComfyUI e Flowise.
Il rilascio pubblico con funzionalità complete è previsto per il CES 2026, dove saranno annunciate anche opzioni di aggiornamento hardware over-the-air e le informazioni ufficiali sul prezzo.
Considerazioni finali
Il lancio del Tiiny AI Pocket Lab potrebbe rappresentare un punto di svolta per l’intelligenza artificiale personale, aprendo una nuova era di autonomia e sicurezza digitale.
Con un dispositivo portatile capace di gestire modelli linguistici di scala gigante senza ricorrere al cloud, la società americana promette di ridefinire il rapporto tra utenti e AI.
Se le promesse verranno mantenute, Tiiny AI segnerà l’inizio di una rivoluzione tascabile nell’evoluzione dell’intelligenza artificiale.
