PrismML è una startup che ha ideato algoritmi in grado di ridurre notevolmente le dimensioni di grandi modelli linguistici consentendo l’esecuzione di AI in locale sugli iPhone, riducendo la dipendenza dai server cloud e con ovvii vantaggi in termini di privacy.
Le soluzioni offerta da questa startup potrebbero essere sfruttare per aumentare le capacità di esecuzione di modelli AI in locale.
A riferirlo è il sito The Information spiegando che PrismML è stata in grado di ridurre Qwen 3.6, large language model sviluppato da Alibaba, al punto da consentire l’esecuzione di quest’ultimo su iPhone 17 Pro. Questo modello vanta 27 miliardi di parametri, superiore all’AFM 3 Core Advanced, modello on-device di Apple con 20 miliardi di parametri.
AFM 3 Core Advanced è il modello che la Mela sfrutterà per offrire alcune funzionalità di Apple Intelligence previste con iOS 27, ad esempio migliorie peri servizio di dettatura integrato nel sistema operativo ma anche le nuove voci più naturali di Siri.
Al contrario di quanto avviene con AFM 3 Core Advance, i parametri di Qwen 3.6 possono essere tutti attivi contemporaneamente; questo è possibile grazie ad una architettura definita “sparse”: in pratica solo una parte dei parametri viene realmente attivata durante l’elaborazione delle richieste. Il sistema impiega solo una frazione delle risorse in ogni momento, permettendo di i contenere consumi energetici e i requisiti hardware.
La possibilità di sfruttare la tecnologia PrismML offrirebbe vari vantaggi a Apple, soprattutto tenendo conto della grande attenzione alla privacy che da sempre contraddistingue Cupertino (nessun dato o prompt viene inviato a server di terze parti e non con c’è il rischio che le informazioni sensibili, il codice aziendale o i dati personali vengano usati per addestrare modelli futur): tutto unziona completamente offline, senza bisogno di una connessione internet.
Secondo The Information, le due aziende si sono già incontrate più volte, per discutere della possibilità di lavorare insieme. Non è al momento dato sapere se i colloqui tra Cupertino e la startup si tradurranno in qualcosa di concreto ma è chiaro che Apple ha un certo interesse per le tecnologie create da questa piccola start-up.
