Due idee diverse di casa, due aziende che ne parlano. Apple, con un breve video di Greg Joswiak, il suo responsabile marketing, ha confermato per martedì 13 ottobre un evento intitolato «Welcome home», dedicato alla casa intelligente e, secondo le indiscrezioni, a una nuova Siri basata sull’intelligenza artificiale. Praticamente nelle stesse ore Google, con meno cerimonia, ha messo sul Mac un’app che tiene l’AI dentro il portatile e non le fa chiamare un server.
L’app si chiama Google AI Edge Foresight. È il secondo strumento del gruppo di Google che lavora sui modelli locali: ad aprile era uscita un’app di dettatura, rimasta sperimentale e mai arrivata a un pubblico ampio. Stavolta il terreno è quello di Granola, il popolare blocco note con AI per le riunioni, e il prodotto, gratuito, ne riprende l’impostazione.
Lo schermo diviso
Come detto, il funzionamento è quello di Granola. Da un lato l’utente scrive appunti abbreviati mentre la riunione viene trascritta, dall’altro compaiono le note generate dall’AI. Le riunioni possono svolgersi dentro altre app oppure di persona, e a catturarle provvede, secondo TechCrunch, EmbeddingGemma 2, un modello da 740 milioni di parametri che gira sul computer. A fine incontro si legge la trascrizione completa o si fanno domande a un assistente basato su Gemma 4.
La funzione più curiosa è la base di conoscenza. L’utente può caricare pdf, Google Docs, file di Microsoft Office, testo semplice, Markdown e segnalibri web, e quando in riunione si parla di qualcosa che sta in quei documenti l’assistente risponde in tempo reale alle domande. Nella pagina delle domande frequenti Google scrive che l’app è ottimizzata per Apple Silicon e funziona interamente offline, quindi gli appunti restano consultabili anche in viaggio.
La scommessa sul portatile
La taglia del modello merita un’osservazione. Il confronto con i vari Gemini, ChatGPT e gli altri non è omogeneo, perché un modello di embedding e un modello generativo fanno mestieri diversi, ma come ordine di grandezza il modello locale presentato da Apple nel giugno 2024 insieme ad Apple Intelligence contava tre miliardi di parametri, circa quattro volte tanto. Piccolo vuol dire veloce e leggero, e di solito anche meno sofisticato: è il compromesso dell’AI fatta in casa, dove i modelli ridotti rispondono in fretta ma senza la finezza dei giganti che abitano nei data center.
Perché accettare il compromesso è facile da spiegare: la maggior parte degli strumenti concorrenti si affida al cloud, e Google punta sul fatto che alcuni utenti preferiscano un assistente che tiene l’audio delle riunioni e i documenti direttamente sul portatile. Il pubblico naturale è quello che in riunione parla di cose che preferirebbe non far passare per i server altrui. C’è anche una ragione di costi: ogni minuto di trascrizione eseguito sul portatile è un minuto che non passa dai data center di chi offre il servizio, e per un’app gratuita la voce dei costi conta.
Una vetrina per Gemma
Perché questo prodotto e perché proprio adesso? Foresight potrebbe servire soprattutto a mostrare che cosa sanno fare i modelli Gemma, quelli di Google pensati per funzionare anche offline, e che l’azienda potrebbe comunque lanciare nelle app Gemini uno strumento per prendere appunti rivolto ai consumatori, compatibile con i servizi di videochiamata e basato sui modelli nel cloud. Le due strade corrono in parallelo da tempo. A gennaio Apple ha confermato che la nuova Siri userà i modelli Gemini, eseguiti sui server Private Cloud Compute, in un contratto pluriennale che il Financial Times valuta in svariati miliardi di dollari complessivi, mentre OpenAI avrebbe scelto di non fare da fornitore.
Il risultato è un’azienda che a gennaio ha conquistato Apple con i modelli nel cloud e che oggi offre agli utenti del Mac la dimostrazione dell’idea opposta, a rete spenta.
Un Mac per l’AI
Altra domanda: perché su Mac? Che la vetrina sia un Mac ha le sue ragioni. A luglio un report di Bloomberg ha indicato che la crescente domanda di computer capaci di eseguire modelli e agenti AI in locale avrebbe convinto Apple ad accelerare il rinnovo dell’intera gamma, con nuovi modelli distribuiti tra l’autunno del 2026 e il 2028. Se alcuni Mac mini con molta memoria unificata sono difficili da trovare, la responsabilità è anche dell’AI, che li sta trasformando in piattaforme per sviluppare ed eseguire applicazioni in locale.
Nella strategia che Apple ha descritto fin dal 2024 i livelli sono tre: il modello sul dispositivo, il cloud privato quando il carico cresce, gli agenti di terze parti. Foresight sta al primo livello e porta la firma di un terzo, che scrive software per l’hardware Apple Silicon mentre Apple rinnova quell’hardware pensando anche a questo uso.
Troppi blocchi note
Intanto il mercato si affolla. Negli ultimi mesi Wispr, azienda di dettatura, e Calendly, azienda di pianificazione, hanno lanciato ciascuna un proprio strumento per gli appunti di riunione, e a settembre Superhuman, l’ex Grammarly, ha comprato Fathom, strumento sostenuto da Y Combinator. Aziende nate per altri mestieri aggiungono la funzione al catalogo, e l’acquisizione di Fathom suggerisce che il settore ha già iniziato a consolidarsi. Per chi fa solo appunti di riunione, come Granola, il quadro cambia: tra i concorrenti ci sono ormai società che hanno altri prodotti a cui legare la funzione.
