Apple sfrutta chip AI personalizzati di Amazon per servizi di ricerca e altri compiti

Apple sta sfruttando chip IA personalizzati di Amazon per servizi legati alle ricerche e sta valutando il loro possibile uso per pre-addestrare modelli come quelli sfruttati da Apple Intelligence.

Lo riferisce CNBC spiegando che a riferirlo è stata Apple stessa nell’ambito dell’annuale AWS Reinvent (evento che si svolge dal 2 al 6 dicembre), una conferenza focalizzata sugli ultimi progressi delle tecnologie AWS, tra cui Generative AI, attività cloud e altro ancora.

Benoit Dupin, senior director di Apple responsabile machine learning e AI, è salito sul palco per riferire in che modo Cupertino usa servizi di cloud computing, in un raro esempio di ruolo a parti invertite (con la Mela che appare in un evento come cliente di un fornitore).

“Abbiamo una forte legame, l’infrastruttura è affidabile e in grado di servire i nostri clienti in tutto il mondo”, ha riferito Dupin.

CNBC sottolinea che la presenza di Apple nella conferenza di Amazon è un forte endorsement per i servizi cloud compresi  Microsoft Azure e Google Cloud, anche questi sfruttati da Cupertino.

Benoit ha fatto sapere che Apple usa AWS da decenni per servizi quali Siri, Mappe e Apple Music; sfrutta i chip Trainium e Graviton ad esempio per servizi di ricerca, sottolineando che questi hanno portato a un guadagno del 40% in termini di efficienza.

Come accennato, Benoit ha riferito che Apple sta valutando l’uso dei chip Trainium2 per pre-addestrare suoi modelli AI proprietar, e dunque questi sono convenienti non solo in termini di costo-efficacia per l’inferenza dei modelli di intelligenza artificiale e machine learning (il processo mediante il quale un modello addestrato prende decisioni basate su nuovi dati) rispetto a chip di Intel e AMD, ma possono essere usati anche per sviluppare nuove AI. Nell’ambito dell’evento Amazon ha anche annunciato che i suoi Trainium2 sono disponibili a noleggio.

In precedenza Apple ha sfruttato le cloud tensor processing unit (TPU) di Google, indicate come pensate specificatamente per ottimizzare le prestazioni e i costi per tutti i carichi di lavoro di IA, dall’addestramento all’inferenza.

L’addestramento della maggior parte delle IA sfrutta costosi processori di NVIDIA; i cloud provider e varie startup stanno gareggiando per offrire alternative a costi inferiori, esplorando approcci differenti che potrebbero portare a un’elaborazione più efficiente. Se Apple ha valutato questo approccio, vuol dire che rivolgersi ad aziende diverse da NVIDIA è possibile.

Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di macitynet.