Super AI può distruggere l’umanità, OpenAI crea divisione di controllo

In più occasioni Sam Altman, CEO di OpenAI, pionieri dell’intelligenza artificiale e creatori di ChatGPT, ha avvertito che lo sviluppo di una AI super intelligente presenta rischi e pericoli concreti di portata globale, estizione dell’uomo inclusa.

Per il momento una AI super intelligente viene definita come un ipotetico modello AI più intelligente del più dotato degli umani, in grado di eccellere in campi multipli, non in uno solo come avviene ora.

Parole di OpenAI «La super intelligenza sarà la tecnologia di maggior impatto che l’umanità abbia mai inventato e potrebbe aiutarci a risolvere molti dei problemi più importanti del mondo». E subito dopo «Ma il vasto potere della super intelligenza potrebbe anche essere molto pericoloso e potrebbe portare all’impotenza dell’umanità o addirittura all’estinzione umana».

Sempre secondo Altman e OpenAI un modello AI super intelligente potrebbe arrivare entro la fine di questo decennio. Oltre all’intervento di stati e governi per regolare le tecnologie AI, OpenAI ha deciso di creare una divisione dedicata all’interno della società per guidare e controllare lo sviluppo della tecnologia.

Una squadra gestita da due delle menti più brillanti dell’azienda: Ilya Sutskever, capo scienziato OpenAI e Jan Leike, responsabile allineamento. Con allineamento si intende garantire che una AI o super AI sia sicura da usare e in linea con i valori umani. Per ora questa supervisione è effettuata dall’uomo, ma quando arriverà la super AI che supererà le capacità umane, servirà uno strumento più potente e automatico.

Così l’obiettivo del nuovo Team di allineamento di OpenAI è di creare un ricercatore automatico di allineamento, più affidabile dell’uomo per monitorare e guidare lo sviluppo. La società cerca ingeneri e ricercatori esperti di apprendimento automatico da inserire nel team e dedicherà ben il 20% di tutta la potenza di calcolo finora a sua disposizione per questo scopo.

L’immagine di apertura è di Xu Haiwei via Unsplash. Tutti gli articoli che parlano di intellingeza artificiale sono disponibili nella sezione dedicata di maacitynet.