Il nuovo chatbot di DeepSeek creato in Cina sta creando trambusto perché in grado di rivaleggiare con o1 di OpenAI e alcuni dei modelli AI più avanzati degli USA a una frazione del costo, ma l’argomento sicurezza non deve essere tralasciato.
L’AI in questione è disponibile dal 20 gennaio, si comporta in molti casi in modo simile al chatbot di OpenAI, anche se in brevi test che abbiamo effettuato sono state indicate varie informazioni inventate di sana pianta.
In ogni caso questo è bastato a far crollare la quotazione di borsa delle principali società del settore, Nvidia inclusa che in una giornata ha perso oltre il 15% bruciando miliardi di capitalizzazione in poche ore.
DeepSeek, infatti, rimette in discussione convinzioni sulle intelligenze artificiali, evidenziando la capacità dei cinesi di sviluppare tecnologie in grado di competere con i migliori modelli USA, abbattendo i costi di GPU, infrastruttura, addestramento e inferenza.
Trambusto a parte, non mancano voci critiche sul versante sicurezza, Adrianus Warmenhoven, esperto di cybersecurity di NordVPN, ha sottolineato alcune perplessità: “L’ascesa di startup come DeepSeek presenta sia opportunità che rischi. Gli utenti dovrebbero avvicinarsi a queste piattaforme con cautela, specialmente considerando le diverse leggi sulla privacy in vigore nel mondo”.
Come è facile immaginare, essendo DeepSeek una società cinese, questa opera in contesti nei quali il controllo dei dati da parte del governo di Pechino è decisamente stringente.
“Gli utenti devono essere consapevoli che qualsiasi dato condiviso sulla piattaforma potrebbe essere soggetto ad accesso governativo secondo le leggi sulla sicurezza informatica della Cina, che obbligano le aziende a fornire dati alle autorità su richiesta”, spiega ancora Warmenhoven evidenziando norme che nel Paese del Dragone obbligano le aziende a fornire i dati alle autorità su richiesta.
Altro elemento di dubbio è la poca trasparenza sulle tecniche usate per l’addestramento dell’AI: “Gli utenti devono essere consapevoli che le loro interazioni e i dati caricati potrebbero contribuire ai processi di apprendimento automatico, con il rischio di un utilizzo improprio delle informazioni”, spiega ancora l’esperto.
Come proteggersi?
Indipendentemente dall’AI, Warmenhoven invita a usare un approccio proattivo: leggere attentamente i termini e le condizioni delle piattaforme, capire dove sono archiviati i dati, chi può avere accesso a quest’ultimi e usare VPN per aumentare privacy e sicurezza.
DeepSeek è stata addestrata per rispondere come farebbe un cinese. Provate, ad esempio, a chiedere cos’è successo a Piazza Tienanmen nel 1989 per vedere come l’AI invita a parlare di altro. Bisogna ricordare che tutti i modelli AI sono stati addestrati tenendo conto di cultura, idee politiche e standard morali del paese di origine e i risultati sono ovviamente in linea con tali parametri, comprese aberrazioni e distorsioni di ogni tipo.
Per capire come funziona DeepSeek e perché al debutto ha fatto crollare i maggiori titoli tecnologici USA rimandiamo a questo approfondimento . Tutti gli articoli dedicati all’Intelligenza Artificiale sono nella sezione dedicata di macitynet.
