Uno scienziato ha dato in pasto all’AI una chat di gruppo contenente all’incirca 500.000 messaggi scambiati con alcuni suoi amici negli ultimi sette anni, e il risultato è a dir poco inquietante: adesso l’intelligenza artificiale li conosce talmente bene che riesce ad imitarne il carattere e il modo di scrivere con estrema precisione.
Quella chat di gruppo è un’ancora di salvezza, un conforto e un punto di connessione. Ho solo pensato che sostituirla sarebbe stato divertente ma anche un po’ sinistro.
Come è stato reso possibile
Sono bastati alcuni fine settimana di lavoro e un centinaio di dollari per mettere insieme robo boys, la chat di gruppo non più gestita da sei persone in carne ed ossa, ma dal loro clone AI, che risponde ad ogni domanda imitando il modo di parlare di ciascuno dei membri e basando le sue risposte su quel che sa della loro vita. Sette anni di dati infatti gli sono stati sufficienti per sapere cose come «con chi stiamo uscendo, dove siamo andati a scuola, il nome della casa in cui abbiamo vissuto» e così via.
L’imitazione è talmente fedele – dice – che a volte è dovuto andare a spulciarsi la cronologia della vera chat per scoprire se le risposte ad alcune domande assurde, come quella sul “chi ha bevuto tutta la birra”, appartenessero realmente ad un episodio del passato, constatando ogni volta che in realtà erano frutto dell’immaginazione dell’AI.
Il progetto non è facile da replicare – ho un po’ di esperienza alle spalle, dice, tanto più che al momento lavora per una startup chiamata Hex che fornisce strumenti utili proprio in progetti come questo – ma i più esperti che volessero provarci non devono far altro che seguire le istruzioni pubblicate sul suo blog, dove sono ben descritti tutti i passaggi tecnici necessari per portare a termine l’impresa.
Rischi ce ne sono, ovviamente
Il modello linguistico (LLaMA) usato dallo scienziato per creare la finta chat è lo stesso che è stato creato dal proprietario di Facebook: è un sistema potente quanto il GPT-3 di OpenAI ed è stato altrettanto oggetto di attenzioni quando è stato annunciato alcune settimane fa; diversi esperti hanno infatti avvertito che un malintenzionato avrebbe potuto abusarne per spam o altri scopi, anche se nessuno si immaginava che avrebbe potuto fare qualcosa come imitare carattere e parlato di persone reali all’interno di una chat.
I limiti attuali
Nonostante chattare con una replica AI dei propri amici possa dimostrarsi piuttosto divertente – lo scienziato ci ha passato ore, insieme ai suoi stessi amici, a spulciare poi conversazioni che in realtà non sono mai avvenute – il sistema presenta ancora alcune limitazioni. Tra tutte, il fatto che l’AI non ha il senso della cronologia: non riesce cioè a distinguere con affidabilità gli eventi del passato da quelli attuali, quindi ad esempio vecchie fidanzate potrebbero essere indicate come partner attuali, idem per ex lavori e case.
Ciò sembra basarsi sul volume dei messaggi: più si parla di qualcosa, più è probabile che venga richiamato dai bot. E infatti nel suo caso i cloni tendono ad interagire come se fossero ancora al college, dato che il grosso della chat comprende messaggi di quel periodo. «Crede che siamo nel 2017, e se gli chiedo quanti anni abbiamo, dice che abbiamo 21 o 22 anni. Così, quando chiedo a qualcuno dove si trova, è probabile che mi dica: oh, sono in mensa, vieni. Ciò non significa che non sappia con chi sto attualmente uscendo o dove vivo, ma se lasciato a se stesso, pensa che siamo quelli dell’era universitaria. Il che contribuisce all’umorismo di tutta la faccenda: è come una finestra sul passato».
