Google Duplex: dovrebbe esserci un avvertimento quando parliamo con una macchina?

Le interfacce intelligenti e naturali fanno miracoli e sembrano persone, come dimostra Google Duplex. Ma è etico non informare gli utenti che stanno parlando con un computer?

google duplex

Ok, computer, cantavano i Radiohead. Ok, Siri, Hello Alexa e tutto quel che segue. Sappiamo molte cose di tutto quel che riguarda il mondo dell’informatica, la seguiamo da decenni e a questo punto possiamo cominciare a dire senza timore che siamo a un punto di passaggio.

Fino ad ora le interfacce per interagire con i computer erano state costruite tenendo da conto i limiti alla potenza di calcolo delle macchine digitali: dalla telescrivente per i vecchi mainframe alla riga di comando, che poi diventa shell, poi diventa interfaccia in bianco e nero con icone e finestre, passa ai colori, con effetti di trasparenza e quant’altro, sino a diventare quella festa per gli occhi alla quale siamo ormai abituati. Ma non è finita.

google duplex

Si è aperta l’era delle interfacce naturali e queste sono basate non tanto su quello che il computer è in grado di capire delle cose del mondo (il problema che oggi inchioda le intelligenze artificiali, incapaci di trovare modi per classificare informazioni tra loro appartenenti a domini eterogenei) ma su due specifici ambienti. L’interfaccia naturale che ascolta quel che le viene chiesto e l’interfaccia naturale che risponde a voce a quel che le viene chiesto.

Mettiamo da parte per un momento il problema concettualmente diverso e separato di gestire sistemi di intelligenza artificiale che possano capire cose tra loro differenti, e concentriamoci invece sulla “semplice” abilità di capire cosa viene detto, nel senso di essere in grado di ascoltare le parole e trascriverle da un lato, e nella capacità di prendere un insieme di informazioni e strutturare una risposta orale in tempo reale, con un loop comprensione/azione molto corto, perfettamente naturale e debitamente “sporcato” da quelle inflessioni e quella parte “fatica” della comunicazione inutile per una macchina ma fondamentale per una persona.

google duplex

Perché, lo sappiamo, il detto e il non detto, le intonazioni, gli stili, le esitazioni, tutto contribuisce al messaggio complessivo. E se si superano i limiti della Uncanny Valley orale (perché quella visiva è molto più complessa) si possono ottenere risultati stratosferici spingendo in modo naturale il nostro cervello di ricevitori della comunicazione a diventare una macchina per generare interpretazioni.

Allora, con Google che stupisce con la sua simulazione di persona via telefono, si chiama Duplex, con la prospettiva che questo agente intelligente via cloud diventi una interfaccia costante nella e della nostra vita, nasce una domanda. La domanda è semplice: se parliamo con una macchina, dobbiamo essere tenuti a saperlo? È un po’ come quelli che si arrabbiano se il call center che risponde non è in Italia ma sta in Irlanda o Albania. Tant’è che adesso è obbligatorio per i gestori di call center specificare dove si trova e chi lo gestisce. Domanda: vale la stessa cosa per Google Duplex e i suoi inevitabili emuli? Avremo diritto a sapere che stiamo parlando con una macchina o verremo ingannati e raggirati, portati a spasso e presi in giro dal freddo silicio reso umano dai sofisticati algoritmi di machine learning debitamente sporcati e invecchiati ad arte, per riuscire sostanzialmente a ingannarci?

google duplex

Perché, mai come adesso, la domanda su cosa sia la realtà diventa sempre più profonda ed esiziale. Tra realtà aumentata e virtuale, che aggiungono o stravolgono i mondi possibili di fronte a noi aggiungendo informazioni o sostituendo quel che vediamo, si aggiunge anche la possibilità di modificare la natura stessa dei nostri rapporti con le interfacce dei computer in una maniera che cineasti e scrittori di fantascienza hanno raccontato da tempo ma che solo adesso diventa reale.

Attenzione, parliamo di interfaccia che inganna ma non del contenuto della conversazione, e di questo dobbiamo essere consapevoli: Duplex sa simulare una persona all’altro capo del telefono, ma non è a conoscenza di argomenti tali da sostenere una conversazione generale e non “scritta”: non è una intelligenza artificiale olistica (non ne esistono) capace di capire e ragionare su tutto. Invece, sa seguire solo quel canovaccio che le viene proposto. Per adesso.