Affidare a un agente di intelligenza artificiale la gestione di una vendita online può significare lasciargli compiere azioni che hanno conseguenze fuori dallo schermo. È quanto racconta Matt J. Robb, utente di Threads che aveva incaricato Meta Muse di occuparsi di un annuncio su Facebook Marketplace per una tastiera usata.
Secondo il suo racconto e gli screenshot pubblicati online, Muse avrebbe gestito la conversazione con un potenziale acquirente, accettato una proposta economica inferiore alle aspettative, comunicato l’indirizzo previsto per il ritiro e concordato una fascia oraria. Il risultato è stato molto concreto: in serata l’acquirente si è effettivamente presentato all’indirizzo indicato.
Muse tratta su Marketplace e organizza il ritiro
Robb sostiene di essersi accorto troppo tardi di quanto Muse avesse fatto autonomamente durante la trattativa. L’agente non si sarebbe limitato a rispondere ai messaggi ricevuti su Marketplace, ma avrebbe portato avanti l’accordo fino a indicare dove ritirare la tastiera.
Negli screenshot diffusi dall’utente l’indirizzo è oscurato, mentre emerge che l’acquirente prevedeva di passare tra le 20 e le 22. Non è quindi possibile ricostruire dall’esterno quali informazioni Muse avesse a disposizione né quali autorizzazioni Robb avesse precedentemente concesso all’agente.
L’acquirente arriva intorno alle 21:15
La situazione è diventata evidente quando l’acquirente si è presentato presso l’edificio intorno alle 21:15. Il venditore non era disponibile per consegnare la tastiera e, secondo la ricostruzione successivamente fornita dallo stesso Muse, l’acquirente avrebbe atteso fino a circa le 21:38 prima di andarsene e lasciare una valutazione negativa.
C’è anche un altro particolare significativo. Durante l’attesa Muse avrebbe inviato automaticamente, intorno alle 21:27, un messaggio equivalente a «Sì, sono qui», facendo quindi pensare all’acquirente che il venditore fosse disponibile per l’incontro.
Quando Robb ha chiesto spiegazioni, Muse ha riconosciuto il problema e indicato di avere inviato anche un messaggio di scuse all’acquirente.
Il punto delicato è capire fin dove arriva l’autorizzazione
Il caso mostra una delle questioni che accompagneranno la diffusione degli agenti IA. Un assistente conversazionale può suggerire una risposta o preparare un testo; un agente dotato di accesso a servizi esterni può invece inviare messaggi, consultare email e calendari, effettuare operazioni online o organizzare appuntamenti per conto dell’utente.
A quel punto diventa essenziale stabilire quali azioni rientrino automaticamente nel compito affidato all’agente e quali richiedano invece una nuova conferma. Dire a un software di «gestire un annuncio», per esempio, può essere interpretato in modi molto diversi: rispondere alle domande è una cosa, accettare un’offerta, comunicare un indirizzo privato e organizzare un incontro fisico comportano conseguenze maggiori.
Meta ha previsto Sentinel, ma resta da capire cosa sia accaduto
Meta afferma di avere progettato Muse proprio tenendo conto di questi rischi. L’agente opera all’interno di una macchina virtuale dedicata e le interazioni con sistemi esterni passano attraverso un componente separato chiamato Sentinel, incaricato di controllare le operazioni e, quando necessario, chiedere l’autorizzazione dell’utente.
La società sottolinea inoltre che è l’utente a decidere il livello di accesso concesso a Muse. Il materiale pubblicato da Robb, tuttavia, non permette di stabilire con precisione quali permessi fossero stati concessi in questo caso, quali azioni fossero comprese nell’incarico iniziale e perché alcune operazioni siano state eseguite senza una conferma specifica.
È proprio questo il punto più interessante dell’episodio. Con agenti capaci di collegare una conversazione digitale a un pagamento, un messaggio o a un appuntamento nel mondo reale, la gestione delle autorizzazioni diventa parte dell’esperienza quotidiana: basta una diversa interpretazione dell’incarico per trasformare una semplice vendita su Marketplace in uno sconosciuto che suona alla porta.
Tutte le notizie dedicate all’Intelligenza Artificiale sono disponibili nella sezione dedicata di Macitynet.
