Italian Tech

Non siamo gli unici a sapere mentire: così Facebook insegna a dire bugie ai bot

Non siamo gli unici a sapere mentire: così Facebook insegna a dire bugie ai bot
Un esperimento fa segnare un passo in avanti all'intelligenza artificiale con cui potremo avere a che fare sui social e non solo
1 minuti di lettura
FACEBOOK vuole che i suoi sistemi siano in grado di negoziare con gli utenti in carne e ossa. E, nel caso, di ingannarli. Un nuovo progetto del Fair, il Laboratorio di ricerca sull’intelligenza artificiale del social network, sembra aver dato i primi frutti sulla base di 5.808 conversazioni umane. Si tratta del punto di partenza per i bot del futuro, utenze automatizzate che già oggi interagiscono con noi sulla piattaforma per aiuto, servizio clienti, ordinazioni e acquisti ma che domani potrebbero farsi davvero raffinate. E, all’occorrenza, in grado di mentirci.
 
L’esperimento di Facebook, in particolare, ha utilizzato un gioco per insegnare al sistema come mercanteggiare intorno a oggetti come libri, cappelli e palle da basket. A ciascun oggetto è stato assegnato un punteggio ed è iniziata una trattativa fra utenti umani alla quale i bot hanno “assistito” e sulla base della quale si sono "allenati". Poi gli studiosi hanno messo i bot a confronto con le persone, ovviamente sulla stessa querelle. Il fine era ovviamente aggiudicarsi il maggior numero di oggetti in modo da raggiungere il risultato più redditizio possibile. I bot hanno abilmente anticipando le mosse dell’utente – proprio come le intelligenze artificiali alle prese con giochi come Go – e mandato in confusione gli esseri umani, che spesso non sono riusciti a rendersi conto di discutere con un sistema informatico.
 
“I bot migliori hanno fatto registrare abilità paragonabili a quelle umane – ha spiegato Mike Lewis, ricercatore del Fair – uno dei loro vantaggi è la pazienza infinita e la determinazione”. Insomma, non solo imitazione di ciò che avevano appreso dal database di informazioni e dialoghi ma anche capacità di sviluppare tattiche di negoziazione molto efficaci e accompagnate da frasi inedite, composte ex novo, non prese dai dialoghi passati e infilate di peso in quelli nuovi.
 
Tuttavia l’aspetto più interessante è che, all’interno di queste tattiche di trattativa, sono fioccate anche le bugie: invece di dire chiaramente quale oggetto desiderassero ogni tanto i bot "allevati" da Facebook hanno vinto interesse per oggetti che non volevano aggiudicarsi per poi virare alla fine verso l’obiettivo. Una mossa che gli esperti di Menlo Park non sanno attribuire ai dati forniti in fase iniziale o a una qualche dinamica casuale. Fatto sta che ha funzionato.