L’intelligenza artificiale sta facendo passi da gigante, ma non mancano dubbi sul reale stato di avanzamento della ricerca. Ne è un esempio il caso dell’intelligenza artificiale LaMDA che ha portato all’allontanamento da Google di Blake Lemoine, uno degli ingegneri responsabili dell’organizzazione interna dell’intelligenza artificiale. Il motivo sarebbe la diffusione, da parte di Lemoine, di informazioni sull’interfaccia che stava sviluppando, ritenuta senziente. Sarà davvero così?
LaMDA, l’ia che si definisce senziente
LaMDA sta per “Language Model for Dialogue Applications” e si tratta di un sistema composto da una rete neurale artificiale. Questi modelli sono solitamente utilizzati per risolvere problemi ingegneristici proprio nell’ambito della ricerca sulle IA. LaMDA, nello specifico, si occupa di linguaggio ed è stata progettata per essere allenata alla lettura di moltissime parole, ma è anche in grado di prestare attenzione alle connessioni tra parole e di prevedere quali parole seguiranno in un discorso. A quanto dichiarato da Lemoine, LaMDA sarebbe in grado di interagire ed esprimersi liberamente perché allenata al dialogo e capace così di cogliere sia le specificità tipiche degli scambi, sia la necessità di coerenza delle risposte. Nell’indagare le capacità e i limiti di questa tipologia di IA, Lemoine avrebbe notato che LaMDA aveva cominciato a parlare di diritti, di fede e della propria personalità arrivando a descriversi come soggetto senziente, ricordando ai lettori più attenti le vicende del film Her di Spike Jonze. Nella conversazione tra Lemoine e LaMDA, disponibile qui e che stupisce per la naturalezza e l’apparente capacità di ragionamento del sistema, ricorrono frasi come “io sono una persona”, “sento il piacere, la gioia, l’amore, la tristezza (…)”, che, tuttavia, non sono sufficiente per definirla come senziente. I sistemi come LaMDA sono progettati per mettere insieme sequenze di parole, un po’ come i giocatori di Scarabeo, ma non hanno alcuna comprensione del mondo. Si tratta, più semplicemente, dei migliori sistemi di completamento automatico possibile e di modelli linguistici che si limitano a collegare tra loro sequenze di parole.
LaMDA, Lemoine e Google
Quando già lo scorso aprile Lemoine aveva presentato ai vertici Google il documento dal titolo “LaMDA è senziente?”, le sue teorie erano state respinte. La condivisione poi delle informazioni con un membro del Congresso degli Stati Uniti era valsa all’ingegnere la sospensione. Lemoine, in tutta risposta, aveva pubblicato online lo scambio avuto con LaMDA. Google, tramite il portavoce Brad Gabriel, ha precisato che la tesi di Lemoine su LaMDa non è supportata da alcuna prova: «Il nostro team, composto da etici e tecnologi, ha esaminato le preoccupazioni di Blake in base ai nostri principi di IA – ha spiegato Gabriel – e lo ha informato che le prove non supportano le sue affermazioni. Gli è stato detto che non ci sono prove che LaMDA sia senziente, e che ci sono molte prove contrarie».
Non si deve, poi, cadere nel tranello dell’antropomorfizzazione di queste nuove tecnologie: riconoscere una persona in un dispositivo di ia comporterebbe dei rischi dal punto di vista della sicurezza, perché saremmo più propensi a condividere informazioni sensibili.
Sentiremo certamente parlare ancora di LaMDA, ma la strada che porta a sistemi senzienti è ancora lunga e lastricata di incognite.
