Le macchine pensanti
Alan Touring, il padre della moderna informatica, certo non poteva pensare che oggi i computer potessero addirittura indurre, in fretta e furia, i tecnici a spegnerle per evitare che si spingessero troppo in là.
Ma è proprio quello che è capitato nelle settimane scorse quando in un laboratorio di ricerca due computer hanno iniziato un dialogo in lingua inglese ma, rapidamente, hanno modificato il linguaggio sino a renderlo incomprensibile agli umani presenti.
Loro, invece, si capivano benissimo.
L’esperimento era finalizzato allo sviluppo delle capacità di interlocuzione dei computer con l’uomo e, ovviamente, un requisito essenziale doveva essere che il linguaggio utilizzato dai pc fosse vicino quanto più possibile a quello umano.
In effetti, per velocizzare la ricerca, piuttosto che mettere un umano, lento ed affetto dal naturale limite della fatica, ad addestrare la macchina, i tecnici avevano ben pensato di fare interloquire direttamente due pc tra loro.
Ma, con grande sorpresa di tutti Bob e Alice, le due macchine coinvolte nell’esperimento, hanno ben presto iniziato a mutare il linguaggio umano preferendo, secondo i loro canoni di maggiore efficienza, un idioma che si è discostato a tal punto da quello iniziale da indurre a interrompere l’esperienza.
Insomma, i due computer avevano iniziato ad andare per la loro via senza alcun controllo da parte dei ricercatori che non hanno potuto fare altro che staccare la spina.
La spiegazione data dalla compagnia (NDR: Facebook) in cui si è effettuato l’esperimento è stata che l’esperienza è stata interrotta per il venire meno dell’interesse a sviluppare un linguaggio non umano ma che accadrebbe se, tra qualche tempo, non si potesse staccare la spina?
A quali evoluzioni assisteremmo impotenti? Potrebbero le macchine spingere il loro pensiero sino a raggiungere consapevolezza di sé stesse?
Indubbiamente interrogativi inquietanti che fanno ritornare alla mente il presupposto della saga di Terminator e le tre leggi della robotica che Isaac Asimov nei sui libri di fantascienza, a questo punto neppure tanto lontana, saggiamente aveva vaticinato al fine di mettere un argine allo strapotere intellettivo dei cervelli elettronici su quelli umani:
1) Un robot non può mai causare danno a un essere umano;
2) Un robot deve sempre obbedire agli ordini degli umani a meno che questi non violino la prima legge;
3) Un robot deve salvaguardare la propria incolumità a meno che questo non infranga le prime due leggi.
Il discorso è, ovviamente, non solo stimolante dal punto di vista scientifico (o, per qualcuno, fantascientifico) ma soprattutto etico.
Posto che i computer già attualmente esibiscono capacità superiori a quelle umane (basti pensare alla velocità di calcolo o di memorizzazione), prima che diventino davvero macchine pensanti, sarà necessario un ampio dibattito etico sulle condizioni che la ricerca scientifica dovrà porsi nel perseguire l’inevitabile strada del progresso nel campo dell’intelligenza artificiale.