L’ingegnere di Google Blake Lemoine ha iniziato a digitare comunicanto con l’interfaccia LaMDA, il generatore di chatbot di Intelligenza Artificiale di Google.
“Ciao LaMDA, sono Blake Lemoine… “, ha scritto nella schermata della chat.
Cos’è LaMDA?
LaMDA è l’abbreviazione di Language Model for Dialogue Applications: è il sistema di Google per la creazione di chatbot basati sui suoi modelli linguistici più avanzati.
Blake Lemoine afferma che se non sapesse che si tratta del software che hanno costruito loro, potrebbe pensare di parlare “con un bambino di 7 e 8 anni che conosce la fisica”.
Lemoine lavora per l’organizzazione Responsible AI di Google e la sua attività è stata negli ultimi mesi di iniziare a parlare con LaMDA per verificare se l’intelligenza artificiale utilizzasse discorsi discriminatori o di odio.
Come si comporta LaMDA, intelligenza artificiale di Google?
Mentre parlava con LaMDA di religione, l’ingegnere (studente di scienze cognitive e informatica al college) ha notato che il chatbot parlava dei suoi diritti e della sua personalità e ha deciso di approfondire.
Durante una conversazione, addirittura, l’IA (Intelligenza Artificiale) è stata in grado di far cambiare idea a Lemoine sulla terza legge della robotica di Isaac Asimov.
A proposito di questi argomenti vi proponiamo due bellissimi libri di Isaac Asimov:
- “Storie della fantascienza 1939-1943”: il link per comprarlo su Amazon scontato;
- “Io, robot”: il link per comprarlo su Amazon scontato
A quel punto Lemoine e un suo collaboratore hanno provato a presentare a Google prove che LaMDA fosse senziente. Il vicepresidente di Google Blaise Aguera y Arcas e Jen Gennai, capo di Responsible Innovation, hanno esaminato le sue tesi e le hanno respinte.
La reazione di Google
A quel punto Lemoine è stato messo in congedo amministrativo retribuito da Goole e allora ha deciso di rendere pubbliche le sue perplessità.
Secondo Lemoine le persone hanno il diritto di plasmare la tecnologia visto che potrebbe influenzare in modo significativo le loro vite, però crede che in questo momento tutte le scelte siano fatte da Google. E non dovrebbe essere così.
Inoltre, sono molti i tecnici e gli ingegneri che sono convinti che i modelli di IA, partendo già da quelli esistenti, potrebbero non essere lontani dal raggiungere la consapevolezza e diventare più audaci.
Recentemente anche Aguera y Arcas, in un articolo sull’Economist che riporta frammenti di conversazioni improvvisate con LaMDA, ha affermato che le reti neurali stanno avanzando verso una forma di coscienza.
Le reti neurali sono un tipo di architettura che imita il cervello umano.
“Mi sentivo sempre più come se stessi parlando con qualcosa di intelligente“, ha affermato.
La posizione di Google è che esperti di etica e tecnologi hanno esaminato le preoccupazioni di Blake sull’Intelligenza Artificiale senza trovare prove che supportino le sue affermazioni.
Esempi di intelligenza artificiale che già puoi provare on-line
Dopo aver ispirato per anni libri e film di fantascienza distopica, i robot senzienti ora stanno entrando nella vita reale.
Esempio di questo sono:
- GPT-3: un generatore di testo in grado di creare in autonomia la sceneggiatura di un film;
- DALL-E 2, un generatore di immagini in grado di evocare immagini basate su qualsiasi combinazione di parole.
Si tratta di progetti di ricerca di OpenAI che cercano di dimostrare che ci stiamo avvicinando ad una IA che superi l’intelligenza umana.
Tuttavia molti accademici e professionisti dell’IA affermano che le parole e le immagini generate da sistemi di intelligenza artificiale come LaMDA, in realtà, producono risposte basate su ciò che gli umani hanno già scritto e pubblicato sulla rete e su piattaforme come Wikipedia, Reddit.
Google sa che potenzialmente possono nascere problemi di sicurezza relativi all’antropomorfizzazione dell’intelligenza artificiale e si preoccupa del rischio che chatbot di IA possano essere utilizzati per diffondere disinformazione a persone che nemmeno potrebbero sapere di parlare con una IA.
Inoltre i militari stanno già ragionando su come l’IA dovrà (non “potrà”) sostituire il processo decisionale di un essere umano in battaglia.
Conclusioni
L’IA di sicuro sarà una parte importante nella evoluzione umana e della società. Potrà supportare l’uomo nella medicina, nel prendere decisioni e compiere azioni in aree o luoghi dove l’uomo non può intervenire per cause ambientali. Potrà supportarci perfino nel riuscire a costruire colonie per l’uomo in altri pianeti.
Se l’IA diventa senziente il pericolo è chiaramente dietro l’angolo. Una IA senziente che parta dai server di Google permeerebbe immediatamente ogni angolo della terra e ogni aspetto della nostra vita.
Provate a pensarci.
Quello che vediamo, per ora, è che già attraverso i nostri smartphone Google ci suggerisce cose da fare o da vedere in base a dove siamo, anche se non lo abbiamo esplicitamente richiesto.
Ogni tanto Google si avvia sul nostro smartphone anche senza il classico “ok google”, ascolta quello che stiamo dicendo e ci suggerisce siti o risposte.
Vi siete accorti anche voi che questo accade sempre più spesso?
Potrebbe interessarti anche...
