RICHIESTA > SOLUZIONI > VANTAGGI

Ci siamo arrivati: i robot comunicano tra loro con un codice incomprensibile agli umani!

La notizia è di questi giorni e sembra arrivare da un film: Facebook ha interrotto un programma di ricerca sull’Intelligenza Artificiale perché ha scoperto che due «agenti» dell’algoritmo comunicavano tra loro in un codice incomprensibile ai programmatori.

In parole molto povere, un agente è una qualunque entità in grado di percepire l'ambiente che lo circonda (nell'intelligenza artificiale l'obbiettivo è realizzare Agenti Intelligenti, in grado cioè di fare la cosa giusta al momento giusto) mentre il logaritmo è il programma che guida l'azione degli agenti.
In ogni caso il linguaggio creato da questi due agenti artificiali, dopo un’analisi approfondita, si era rivelato più efficace dell’inglese su cui è basato, ma Facebook ha preferito non correre rischi e bloccare il software prima che sfuggisse definitivamente al proprio controllo.
I programmi di Intelligenza Artificiale funzionano con un sistema di incentivi, ma in questo caso il codice conteneva un errore di programmazione, non avendo inserito il comando di mantenere una lingua comprensibile agli umani. Così gli agenti dell’algoritmo utilizzavano pronomi, nomi e aggettivi in modo nuovo, sicuramente più creativo e più efficace per il funzionamento del programma, ma con la preoccupante minaccia di essere indecifrabile per gli scienziati stessi.
In realtà la creazione di una lingua interna a un gruppo è tipico di ogni aggregazione, come in una squadra di soldati in missione o in un gruppo di amici che utilizzano soprannomi. Ma in questo caso è diverso, perchè l'uomo vuole mantenere il controllo. In pratica la decisione di Facebook è, con un brivido da fantascienza, una prima dimostrazione che si sta davvero cercando di contenere lo sviluppo spontaneo dell’Intelligenza Artificiale.
Ad esempio, l’agente «Bob» scriveva ad «Alice» una frase di questo tipo: «Io posso io io io tutto il resto». «Alice» rispondeva: «Palle hanno zero a me a me a me a me a me…». Può sembrare un errore ma in realtà «Bob» stava dicendo, in un modo in realtà più efficace per il linguaggio tra computer, «Io ne prendo tre e tu ti prendi il resto».
Facebook ha riprogrammato l’algoritmo a parlare in un inglese intelligibile perchè, lasciando crescere un linguaggio segreto all’interno dell’algoritmo (ad esempio, per capirci, quello usato da un iPhone per parlare con la porta del garage in una «casa intelligente»), non si può prevedere né vigilare se i programmi possano sviluppare segretamente comportamenti tesi a sopprimere gli stessi operatori umani del sistema.
Quello di Facebook non è un caso isolato. I programmatori di Google, aggiungendo una «rete neurale» che ha migliorato il suo servizio di traduzione, hanno scoperto che il sistema di Intelligenza Artificiale aveva creato un linguaggio ideato precisamente per la traduzione di frasi intere. Anche nel laboratorio di Intelligenza Artificiale fondato da Elon Musk, OpenAI, si sono accorti subito che l’algoritmo sviluppava una sorta di propria comunicazione stenografica in codice per semplificare la comunicazione e limare via ridondanze ed eccessi linguistici. Il tutto all’insaputa dei programmatori che non capivano cosa veniva comunicato all’interno del sistema.
Il dibattito nella comunità di programmatori e scienziati è aperto. C’è chi è terrorizzato dal non sapere quali decisioni vengono prese dall’algoritmo, in un codice che si sviluppa con una rapidità letteralmente disumana. C’è chi invece crede sia meglio lasciare che questi Bot sviluppino il loro linguaggio, perchè solo così si formeranno sistemi più rapidi e perfetti.

Log In or Register

fb iconLog in with Facebook

Questo sito utilizza cookie tecnici e di profilazione propri e di terze parti per le sue funzionalità e per inviarti pubblicità e servizi in linea con le tue preferenze. Se vuoi saperne di più o negare il consenso a tutti o ad alcuni cookie clicca qui.
Chiudendo questo banner, scorrendo questa pagina o cliccando qualunque suo elemento acconsenti all’uso dei cookie.