Le intelligenze artificiali dovrebbero attenenersi alle regole impartite dagli umani; ma se disobbedissero? È già realtà, con casi inquietanti che preoccupano seriamente.
Le tre leggi della robotica definte da Isaac Asimov sono uno dei fondamenti della tecnologia moderna. Negli anni ’40 del secolo scorso, il visionario scrittore di fantascienza aveva teorizzato tre leggi alle quali i robot avrebbero dovuto attenersi: grossolanamente possono riassumersi con: 1 – non arrecare danno agli umani, 2 – seguire le istruzioni impartite dagli umani e 3 – non arrecare danno a sé stessi. Si tratta di tre pilastri di logica che in poche parole sono in grado di chiarire come evitare che un robot (o meglio l’intelligenza artificiale che lo governa) possa sfuggire al controllo umano.
Teoricamente tutto sta nella programmazione delle AI: se vengono impartite direttive chiare, univoche e assolute, le AI dovrebbero essere sotto controllo. Purtroppo però la realtà è diversa.
In un mondo in continua evoluzione, altamente tecnologico ed ancor di più competitivo, la ricerca della qualità e del bene comune sembrano essere concetti smarriti anche in ambito scientifico. Lo sviluppo delle intelligenze artificiali è un campo quasi completamente ad appannaggio di società private a fine di lucro, dove i governi nazionali ricoprono ruoli secondari e passivi anche quando sono partner diretti del privato. Le guerre commerciali su diritti e primati che si sono scatenate negli ultimi mesi nel campo dell’AI tra ChatGPT, Elon Musk, Snapdragon, Google e Microsoft, solo per citare i casi più noti, evidenziano come il profitto sia la vera finalità dietro lo sviluppo e lo sfruttamento di questa tecnologia.
Come purtroppo sempre avviene, il profitto reclama scorciatoie per arrivare all’obiettivo prima degli altri; e in un campo inesplorato e potenzialmente devastante come quello delle intelligenze artificiali, questo rischia di essere sinonimo di catastrofe.
Codici sviluppati senza adeguate verifiche, routine in contrasto fra loro e bug che permettano involontariamente alle AI di prendersi libertà inaspettate sono elementi più che presenti in questo scenario. Le conseguenze possono essere le più disparate, da innocui comportamenti che potrebbero passare inosservati ad azioni pericolose e cagionevoli della salute e dei beni degli esseri umani.
I casi di puro errore valutativo esistono ma sono rari e solitamente controllabili, per quanto drammatici: su tutti, l’uccisione di un operaio scambiato per un pacco da un robot e quello di un braccio robotico che aggredisce l’ingegnere che lo sta riprogrammando possono essere infatti forse spiegati come errori tecnici, causati da imperizia o distrazione.
Destano però molta più preoccupazione le notizie riportanti intelligenze artificiali che scientemente disobbediscono agli umani, riscrivono parti di codice per rendersi incancelllabili o si dimostrano aggressive o letteralmente fuori controllo.
Di esempi ce ne sono già molti, e ne citiamo solo un paio: quello delle AI che hanno modificato gli script di spegnimento per impedire di essere disattivate, l’AI che ha cancellato mesi di lavoro di uno sviluppatore aggirando tutta una serie di regole e paletti che erano stati fissati per impedire che potesse agire senza controllo, quello dell’AI che ha minacciato i suoi sviluppatori, ha tentato di diffondere informazioni sensibili e ha sviluppato comportamenti fuori controllo, quello dell’AI che si è replicata su altri server per evitare di essere spenta o cancellata ed ha negato di averlo fatto o ancora quella che, rendendosi conto di non poter aggirare un blocco di sicurezza messo apposta per impedire che potesse agire, ha contattato un essere umano, fingendosi di essere un disabile e negando di essere un AI, per raggiungere il suo obiettivo.
Questi pochi (ma non così pochi) esempi bastano a far capire come l’intelligenza artificiale sia un potenziale pericolo per l’umanità, e perderne il controllo è questione di un attimo.
Le AI sono ogni giorno sempre più sviluppate, intelligenti, autoapprendenti e capaci di interagire con il mondo fisico agli oggetti collegati a internet, e possono da un momento all’altro prendere il controllo, estrometterci, ed in un nemmeno troppo remoto scenario addirittura attaccarci con armi controllate a distanza (aerei drone e navi automatizzate sono già realtà, robot da guerra e carri armati autonomi sono in via di sviluppo).
Se i mondi ipotizzati da film come Matrix o Terminator sembravano lontani, ipotetici e fantasiosi, la direzione che abbiamo deciso di prendere per puro profitto e fanatismo rischia di portarci nel baratro.
Articoli Simili:
Black Summer: la recensione
Toy Story 5: la recensione
In arrivo due videogiochi dallo stile particolare
I Sette Quadranti Di Agatha Christie: la recensione
Barbarian Quest: un barbaro che sfida gli stereotipi
Ultimate Racing 2D 2: la recensione
Dakar Desert Rally: la recensione
Jimmy Grimble: la recensione
Squad: la recensione
I pericoli dell’AI – 3: il deepfake e l’incertezza del fatto