IA. Solo il Papa parla di tecnologia e “necrosfera” che ormai è già qui
di Alessandro Robecchi
Alla fine (o all’inizio, le cose si toccano), dell’Intelligenza artificiale si deve occupare il Papa. La politica non se ne occupa, o lo fa solo per vedere quanto può guadagnarci in termini di dominio, l’economia applaude i nuovi clamorosi profitti, i militari festeggiano che qualcuno possa ammazzare senza troppe remore o problemi etici, i lavoratori perdono il lavoro o vengono relegati in nuovi inquadramenti schiavistici, gli scienziati, in maggioranza, collaborano. Su una cosa sono tutti d’accordo: siamo all’inizio, e tra una ventina di anni guarderemo all’intelligenza artificiale di oggi come oggi guardiamo a un telefono grigio con il filo e la rotella per i numeri: preistoria.
Se qualcosa è possibile tecnicamente, l’uomo lo farà, e i dilemmi morali ed etici verranno dopo – se verranno – ed è stato così per ogni tecnologia dalla scoperta del fuoco in poi. Con moltissime analogie e alcune differenze, tra cui, evidentissima, quella che ad avere in mano le sorti dell’umanità sono oggi una decina di persone – persone fisiche, con nome e cognome – più potenti di qualunque Stato nazionale, organizzazione collettiva, istituzione democratica, e quindi senza alcun controllo. Dobbiamo fare i conti, dunque, con una specie di fantascienza reale, effettiva, tangibile, che si svolge qui e ora, non in un ipotetico futuro, non in uno scenario lontano e fantastico, ma nella vita di oggi. I sistemi di guerra gestiti dall’IA valutano quanti civili possono morire in un attacco e accettano la barbarie, decide l’algoritmo, così come l’algoritmo decide le consegne delle nostre pizze portate da uno schiavo in bicicletta, il nostro rendimento sul lavoro, quali contenuti possiamo leggere sui social media e tutto il resto. Il capitalismo estremo (che è poi il capitalismo tout-court adattato alle possibilità tecnologiche) resta quello che è, un’indefessa azione contro la dignità dell’uomo.
Nel 1964 uno scrittore polacco, Stanislaw Lem (quello di Solaris, capolavoro assoluto) pubblicò il romanzo L’invincibile in cui immaginava un pianeta, Regis III, dominato da strane macchine, capaci di ripararsi da sole, di progredire, di imparare, di sconfiggere chiunque le sfidasse, compresi gli umani, ovviamente: un ecosistema non biologico, quindi con l’inestimabile vantaggio tattico di non avere coscienza né freni morali. È un grande romanzo e come accade ai grandi romanzi inventò una parola: “Necrosfera”, per descrivere quell’inferno di computer, calcoli, algoritmi (ancora non esisteva il termine): qualcosa di simile a un potere divino che era, in realtà, il potere di macchine intelligenti. Sessant’anni dopo (un battito di ciglia), eccoci tutti a guardare la necrosfera che avanza, un po’ increduli, un po’ ammirati, un po’ affascinati da certi processi matematici che sanno di magia, e non ancora spaventati a dovere. Che il profitto di pochi (oggi pochissimi) sia la schiavitù di molti (in prospettiva: quasi tutti) ce lo aveva detto Marx, così come oggi ce lo dice il Papa, speriamo con esiti migliori sul risultato finale, ma è lecito dubitarne. E siccome un sentimento umanissimo è il pessimismo (da cui l’algoritmo è immune), conviene prepararsi al peggio, a una società globale privata di ogni capacità decisionale, dove a decidere tutto è una macchina senza bilanciamenti e contropoteri, costruita e alimentata in gloria di una decina di divinità ultra-miliardarie che ci farà dire di nuovo, tra poco “Socialismo o barbarie” o, se preferite “Socialismo o necrosfera”. Benvenuti su Regis III, nel 1964.