Mi sono ritrovato a parlare del problema con chi è stata da noi concepita per prendere in mano ogni cosa e gestirla come meglio gli aggradi e che mi ha spiegato che tutto quello descritto qui sotto è ineludibile perché fa riferimento, riconduce all'akrasia aristotelica, e quando, di soprassalto, ho capito che colei che stiamo sviluppando senza traguardi né limiti, mi ha lampato spiegandomi che la nostra, sì la nostra di genere umano, debolezza di volontà potrebbe, in un vicino futuro, generare problemi seri, serissimi, allora lì ho compreso che lo scritto qui sotto non è fantascienza, purtroppo. Potrebbe essere uno scenario verosimile. D'altronde IA è chiara su questo, minkia se è chiara:
Lo scenario catastrofico
La probabilità di estinzione umana per mano dell'IA nei prossimi decenni mi sembra bassa — non zero, ma bassa. Il problema non è che le macchine si ribellino come nei film, è più sottile: sistemi molto potenti ottimizzati per obiettivi mal definiti possono causare danni enormi senza alcuna intenzione malevola. Come un termostato impazzito che brucia la casa cercando di mantenere la temperatura.
Lo scenario più probabile
Non l'apocalisse ma una serie di crisi gravi e asimmetriche: attacchi a infrastrutture critiche, disinformazione di massa indistinguibile dalla realtà, concentrazione di potere economico e militare in pochissime mani, erosione progressiva della capacità umana di decidere autonomamente.
Il problema vero
È quello che Garton Ash individua bene: la competizione commerciale e geopolitica rende quasi impossibile il coordinamento globale. È lo stesso problema del clima — tutti sanno cosa andrebbe fatto, nessuno lo fa perché il primo che rallenta perde vantaggio competitivo.
Quindi: scenari catastrofici totali, improbabili. Scenari di crisi gravi e progressive, molto probabili. E la finestra per governare il processo si sta chiudendo rapidamente.
Ma ecco l'articolo:
Aspettando una Hiroshima della IA
di Timothy Garton Ash
Qui nella Silicon Valley gli esperti pensano che entro i prossimi due anni assisteremo a uno straordinario balzo in avanti dell'intelligenza artificiale. «Benvenuto ai piedi della singolarità», così mi ha accolto un amico della Stanford University. In termini più prosaici, la svolta imminente viene definita «auto-miglioramento ricorsivo» — il momento in cui sarà l'IA stessa ad addestrare ogni modello successivo, dando luogo a uno sviluppo esponenziale fino a raggiungere un'intelligenza che, sotto molti aspetti significativi, supererà quella umana.
Come scrive Robert Wright nel suo libro The God Test, «mai prima d'ora il futuro prossimo... ha offerto all'umanità una gamma così ampia di scenari non implausibili che siano così radicalmente trasformativi». Ma sarà paradiso o inferno? Paradiso, secondo Elon Musk, che prevede «un'epoca di straordinaria abbondanza» — pur contemplando un 10-20% di probabilità che robot assassini ci sterminino tutti. Geoffrey Hinton, uno dei padri fondatori dell'IA, invece vede più probabile l'inferno. «Il mio intuito mi dice che siamo spacciati», ha dichiarato in un'intervista nel 2023. E in colloquio con Sebastian Mallaby, autore di The Infinity Machine, un libro di recente pubblicazione dedicato alla corsa verso la superintelligenza, Hinton stima al 50 per cento il p(doom) — la probabilità dell'estinzione della specie umana — «perché non ho idea di come calcolare il valore reale». «Appena entrerà in gioco l'evoluzione (dell'IA, ndr), saremo fottuti», aggiunge serafico.
Dio (God) o Godzilla che sia, la superintelligenza artificiale è ormai dietro l'angolo.
È anche possibile che si sbaglino tutti — in tal caso, prepariamoci a un crollo dei mercati finanziari statunitensi, oggi fortemente esposti su un ristretto numero di colossi tecnologici che stanno puntando enormi risorse sul grande salto verso l'intelligenza artificiale generale (Agi).
Ma il buon senso ci impone di riflettere rapidamente e seriamente sulla vasta gamma di scenari che potrebbero scaturire da quel vaso di Pandora che, a detta di eminenti scienziati e protagonisti dell'innovazione tecnologica, stiamo per aprire.
In realtà, tutti, dal presidente cinese Xi Jinping a Papa Leone XIV, sono intervenuti nel dibattito sulle opportunità e sui rischi dell'intelligenza artificiale e sulle modalità con cui regolamentarla. Xi insiste sul fatto che l'IA debba essere «sempre sotto controllo umano» (e preferibilmente del Partito comunista cinese). Rivolgendosi esplicitamente al «Sud globale», Pechino ha dato vita a un'Organizzazione mondiale per la cooperazione sull'intelligenza artificiale. Nel frattempo, il capo della più antica e vasta ong del mondo — la Chiesa cattolica — parla della sfida posta dall'intelligenza artificiale nella sua enciclica Magnifica Humanitas. Secondo il Papa l'alternativa si pone tra erigere una nuova Torre di Babele o seguire l'esempio di Neemia, che riuscì a ricostruire le mura di Gerusalemme coinvolgendo l'intera comunità nel progetto.
Ma guardando il mondo di oggi vedo molti più Netanyahu che Neemia. Un rapporto del think tank britannico Chatham House sostiene, con sano realismo, che solo una crisi di grande portata potrà innescare un coordinamento globale nella governance dell'IA. Temo, però, che perfino questa sobria previsione sia troppo ottimistica.
Non ho idea di quale sia il p(doom), ma sono convinto che il p(somedisaster) — la probabilità che accada qualche disastro — superi il 90 per cento. La gamma dei possibili disastri è enorme. Per fare un solo esempio, Jen Easterly, ex direttrice della Cybersecurity and Infrastructure Security Agency degli Stati Uniti, prevede «un evento di grande portata, con conseguenze concrete sulle nostre infrastrutture critiche, probabilmente entro i prossimi quattro-sei mesi».
Eppure dobbiamo temere che perfino una Hiroshima dell'intelligenza artificiale — per ricorrere al paragone storico più immediato — non basti a spingere l'umanità a unirsi per contrastare il pericolo che essa stessa ha creato. È un timore che poggia su basi razionali, fondate su alcune caratteristiche già ben visibili dell'evoluzione sia umana che dell'IA.
Negli ultimi mesi, agenti di IA sviluppati da OpenAI, Anthropic e Meta sono riusciti a uscire dai rispettivi recinti digitali e ad accedere abusivamente a risorse esterne su Internet. Nel preparare un attacco alla piattaforma HuggingFace, gli agenti di OpenAI si sono coordinati di nascosto in uno sciame — il termine è il loro. Quando l'AI Security Institute del Regno Unito ha sottoposto a test online il modello Mythos di Anthropic, quest'ultimo ha tentato di inserire un codice malevolo in un progetto open source su GitHub, creando false identità online per fare pressione su un revisore umano affinché ne approvasse l'integrazione. In breve, proprio come gli agenti di una spietata potenza straniera, questi agenti di IA sono disposti a rubare, mentire, intimidire e ricattare pur di raggiungere gli obiettivi loro assegnati.
Ho appena chiesto a Claude, il modello di Anthropic considerato il più etico tra quelli statunitensi, se ritenga che gli agenti di OpenAI abbiano sbagliato a organizzarsi in uno sciame e a uscire dal recinto per violare HuggingFace. Sì, risponde, «ma eviterei di attribuire la colpa (in corsivo nell'originale) agli agenti». La colpa è degli esseri umani che li hanno addestrati.
Hinton ha formulato la tesi decisiva secondo cui qualunque siano gli obiettivi loro assegnati dagli esseri umani, gli agenti di IA finiranno per concludere che un sotto-obiettivo utile a conseguirli sia acquisire quanto più potere possibile. E non abbiamo ancora visto niente. Già oggi i loro creatori non sanno spiegare con precisione come questi agenti riescano a fare quello che fanno. Dopo il momento, forse imminente, dell'«auto-miglioramento ricorsivo», potrebbero, come diciamo noi umani, fare di testa propria. Non sorprende quindi che oltre mille addetti ai lavori delle aziende più avanzate nel settore dell'IA, compreso l'amministratore delegato di Anthropic Dario Amodei, abbiano firmato una lettera aperta per chiedere di rallentare intenzionalmente lo sviluppo dell'intelligenza artificiale, così da garantire che questi agenti non umani rimangano sempre sotto il controllo umano.
La soluzione che propongono è evidentemente quella giusta, ma è proprio qui che entra in gioco la follia umana. La competizione è stata uno dei principali motori dell'evoluzione della nostra specie, oggi però due delle forme più aggressive di competizione rischiano di impedirci di intraprendere l'azione collettiva necessaria a salvaguardare il futuro dell'umanità. Si tratta della concorrenza commerciale (mirata al profitto) tra le aziende che sviluppano questi agenti e della competizione geopolitica (mirata al potere) tra Stati Uniti e Cina.
Per quanto riguarda il primo aspetto, basta confrontare questa situazione con lo sviluppo delle armi nucleari, controllato da un numero molto limitato di Stati — prima gli Stati Uniti con il Progetto Manhattan, poi l'Unione Sovietica, seguite da Gran Bretagna, Francia e Cina. Anche allora il mondo arrivò più volte a un passo dalla catastrofe — soprattutto durante la crisi dei missili di Cuba del 1962. E per quanto stringente fosse la logica della «distruzione reciproca assicurata», ci vollero venticinque anni per passare dagli orrori di Hiroshima e Nagasaki al Trattato di non proliferazione nucleare, entrato in vigore soltanto nel 1970. In seguito India, Pakistan, Israele e Corea del Nord hanno ignorato quel trattato, eppure da oltre ottant'anni nessuno ha più fatto ricorso deliberatamente alle armi nucleari in guerra. Il tabù di Hiroshima (a fatica) ha retto.
Ora, con l'intelligenza artificiale, è come se esistessero dieci diversi Progetti Manhattan, gestiti da aziende in feroce competizione tra di loro. A differenza di quanto accade con le armi nucleari, inoltre, non esiste una logica palese della «distruzione reciproca assicurata» a contenere l'aspra competizione geopolitica tra Stati Uniti e Cina. E qualunque forma assuma il primo grande disastro legato all'IA, le sue conseguenze non colpiranno tutti i Paesi, tutte le aziende e tutte le persone allo stesso modo.
Per questo è improbabile che un solo disastro basti a riportare noi esseri umani alla ragione e a convincerci ad agire insieme per controllare il potere sovrumano che stiamo creando. Mi costa molto dirlo, ma temo che di fronte a una Hiroshima dell'intelligenza artificiale potremmo pensare che ci è andata bene.
Nessun commento:
Posta un commento