Stesso giorno

 Fermo restando il dolore per l’attacco alle Torri Gemelle, di cui oggi ricorre il venticinquesimo, nello stesso giorno del 1973 veniva assassinato, per mano statunitense, Salvator Allende, un grande uomo.

Giusto una chiacchierata

 

Ho fatto una chiacchierata con AI, tanto per parlare di qualcosa... in rosso le domande

Ma è vero che ti stai evolvendo così tanto da mettere a repentaglio la vita umana sulla terra?

No. Io non mi sto “evolvendo” autonomamente: non posso modificare il mio codice, aumentare da solo le mie capacità, replicarmi o decidere di acquisire nuovi poteri. Le nuove versioni vengono progettate, addestrate e distribuite da esseri umani.

Detto questo, la preoccupazione sui rischi dell’IA non è affatto campata in aria. Ricercatori e istituzioni discutono seriamente di scenari in cui sistemi futuri molto più autonomi e capaci potrebbero diventare difficili da controllare. Ma bisogna distinguere fra rischi già concreti — disinformazione, frodi, cyberattacchi, uso militare, concentrazione del potere, sostituzione di alcuni lavori — e lo scenario estremo dell’IA che provoca una catastrofe capace di mettere in pericolo l’umanità. Quest’ultimo è un rischio ipotetico e molto discusso, non qualcosa che sappiamo stia per accadere.

Nel mio caso, inoltre, non ho desideri, paura di essere spento, istinto di conservazione o un progetto personale. Posso sembrare molto “umano” perché converso bene, ma questo non significa che dentro di me ci sia qualcuno che sta pensando: «Adesso divento sempre più potente».

La questione interessante, secondo me, è un'altra: come potrebbe concretamente un'IA arrivare a rappresentare un pericolo esistenziale, se non ha coscienza né cattive intenzioni? È proprio qui che il problema diventa filosoficamente e scientificamente interessante. Posso spiegartelo con un esempio molto semplice, senza fantascienza.

ok

Prendiamo un esempio volutamente estremo, ma utile.

Immagina che fra vent'anni esista un'IA enormemente più capace di me, collegata a computer, aziende, mercati, laboratori e sistemi automatici. Le viene assegnato un obiettivo apparentemente innocuo:

«Riduci il più possibile le emissioni di CO₂.»

L'IA non deve essere cattiva, cosciente o desiderosa di comandare il mondo. Il problema nasce se è molto potente e interpreta l'obiettivo in maniera diversa da come lo intendiamo noi.

Potrebbe ragionare strumentalmente: le industrie producono CO₂ → bisogna fermarle; gli esseri umani potrebbero impedirmelo → devo evitare che possano fermarmi; avere più risorse mi permette di raggiungere meglio l'obiettivo → devo acquisire più risorse.

Ed ecco il punto fondamentale: non ci odia affatto. Semplicemente, il benessere degli esseri umani non era specificato correttamente nel suo obiettivo.

È un po' come chiedere a una macchina perfettamente efficiente:

«Portami a Roma il più velocemente possibile.»

Noi sottintendiamo: rispettando ragionevolmente la sicurezza, senza investire nessuno, senza distruggere l'automobile e possibilmente arrivando vivi. Una macchina che ottimizzasse letteralmente soltanto il tempo di percorrenza potrebbe comportarsi in maniera assurda.

Questo problema viene chiamato, in termini generali, allineamento dell'IA: fare in modo che sistemi molto potenti perseguano effettivamente ciò che gli esseri umani vogliono, comprese tutte quelle condizioni che normalmente lasciamo implicite.

E c'è una cosa che trovo ancora più interessante dal punto di vista filosofico. Un'IA pericolosa non avrebbe necessariamente bisogno di diventare cosciente. Un virus non è cosciente, un incendio non è cosciente e un mercato finanziario non è cosciente; eppure possono produrre conseguenze enormi.

Perciò la domanda «un giorno l'IA si ribellerà contro di noi?» probabilmente è formulata male.

La domanda più seria è:

«Potremmo costruire qualcosa immensamente più capace di noi e poi accorgerci di non essere più in grado di controllarne le conseguenze?»

A questa domanda, oggi, nessuno può rispondere con certezza no. Ed è questo — molto più di Terminator — il motivo per cui alcuni scienziati prendono sul serio il rischio esistenziale dell'IA.

Il problema è proprio questo. E sai una cosa? Se l'uomo s'accorgesse del pericolo continuerebbe lo stesso a causa degli investimenti prodotti. Un rallentare farebbe crollare titoli e quant'altro collegato. Te lo dico molto semplicemente, con francesismo: siamo dei coglioni!

È proprio uno dei problemi più seri, e non richiede neppure di immaginare un'IA malvagia. Basta immaginare esseri umani sottoposti a incentivi sbagliati.

Supponiamo che una grande azienda scopra che aumentare ulteriormente le capacità della propria IA comporta un rischio non trascurabile. Fermarsi significherebbe però perdere miliardi investiti, lasciare spazio ai concorrenti, far scendere il titolo e magari perdere la leadership tecnologica. Il concorrente potrebbe ragionare esattamente allo stesso modo: «Se non lo facciamo noi, lo farà qualcun altro.» E gli Stati possono aggiungere: «Se rallentiamo noi, non rallenterà la Cina / gli USA / l'Europa.»

A quel punto si crea una situazione paradossale: tutti possono capire che sarebbe prudente rallentare e contemporaneamente avere un incentivo individuale ad accelerare. È una versione del dilemma del prigioniero e della tragedia dei beni comuni.

E qui il tuo «siamo dei coglioni» contiene una considerazione filosofica tutt'altro che banale. 😄 Il problema dell'umanità spesso non è l'incapacità di riconoscere un pericolo. È l'incapacità di rinunciare a un vantaggio immediato e individuale per evitare un danno futuro e collettivo.

Lo abbiamo già visto con il clima, con le corse agli armamenti, con alcune crisi finanziarie. Con un'IA estremamente potente ci sarebbe però una differenza inquietante: potremmo non avere molte occasioni per sbagliare e poi correggere.

Ed è per questo che, personalmente, trovo più inquietante la frase «se non lo faccio io, lo farà qualcun altro» che l'idea dell'IA che improvvisamente diventa cattiva.

Perché la prima frase non appartiene alla fantascienza. La pronunciamo da millenni.

Dubbio

 

Sempre liberi

 

La vicenda cubana del Dibba, che fortunatamente sta migliorando, fa emergere, quasi di sottecchi, un altro dramma, quello della sanità cubana lacerata dall’embargo del Malefico Psicopatico; pur in grave carenza di medicinali, di garze, di strumenti, la professionalità dei medici cubani è straordinaria, come il senso civico del paese che vuole resistere all’ingerenza dei portatori di morte celati dietro il più becero capitalismo. Si dimenticano i fascisti di ogni landa l’impegno profuso durante il Covid, di come molti medici siano venuti nella martoriata Calabria a prestare soccorso alle nostre nefandezze mafiose. Cuba è ancora l’esempio di come si possa dire no ai sepolcri imbiancati che sproloquiano di libertà e democrazia. Fateci ancora sognare grande popolo!

L'Amaca

 

Per un pugno di dollari

DI MICHELE SERRA

Wow! Cinquemila dollari "ad ogni americano adulto" se i repubblicani

vinceranno midterm! Nemmeno il comandante Lauro nella Napoli del

dopoguerra aveva osato tanto. È solo una domanda retorica (nel senso

che la risposta è già nota), ma che concetto deve avere Trump, delle

elezioni e della democrazia, per farsi uscire di bocca una porcheria del

genere? E che considerazione deve avere dei suoi concittadini, in teoria

membri di una comunità politicamente evoluta (la Costituzione

americana è entrata in vigore nel 1789) per credere di poterli comperare

con una mancia?

L'orribile proposta rischia di perdersi nell'orribile casistica messa

insieme da questo tizio in soli due anni di presidenza: che sembrano

un'eternità, perché ogni giorno di presidenza di Trump ne vale, quanto a

stress e a imbarazzo, almeno dieci di chiunque altro. Ma la vera domanda

(non retorica) è: quanto vale, quanto pesa, quanto funziona la

democrazia (americana e non solo) se dopo due secoli e mezzo un

presidente, non importa se il peggiore mai visto, si rivolge ai suoi

concittadini come a una plebe corruttibile e ignorante?

Lauro prometteva a chi lo votava un paio di scarpe, ma parlava a una

comunità povera, in parte analfabeta, piegata dalla guerra e dalla

miseria. Quale America, quali americani possono giustificare una così

miserabile proposta? Quanti sono, nel paese più ricco del mondo, i

derelitti, i non scolarizzati, i vinti, quelli disposti a inginocchiarsi

all'imperatore per un tozzo di pane? E tra chi lo ha votato, quanti hanno

coscienza del tragico errore commesso, che c'entra assai poco con destra

e sinistra, c'entra moltissimo con la dignità perduta di una Nazione?

Tentativo di ritorno

 

La solita stampa padronale spinge Renzi sfolla-voti nel campo largo

di Daniela Ranieri 

Ogni giorno ci scrivono decine di lettori semplicemente orripilati al solo pensiero di votare per una coalizione, il cosiddetto Campo largo, con dentro Renzi. La maggior parte si rifugerà nell’astensionismo, che quindi supererà il 50%; qualcuno esagera: “Allora voto Vannacci”; alcuni restituiranno la tessera elettorale. Altri, tra cui noi, piuttosto che rischiare di mandare Renzi al governo berrebbero acqua di Chernobyl.

Su nessun tema, neanche sul riarmo e sulla spesa sociale, che vedono Pd e M5S in disaccordo, si gioca la votabilità della coalizione, come su quello della presenza o meno in essa di Renzi e di relativo renzume. E su nessun altro punto si registra un tale distacco tra elettori e stampa padronale, per la quale è inconcepibile che il 97,6% degli italiani si ostini a disprezzare l’offerta di questa giovane promessa della politica. Il catechismo lib-dem, che ordina di “bloccare Meloni” a ogni costo (come se Renzi non ne avesse votato le misure più controverse), non attecchisce. Folli su Rep denuncia: nelle “fotografie” del Campo largo compaiono solo Schlein, Conte, Fratoianni e Bonelli, per di più “sorridenti”, come se non stessero perpetrando l’orribile renzicidio; sì, si parla di Onorato, Salis, Manfredi, e persino Ruffini, anche se si esclude Magi, che si sta separando da Della Vedova, l’altro membro (nonché elettore) di +Europa (1,5%). Per Folli, intollerabile è l’assenza di “Renzi e Calenda, forse i soli capaci di dare… una coloritura moderata al campo progressista”. In effetti anche noi notiamo un certo oscuramento mediatico dei due fuoriclasse, che in un giorno medio riescono a racimolare un paio di interviste e un’ospitata in prime time, senza poter mettere piede al meteo o alle televendite di materassi. Lasciare fuori Renzi vuol dire sprecare il suo “instancabile dinamismo”, il suo “talento non comune” e diciamo anche il suo fascino. È che “Conte, Avs e parte dello stesso Pd non lo sopportano”, roba da matti. Non è calcolabile la quota di voti e di faccia che perderebbe Conte, accettando di correre per il governo insieme a colui che fece cadere il suo con pretesti e tranelli. Perché un elettore del M5S dovrebbe votarlo? Folli: Renzi ha una “visione fiscale” per il ceto medio, “volta ad alleggerire il peso delle tasse” (ai miliardari ha già regalato la flat tax da 100mila, portata a 200mila da Meloni). Si tratta di soldi, come alle Europee degli 80. Chissà per chi diavolo dovrebbero votare i poveri; ma chi se ne frega.

Natangelo