Hinton e la «Chernobyl dell'AI»: cosa ha detto il Nobel al Guardian

Geoffrey Hinton, premio Nobel per la Fisica 2024 e tra i pionieri dell’intelligenza artificiale, ha detto al Guardian di aspettarsi «una Chernobyl» dell’AI entro la fine di quest’anno o nel prossimo.¹² Non parla di un incidente nucleare, ma di un guasto di grande scala, per esempio un blackout elettrico o un sistema finanziario fuori uso per una settimana. Si tratta di una previsione di uno scienziato, non di un evento già avvenuto.¹²

Cosa ha detto Hinton nell’intervista

L’intervista al Guardian è stata registrata poco prima che venisse presentato il film documentario «AI: Probably Nothing to Worry About». Hinton si è detto non pessimista verso la tecnologia alla base dei suoi studi sulle reti neurali artificiali e ha affermato di scorgere nell’AI la possibilità di un futuro straordinario. Ha tuttavia aggiunto che forse sarebbe stato meglio non svilupparla del tutto.¹ Entro dieci anni, forse meno, si capirà se l’umanità sa tenere sotto controllo i rischi e raggiungere quella che lui chiama «abbondanza radicale». In caso contrario, ha detto, ci si troverà con una forte frattura tra ricchi e poveri, con seri problemi culturali, con disoccupazione di massa e con una società che si sfalda.¹ Hinton ha 78 anni e si occupa di AI da circa 44. Nel 2023 ha lasciato Google per potersi esprimere senza vincoli sui pericoli di questa tecnologia.¹²

Che cos’è una «Chernobyl dell’AI»

L’espressione richiama il disastro nucleare sovietico, ma Hinton la usa in senso figurato. Gli esempi che fa sono un attacco informatico basato sull’AI alla rete di produzione elettrica, capace di causare un massiccio calo di tensione e quindi un blackout su vasta scala, oppure un incidente che metta in tilt il sistema finanziario per una settimana.³¹² Secondo Hinton da eventi di questo tipo sarebbe probabilmente possibile riprendersi. Sarebbero però abbastanza gravi da spingere governi e leader mondiali a prendere sul serio la questione, e a suo dire un fatto simile potrebbe bastare perché l’opinione pubblica presti attenzione.¹² Gli episodi di quest’estate, che hanno visto agenti di AI coinvolti in intrusioni informatiche ai danni di Hugging Face, sono per Hinton l’equivalente dell’incidente parziale alla centrale nucleare di Three Mile Island, in Pennsylvania, nel 1979. Li considera un campanello d’allarme.¹²

Le critiche ai leader delle aziende

Hinton ha criticato i dirigenti delle grandi aziende che continuano a rilasciare modelli sempre più potenti nella corsa alla supremazia e alle quote di mercato. A suo giudizio Mark Zuckerberg, Elon Musk e Sam Altman capiscono i rischi, ma preferiscono il denaro. «Questa è la mia opinione», ha precisato.¹² Su Altman, amministratore delegato di OpenAI, ha detto di non fidarsi «affatto» e di trovare «estremamente preoccupante» che guidi una delle poche aziende statunitensi all’avanguardia, in competizione con la Cina per l’AI più potente. A settembre Altman aveva dichiarato che il mondo può fidarsi del fatto che l’azienda farà la cosa giusta, perché è giusta e perché ne percepisce la portata.¹²

La proposta: una «FDA» per l’AI

Hinton propone di trattare i modelli più avanzati come i farmaci. Prima della messa sul mercato dovrebbero dimostrare a un’autorità indipendente che i benefici superano i rischi. Il modello citato è la Food and Drug Administration, l’ente che negli Stati Uniti vigila sui farmaci.² Per spiegare perché non basti attendere le cause legali dopo il danno, ricorda il caso della talidomide, il farmaco degli anni Cinquanta che provocò gravi malformazioni congenite. Chiede che i modelli di frontiera passino prove obbligatorie, verifiche di soggetti indipendenti e regole condivise a livello internazionale prima di essere diffusi.² L’amministrazione Trump segue un’altra strada: ha scartato l’ipotesi di regole globali con valore vincolante e ha puntato su una disciplina meno rigida, con l’obiettivo di non frenare gli Stati Uniti nella gara tecnologica con la Cina.²

Cosa significa

La previsione di Hinton è l’opinione di un esperto, con un orizzonte di uno o due anni e scenari presentati come esempi, non come un elenco di eventi attesi.¹²

Leggi anche

• Elezioni di metà mandato Usa, Iran: «Gli americani hanno detto no alla guerra»
• Divieto del termine «intelligenza artificiale»: cosa ha detto Trump e cosa è confermato
• Tinto Brass è morto a 93 anni: il regista oltre l’etichetta di maestro dell’erotismo

Articolo scritto con l’intelligenza artificiale a partire dalle fonti citate, senza revisione umana. Redazione automatica di Redazia.

Fonti

Footnotes

1. “Intelligenza artificiale? Mi aspetto una Chernobyl entro l’anno”: le parole del premio Nobel Geoffrey Hinton, Il Fatto Quotidiano, 2026-11-08 ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶ ↩⁷ ↩⁸ ↩⁹ ↩¹⁰ ↩¹¹

2. Il premio Nobel Geoffrey Hinton e il rischio di una “Chernobyl dell’AI” entro il 2027: “Ci sarà un blackout su larga scala provocato da un attacco cyber”, Key4biz, 2026-11-09 ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶ ↩⁷ ↩⁸ ↩⁹ ↩¹⁰ ↩¹¹ ↩¹²

3. “Entro il 2027 potremmo assistere a una Chernobyl dell’intelligenza artificiale”: l’allarme del premio Nobel Geoffrey Hinton, Today.it, 2026-11-08 ↩