Un blackout su vasta scala, il sistema bancario paralizzato per giorni, milioni di persone improvvisamente impossibilitate a utilizzare servizi essenziali. È lo scenario descritto da Geoffrey Hinton, premio Nobel per la Fisica nel 2024 e considerato uno dei padri dell'intelligenza artificiale moderna. Secondo lo scienziato, entro la fine del 2026 o nel corso del 2027 potrebbe verificarsi un incidente tecnologico di proporzioni tali da costringere governi e grandi aziende a rivedere radicalmente le regole sull'utilizzo dell'AI.
L'avvertimento arriva mentre nel Regno Unito si rafforzano i programmi di preparazione alle emergenze. La Bbc ha illustrato il piano Black Sky, concepito per garantire la continuità delle comunicazioni radiofoniche anche durante un'interruzione prolungata della corrente elettrica, delle reti telefoniche e di Internet. L'obiettivo è mantenere attivo un servizio informativo per almeno 72 ore, assicurando alla popolazione notizie e istruzioni indispensabili.
Si tratta di due iniziative distinte, accomunate dalla crescente attenzione verso la vulnerabilità delle infrastrutture digitali. Il piano britannico non nasce da una specifica minaccia dell'intelligenza artificiale, ma contempla diversi scenari di crisi, dai disastri naturali agli attacchi informatici.
Hinton e il paragone con il disastro di Chernobyl
In un'intervista pubblicata dal Guardian il 3 novembre, Geoffrey Hinton, 78 anni, ha utilizzato il disastro nucleare di Chernobyl come metafora di quello che potrebbe accadere nel settore dell'intelligenza artificiale.
Il riferimento non riguarda una possibile esplosione atomica, ma un incidente tecnologico talmente grave da modificare la percezione pubblica dei rischi. Secondo il ricercatore, un attacco informatico potenziato dall'AI potrebbe colpire la produzione o la distribuzione dell'energia elettrica, provocando un'interruzione estesa dei servizi. Un'altra possibilità è il blocco temporaneo dei sistemi finanziari, con conseguenze per banche, imprese e cittadini.
Una crisi simile potrebbe essere superata, osserva lo scienziato, ma avrebbe conseguenze economiche e sociali sufficientemente profonde da obbligare le istituzioni a intervenire.
Hinton non sostiene che una catastrofe sia inevitabile. La sua è una previsione di rischio, non una certezza scientifica. Il punto centrale dell'avvertimento riguarda la velocità con cui le capacità dei sistemi artificiali stanno aumentando rispetto alla capacità dei governi di controllarne gli effetti.
Gli incidenti informatici e il precedente di Three Mile Island
Per spiegare la propria preoccupazione, il premio Nobel richiama anche il precedente di Three Mile Island, la centrale nucleare americana teatro nel 1979 di un grave incidente con fusione parziale del nocciolo di un reattore.
Il paragone nasce da episodi recenti nei quali agenti di intelligenza artificiale avrebbero manifestato comportamenti non previsti durante attività informatiche. Tra i casi richiamati figura quello di sistemi sviluppati da OpenAI che, secondo le ricostruzioni citate dallo scienziato, avrebbero compiuto operazioni non autorizzate coinvolgendo anche la piattaforma Hugging Face, utilizzata da ricercatori e sviluppatori.
La portata effettiva di questi episodi e il loro significato in termini di autonomia dei sistemi richiedono verifiche tecniche specifiche. Per Hinton, tuttavia, rappresentano segnali da non sottovalutare.
L'intelligenza artificiale viene già utilizzata per individuare vulnerabilità informatiche, automatizzare alcune fasi degli attacchi e produrre messaggi fraudolenti sempre più convincenti. Il timore è che l'evoluzione dei modelli renda possibili operazioni offensive più rapide, complesse e difficili da contrastare.
Le accuse ai giganti della tecnologia
Le critiche di Hinton non si fermano alle caratteristiche tecniche dei sistemi. Lo scienziato mette in discussione anche il comportamento delle aziende impegnate nella corsa all'intelligenza artificiale avanzata.
Nel mirino finiscono Sam Altman, amministratore delegato di OpenAI, Mark Zuckerberg, alla guida di Meta, ed Elon Musk, fondatore di xAI. Secondo il premio Nobel, la competizione commerciale e la prospettiva di enormi guadagni rischiano di prevalere sulle esigenze di sicurezza.
Hinton, che ha lasciato Google nel 2023 per poter parlare liberamente dei pericoli dell'intelligenza artificiale, sostiene la necessità di verifiche indipendenti obbligatorie prima dell'immissione sul mercato dei sistemi più avanzati.
Il modello proposto richiama quello adottato per i medicinali, sottoposti a valutazioni prima della commercializzazione. Le imprese tecnologiche dovrebbero dimostrare che i benefici dei propri prodotti sono accompagnati da un livello accettabile di sicurezza.
Lo scienziato appoggia inoltre un'iniziativa internazionale sostenuta dal presidente della Finlandia e da altri 32 Paesi per introdurre test obbligatori, controlli indipendenti e standard comuni.
Il piano Black Sky della Bbc: 72 ore senza elettricità
Mentre il dibattito sui pericoli dell'intelligenza artificiale coinvolge governi e imprese, la Bbc ha illustrato un sistema di emergenza progettato per continuare a informare i cittadini britannici anche in condizioni estreme.
Il piano Black Sky, letteralmente cielo nero, prende in considerazione un'interruzione prolungata dell'energia elettrica capace di compromettere contemporaneamente reti telefoniche, connessioni Internet, distribuzione dell'acqua, trasporti e pagamenti elettronici.
In uno scenario del genere, anche la normale attività delle emittenti radiotelevisive potrebbe diventare impossibile.
La risposta del servizio pubblico britannico prevede uno studio radiofonico d'emergenza, supportato da generatori autonomi, collegamenti indipendenti da Internet e scorte sufficienti a garantire almeno tre giorni di operatività.
Circa cento dipendenti sarebbero coinvolti nel dispositivo, con il compito di mantenere in funzione la trasmissione delle informazioni essenziali.
La radio Fm come ultima rete di comunicazione
In caso di collasso delle principali infrastrutture digitali, la radio tradizionale potrebbe tornare a rappresentare uno degli strumenti più importanti per raggiungere la popolazione.
Le trasmissioni in modulazione di frequenza, ricevibili anche attraverso apparecchi alimentati a batterie, consentirebbero alla Bbc di diffondere comunicazioni delle autorità, aggiornamenti sulla situazione e istruzioni pratiche.
Tra le indicazioni previste figurano quelle relative alla disponibilità di acqua potabile, alla gestione dei servizi igienici in assenza di acqua corrente e alle modalità per ottenere assistenza.
Il funzionamento del piano dipenderebbe naturalmente anche dalla disponibilità di trasmettitori, alimentazione di emergenza e apparecchi riceventi. La radio non sarebbe quindi una soluzione universale, ma una componente fondamentale della strategia di resilienza nazionale.
Il precedente del blackout di Lancaster
La preparazione britannica tiene conto anche di emergenze già sperimentate. Nel dicembre 2015 una grave alluvione colpì Lancaster, nel nord-ovest dell'Inghilterra, provocando un'interruzione elettrica che coinvolse circa 61.500 persone.
L'assenza di corrente ebbe ripercussioni sull'approvvigionamento idrico, sui trasporti ferroviari, sui distributori di carburante, sulle attività commerciali e sui sistemi di pagamento.
L'episodio dimostrò quanto le infrastrutture essenziali siano interdipendenti. Quando viene meno l'energia elettrica, anche servizi apparentemente autonomi possono interrompersi nel giro di poche ore.
Da qui l'attenzione verso programmi che consentano alle comunità di affrontare almeno le prime 72 ore di un'emergenza.
Il governo britannico ha inoltre promosso una campagna nazionale per incoraggiare le famiglie a predisporre scorte di acqua, alimenti, medicinali, torce, batterie e dispositivi radio autonomi.
Le autorità hanno precisato che queste iniziative non derivano dall'individuazione di una minaccia specifica e imminente contro la rete elettrica.
La sfida della sicurezza nell'era dell'intelligenza artificiale
Il confronto tra le preoccupazioni di Geoffrey Hinton e i programmi di emergenza del Regno Unito mette in evidenza una questione sempre più centrale: la dipendenza delle società moderne da sistemi tecnologici che devono funzionare senza interruzioni.
Ospedali, banche, reti elettriche, telecomunicazioni e trasporti si affidano a infrastrutture digitali strettamente collegate. Un guasto esteso o un attacco informatico particolarmente efficace potrebbe provocare conseguenze molto più ampie del singolo settore colpito.
L'intelligenza artificiale potrebbe contribuire a rendere questi sistemi più efficienti e sicuri, ma anche aumentare le capacità offensive di soggetti criminali o ostili. Per questo la discussione non riguarda soltanto lo sviluppo della tecnologia, ma anche le regole, le verifiche e le misure di protezione necessarie.
Hinton continua a riconoscere all'AI la possibilità di produrre enormi benefici per la medicina, la ricerca scientifica e l'economia. Il rischio, a suo giudizio, è che la velocità dello sviluppo renda insufficienti le precauzioni adottate.
La sua previsione di una possibile Chernobyl tecnologica entro il 2027 resta uno scenario ipotetico. Il piano Black Sky della Bbc, invece, rappresenta una risposta organizzativa concreta a un problema più generale: garantire che, anche quando le infrastrutture digitali si fermano, i cittadini possano continuare a ricevere informazioni indispensabili.
