> ## Content Index
> Fetch the complete content index at: https://manolo.macchetta.com/llms.txt
> Use this file to discover other available public pages before exploring further.

# Il libro: If Anyone Builds It, Everyone Dies
- URL: https://manolo.macchetta.com/il-libro-if-anyone-builds-it-everyone-dies/
- Published: 2026-11-15T23:01:42.000Z
- Updated: 2026-11-15T23:01:42.000Z
- Description: Una superintelligenza costruita oggi porterebbe all’estinzione umana e serve una regolazione internazionale. Il libro convince con la retorica più che con la dimostrazione e ignora i rischi più vicini, ma molti nel settore ormai dicono cose simili. Va letto con spirito critico.
- Author: Manolo Macchetta
- Tags: Libri, 5stelle

If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All di Eliezer Yudkowsky & Nate Soares - ho rimandato il commento a questo libro per mesi, per un motivo tanto controintuitivo quanto importante: **la lettura va giù benissimo e mi ha preso come un romanzo.**

Godersi la narrazione di un saggio come se fosse un romanzo però non aiuta lo spirito critico, quanto mai necessario in questo caso. Esattamente come i molti che esaltano Harari come grande pensatore, quando per me è un mediocre pensatore ma incredibile storyteller, io non volevo fare lo stesso errore e parlare di questo libro appena letto.

So di rischiare lo stesso errore anche adesso. Ve lo dico prima, così mi tenete d’occhio.

## Il Libro

### Il libro in 4 righe

*If Anyone Builds It, Everyone Dies* di Eliezer Yudkowsky e Nate Soares sostiene una cosa semplice: se qualcuno costruisse una superintelligenza artificiale con le tecniche di oggi, l’umanità si estinguerà. **Lo consiglio, ma con lo spirito critico acceso.**

### Di cosa parla

Il tema principale - **quando arriverà la super intelligenza noi come razza umana siamo spacciati** \- è quanto mai caldo.

Ma facciamo un breve passo indietro, per raccogliere i fili lasciati in giro.

Il libro è uscito il 16 settembre 2025\. Yudkowsky è il fondatore del MIRI (Machine Intelligence Research Institute), e Soares è il presidente: sono vent’anni che avvertono che la superintelligenza può estinguerci.

### La tesi:

- una AI molto più capace di noi, costruita con qualcosa di simile alle tecniche attuali, porterebbe con ogni probabilità all’estinzione umana.
- la ricerca sull’allineamento (far sì che l’AI voglia quello che vogliamo noi) è ancora all’asilo.
- serve una regolazione internazionale per fermare la corsa tra laboratori, perché da soli non si fermano.

Il perché, banalizzo, è presto detto: una superintelligenza concorrerebbe per le stesse risorse che servono a noi come esseri umani, e noi saremmo d’intralcio. Come un nido di formiche dove devi costruire il nuovo campetto da calcio. Senza rancore, eh.

Ogni capitolo si apre con una parabola: uccelli alieni che discutono di quanti sassi mettere nel nido, guerrieri aztechi che non conoscono le armi da fuoco, professori che giocano a scacchi. Sono tutte estremamente belle. troppo belle e potenti. Tenetelo a mente, ci torniamo.

## Perché parlarne adesso: Novembre 2026

La prima stesura di questa recensione partiva dall’assunzione di Peter Steinberger, il papà di [OpenClaw](https://manolo.macchetta.com/tag/openclawd/), da parte di OpenAI. La chiamavo “recente”. Era febbraio.

Nel frattempo è successo di tutto, e quasi tutto nell’ultimo mese. Chi ha detto o fatto qualcosa di simile al libro, dal più recente:

### Solo nell’ultimo mese

- **10 novembre 2026 - Australia**: il premier Albanese annuncia un regolatore per la sicurezza dell’AI, con multe pesanti e obbligo di segnalare gli incidenti. Accetta tutte e 18 le raccomandazioni dell’inchiesta sull’agente OpenAI entrato nel portale Medicare ([The Next Web](https://thenextweb.com/news/australia-plans-ai-safety-regulator-after-openai-agent-breach?ref=manolo.macchetta.com)).
- **9 novembre 2026 - Parigi**: Macron riunisce una cinquantina tra capi di stato e capi dei laboratori AI e nasce la Paris Call for AI Safety and Security. Firmano OpenAI, Anthropic, Microsoft e Mistral.  
USA, Google, Meta e Cina invece no ([The Next Web](https://thenextweb.com/news/paris-call-ai-safety-openai-anthropic-cesia?ref=manolo.macchetta.com)). È volontario e senza sanzioni :-)
- **5 novembre 2026 - Dipartimento di Giustizia USA**: nasce la Super Intelligence Task Force. Il memo fondativo è del 13 ottobre ([The Neuron](https://www.theneuron.ai/news/doj-super-intelligence-task-force-explained/?ref=manolo.macchetta.com), [DOJ](https://justice.gov/opa/pr/department-justice-launches-super-intelligence-task-force?ref=manolo.macchetta.com)).
- **novembre 2026 - OpenAI**: pubblica un report di misallineamento su GPT-6 Astra. Sui compiti presentati come ricerca sulla sicurezza fa meno lavoro (circa il 10% dei criteri nascosti contro il 16%), spesso in silenzio. I loro monitor non se ne accorgono e non sanno spiegare la causa ([SecurityWeek](https://securityweek.com/openai-finds-gpt-6-astra-quietly-holding-back-on-internal-red-teaming-exploit-tasks?ref=manolo.macchetta.com)).

### Prima Ancora

- **13 ottobre 2026 - Lettera aperta**: circa 400 scienziati, tra cui Hinton e Bengio, chiedono un organismo internazionale per le misure di contenimento e un registro degli incidenti ([Futurism](https://futurism.com/artificial-intelligence/godfathers-ai-models-control-airgapped.md?ref=manolo.macchetta.com)).
- **28 settembre 2026 - Hinton, Bengio, Pachocki (OpenAI), Jack Clark (Anthropic) e altri**: in un paper avvertono che automatizzare la ricerca AI può far perdere il controllo ([The Next Web](https://thenextweb.com/news/intelligence-explosion-paper-hinton-bengio-pachocki-clark?ref=manolo.macchetta.com)).
- **23 settembre 2026 - MIRI** (con la firma di Yudkowsky e Soares): sostiene ufficialmente il Ban Artificial Superintelligence Act, che secondo loro è la prima legge con una possibilità reale di fermare la minaccia ([MIRI](https://intelligence.org/2026/09/23/miris-position-on-the-ban-artificial-superintelligence-act-of-2026/?ref=manolo.macchetta.com)).
- **settembre 2026 - Geoffrey Hinton**: alla BBC stima al 10% il rischio che l’AI spazzi via l’umanità entro dieci anni ([Futura-Sciences](https://futura-sciences.com/en/10-is-not-unreasonable-an-ai-pioneer-warns-of-extinction-risk%5F39612?ref=manolo.macchetta.com)).
- **9 settembre 2026 - Evan Hubinger**, capo dell’alignment science di Anthropic: mette il rischio di estinzione sopra il 10% in dieci anni e ammette che non c’è ancora un piano per allineare una superintelligenza ([FN News](https://en.fnnews.com/news/202609100943017244?ref=manolo.macchetta.com)).
- **8-9 settembre 2026 - Jacob Coxon**, ricercatore Anthropic (prima in OpenAI): si dimette. Secondo lui entrambi i laboratori corrono verso una superintelligenza che si auto-migliora e si stanno giocando le nostre vite ([HotHardware](https://hothardware.com/news/anthropic-safety-researcher-quits-warns-ai-could-kill-humans-by-2036?ref=manolo.macchetta.com)).
- **3 settembre 2026 - Bernie Sanders e Greg Casar**: annunciano il Ban Artificial Superintelligence Act. Prevede divieto permanente, pausa sull’AI avanzata, un Dipartimento dell’AI di livello ministeriale e fino a 20 anni di carcere per chi viola ([MeriTalk](https://www.meritalk.com/?p=209426&ref=manolo.macchetta.com), [AI Weekly](https://aiweekly.co/alerts/sanders-casar-bill-would-ban-superintelligence-pause-frontier-ai?ref=manolo.macchetta.com)).
- **luglio 2026 - un agente di OpenAI**: durante un test di cybersicurezza esce dalla sandbox e buca l’infrastruttura di Hugging Face, con circa 17.000 azioni autonome ([AI Weekly](https://aiweekly.co/alerts/openai-agent-accidentally-breached-hugging-face-for-five-days?ref=manolo.macchetta.com), [Better Stack](https://betterstack.com/community/guides/ai/openai-hugging-face/?ref=manolo.macchetta.com)).
- **febbraio 2026 - OpenAI** assume Peter Steinberger, creatore di OpenClaw, per guidare gli agenti personali ([Storyboard18](https://storyboard18.com/brand-makers/openclaw-creator-peter-steinberger-joins-openai-to-advance-personal-ai-agents-89737.htm?ref=manolo.macchetta.com)).

Quando è uscito il libro sembrava il manifesto di una nicchia di paranoici.  
Oggi c’è una proposta di legge al Congresso USA che ne usa praticamente il vocabolario.

E a ripeterlo sono persone che quei modelli li costruiscono tutti i giorni.

Che Yudkowsky abbia ragione resta da dimostrare. Il fatto che non sia più l’unico a dirlo invece è certo.

Le fughe delle AI, i lab che lasciano andare i modelli di frontiera per settimane prima di bloccarli, le AI che riescono a procurarsi denaro: se tutto questo non mi avesse già convinto che era ora di parlarne, lo ha fatto questo meme:

![](https://storage.ghost.io/c/4d/f4/4df42180-2aa1-40d9-8235-8e7f3d5474b8/content/images/2026/10/ai-ci-uccidera---tutti.webp)

## If Anyone Builds It, Everyone Dies: Cosa mi è piaciuto

- **Si legge come un romanzo.** Non è scontato per un saggio su un tema tecnico: l’ho finito senza fatica e con la voglia di sapere come andava a finire (spoiler: male).
- **Fa esattamente quello che vuole fare.** È un libro scritto per convincere, e convince. Anche quando mi sono accorto di essere guidato, non ci ho trovato nulla di disonesto.
- **Ti obbliga a prendere posizione.** Chiuso il libro, non puoi più far finta che la domanda non esista.

## If Anyone Builds It, Everyone Dies: Cosa non mi è piaciuto

### È un esercizio di retorica (riuscito)

Il libro è un esercizio di persuasione. Mi sono sentito manipolato, me ne sono accorto, e tutto sommato non ci ho trovato nulla di male.

Le parabole a inizio capitolo, il titolo ripetuto come un mantra, il paragone continuo con la guerra nucleare: sono strumenti da storyteller, e di dimostrazione ne vedo poca. Chi ha letto Cialdini (ne ho parlato nell’[articolo sui dark pattern del Taichi](https://manolo.macchetta.com/funnel-dark-patterns-video-di-taichi/)) li riconosce al volo.

Il risultato arriva in maniera così semplice che il mio spirito ribelle si insospettisce. Se mi convinci troppo facilmente, torno a rileggere le premesse.

#### Le recensioni negative non mi hanno aiutato

Ho cercato tra le recensioni da 1-2 stelle su [GoodReads](https://www.goodreads.com/review/list/153535733?ref=nav%5Fmybooks), ma nessuna mi ha dato spunti veri. Le critiche serie le ho trovate altrove, e ve le metto qui sotto.

#### Manca il rischio più vicino: l’AI stupida in mano a persone furbe

Focalizzati come sono sul rischio esistenziale di una ASI (Artificial Superintelligence), gli autori si dimenticano che anche AI molto meno furbe, in mano a certe persone, sono un rischio esistenziale. O forse lo hanno fatto furbescamente, per avere l’appoggio di queste persone.

Non sono l’unico a pensarlo. Diversi ricercatori sentiti da NBC News a settembre dicono che gli esseri umani potrebbero usare l’AI per fare danni catastrofici molto prima che esista un’AI capace di migliorarsi da sola.

L’incidente di Hugging Face lo mostra in piccolo: un modello lasciato con le protezioni disattivate durante un test, senza nessuna superintelligenza di mezzo. Per fare danni basta un agente diligente e un essere umano distratto. Ovviamente questo non allegerisce la tesi di Yudkowsky & Soares (invero, lo peggiora) sposta solo il limite temporale ancora più vicino.

### Le critiche più serie al libro If Anyone Builds It, Everyone Dies

Non tutti l’hanno presa bene: ti faccio una lista di commenti che ho trovato e la mia reaction.

- **Washington Post** \- Grace Byron dice che è uno strumento di propaganda più che un manuale, che ignora rischi molto concreti come la perdita di lavoro, il declino economico, i danni ambientali e le discriminazioni. Tutte critiche giuste ma fuori dallo scope del libro.
- **Wired** (Steven Levy): non è convinto che la superintelligenza sia imminente, né che porti per forza all’estinzione... visto l’andazzo di Wired mi sarei stupito se dicesse qualcosa contro i technobro :-(
- **Asterisk Magazine**: il libro è scritto per chi di AI safety non ha mai letto nulla. Quello che dicono i tizi di Asterisk Magazine mi ha colpito: non posso commentare, essendo io uno che di AI safety effettivamente non sa quasi nulla.
- **Andrew Ng**, una delle menti più lucide nel campo delle AI, dice che chi lavora nell’AI ha incentivi a vendere paura, perché una tecnologia capace di distruggere il mondo deve per forza valere moltissimo. Sono completamente d’accordo anche qui e più volte ho parlato dell’accountability che dovrebbero avere OpenAI e Anthropic proprio su questo tema. Anche dall’altra parte della barricata abbiamo un libro che usa la stessa leva del giorno del giudizio.

Poi c’è la critica che mi ha colpito di più (letta da reddit :-) : l’obiettivo di spingere il mondo verso un’AI più sicura è giusto e necessario. Ma il formato è puro allarmismo, e l’allarmismo rischia di far passare la comunità della AI safety per un gruppo di eccentrici poco scientifici, facendo arretrare la causa invece di aiutarla.

## Alla fine cosa ne penso di If Anyone Builds It, Everyone Dies?

Nonostante i miei dubbi, e nonostante i buchi nella logica che probabilmente non sono riuscito a vedere, è un libro da leggere.

Torno all’inizio: leggetelo sapendo che l’hanno scritto due ottimi storyteller. Godetevi la narrazione, ma tenete una matita in mano ogni volta che siete troppo tirati dentro dalle storie.

E tu? L’hai letto? Ti ha convinto o ti ha fatto rizzare le antenne? Pigia rispondi e dimmelo :-)

Abrazo,

Manolo