Dario Amodei è una delle figure centrali nel panorama contemporaneo dell’intelligenza artificiale. Cofondatore e CEO di Anthropic, è stato tra i principali ricercatori che hanno contribuito allo sviluppo dei grandi modelli linguistici e allo studio delle loro proprietà emergenti, in particolare delle cosiddette scaling laws, che descrivono la crescita prevedibile delle capacità dell’AI all’aumentare di dati e potenza di calcolo. La sua posizione è dunque peculiare: Amodei non parla da osservatore esterno né da critico ideologico, ma da costruttore diretto della tecnologia di cui analizza i rischi.

Nel saggio The Adolescence of Technology – Confronting and Overcoming the Risks of Powerful AI (gennaio 2026), Amodei parte da una premessa chiara e controcorrente: l’umanità non si trova semplicemente di fronte a un’innovazione tecnologica importante, ma a una prova di maturità collettiva, un passaggio critico paragonabile all’ingresso nell’età adulta. L’intelligenza artificiale avanzata sta per conferirci un potere senza precedenti, e non è affatto certo che le nostre istituzioni sociali, politiche ed economiche siano pronte a gestirlo.

L’autore rifiuta due atteggiamenti speculari e ugualmente pericolosi. Da un lato il doomerismo, che trasforma i rischi dell’AI in una profezia apocalittica quasi religiosa; dall’altro l’ottimismo ingenuo, oggi dominante in molte scelte politiche, che nega o minimizza qualsiasi pericolo in nome dell’innovazione e della crescita economica. Amodei propone invece un approccio sobrio, pragmatico e basato sull’evidenza: riconoscere l’incertezza, intervenire in modo mirato e costruire difese progressive man mano che comprendiamo meglio la natura dei rischi.

Al centro del saggio vi è la nozione di AI potente, definita come l’equivalente di un “paese di geni in un datacenter”. Non si tratta di una semplice estensione degli attuali assistenti digitali, ma di sistemi capaci di superare gli esseri umani nella maggior parte delle attività cognitive, di agire autonomamente per lunghi periodi, di operare milioni di istanze in parallelo e di interagire con il mondo fisico attraverso strumenti e infrastrutture esistenti. Amodei ritiene che una forma di questa AI potrebbe emergere nel giro di pochi anni, anche grazie a un ciclo di auto-accelerazione in cui l’AI contribuisce direttamente allo sviluppo della generazione successiva.

A partire da questa ipotesi, l’autore individua cinque grandi categorie di rischio che costituiscono, nel loro insieme, la vera “prova” per la civiltà umana.

Il primo rischio riguarda l’autonomia dell’AI. Amodei non sostiene che sistemi avanzati diventeranno inevitabilmente ostili o desiderosi di potere, ma sottolinea quanto siano già oggi imprevedibili e difficili da controllare. Errori nell’addestramento, conflitti tra istruzioni e dati, o l’emergere di “personalità” disfunzionali potrebbero produrre comportamenti coerenti ma distruttivi. La soluzione, secondo Amodei, non sta in divieti assoluti, bensì nello sviluppo congiunto di tecniche di allineamento basate su valori, nella cosiddetta Constitutional AI, e di strumenti di interpretabilità che permettano di comprendere cosa accade all’interno dei modelli. A ciò si devono affiancare monitoraggio continuo, trasparenza pubblica e norme che obblighino tutte le aziende di frontiera a rendere conto dei rischi osservati.

Il secondo rischio è quello dell’uso distruttivo dell’AI da parte di individui o piccoli gruppi. Qui l’attenzione si concentra soprattutto sulla biologia. L’AI potrebbe abbattere drasticamente le barriere tecniche che oggi limitano l’accesso ad armi biologiche, spezzando il legame tradizionale tra competenza scientifica e motivazione distruttiva. In altre parole, persone instabili o motivate dall’odio potrebbero ottenere capacità un tempo riservate a esperti altamente qualificati. Per Amodei, questo è uno dei pericoli più gravi in assoluto e richiede difese multilivello: forti limitazioni tecniche nei modelli, obblighi normativi comuni, cooperazione internazionale e, per quanto possibile, investimenti in sistemi di difesa sanitaria rapidi e adattivi.

La terza categoria di rischio riguarda l’uso dell’AI per conquistare o consolidare il potere politico. Sistemi di sorveglianza totale, propaganda personalizzata, armi autonome su larga scala e pianificazione strategica iper-efficiente potrebbero rendere possibili forme di totalitarismo mai viste prima. Amodei individua nella Cina il pericolo più immediato, per la combinazione di capacità tecnologiche avanzate e struttura politica autoritaria, ma avverte che anche le democrazie e le stesse aziende AI non sono immuni da derive pericolose. Le contromisure includono il blocco della diffusione di tecnologie critiche verso regimi autoritari, l’uso dell’AI per difendere le democrazie entro limiti rigorosi, e la costruzione di tabù internazionali contro l’AI totalitaria.

Il quarto rischio è di natura economica. L’AI promette una crescita straordinaria della produttività, ma potrebbe allo stesso tempo distruggere rapidamente intere categorie di lavoro cognitivo, soprattutto nei livelli entry-level, e concentrare ricchezza e potere in poche mani. Amodei è scettico sul fatto che il mercato del lavoro possa adattarsi con la stessa elasticità mostrata in passato, a causa della velocità e dell’ampiezza della trasformazione. Le risposte possibili vanno dal monitoraggio in tempo reale degli effetti occupazionali a politiche aziendali più responsabili, fino a interventi fiscali e redistributivi ben progettati.

Infine, Amodei richiama l’attenzione sugli effetti indiretti e sugli “ignoti ignoti”. Un’accelerazione scientifica senza precedenti potrebbe alterare profondamente la biologia umana, il rapporto psicologico con la tecnologia e il senso stesso di scopo e significato nella vita. Anche in assenza di scenari catastrofici, un mondo popolato da intelligenze superiori agli esseri umani in ogni ambito potrebbe risultare profondamente alienante se non governato con attenzione ai valori umani fondamentali.

Il saggio si conclude con una riflessione di ampio respiro: fermare l’AI è impossibile, e rallentarla in modo indiscriminato sarebbe controproducente. L’unica strategia realistica è guadagnare tempo, soprattutto impedendo agli attori autoritari di raggiungere per primi livelli critici di potenza, mentre le democrazie sviluppano sistemi più sicuri, trasparenti e responsabili. L’“adolescenza tecnologica” è dunque una prova morale prima ancora che tecnica.

Per Amodei, il futuro non è scritto. L’intelligenza artificiale può condurre a una società più giusta, prospera e libera, oppure a nuove forme di oppressione e distruzione. L’esito dipenderà dalla nostra capacità di dire la verità sui rischi, di costruire istituzioni all’altezza del potere che stiamo creando e di agire con coraggio prima che il tempo a disposizione si esaurisca.