Circola molto una clip in cui l’amministratore delegato di Anthropic, Dario Amodei, interviene davanti al Consiglio di Sicurezza dell’ONU. Prima di usarla l’abbiamo verificata sugli atti dell’ONU. Le dichiarazioni sono autentiche.
Questo articolo spiega che cosa ha discusso il Consiglio, che cosa ha proposto Amodei e il contesto di cui un lettore attento ha bisogno: il suo interesse commerciale, i suoi precedenti sulle tempistiche e i suoi precedenti sulla supervisione. Si chiude con ciò che le sue proposte significano per qualsiasi organizzazione che si affida all’IA. La nostra opinione è indicata come “La visione di Monarchy”.
01Che cosa ha chiesto al Consiglio di Sicurezza il CEO di un laboratorio di frontiera
Il 23 settembre 2026, nella sua 10228ª seduta, il Consiglio di Sicurezza dell’ONU ha affrontato il tema "Artificial intelligence and international security" [«Intelligenza artificiale e sicurezza internazionale»] sotto la presidenza francese. Sono intervenuti Yoshua Bengio, copresidente dell’Independent International Scientific Panel on AI dell’ONU, e gli amministratori delegati di OpenAI, Anthropic e Hugging Face 12. Circola una clip di Dario Amodei di Anthropic, collegato in video. L’abbiamo verificata sugli atti dell’ONU prima di usarla. La trascrizione dell’ONU, il video di UN Web TV del suo intervento di 5 minuti e la trasmissione di C-SPAN confermano tutti le dichiarazioni 13. La trascrizione dell’ONU è generata automaticamente e non è un atto ufficiale, quindi citiamo con parsimonia.
Amodei ha detto al Consiglio che quattro anni fa l’IA "could barely write a line of code" [«riusciva a malapena a scrivere una riga di codice»]; che oggi "writes most of the code at Anthropic" [«scrive la maggior parte del codice in Anthropic»]; e che entro "one or two years, maybe less" [«uno o due anni, forse meno»] potrebbe raggiungere ciò che lui chiama "a country of geniuses in the data center" [«un Paese di geni nel data center»] 1. Ha indicato due rischi: l’uso improprio, per esempio da parte di bioterroristi, e la perdita di controllo. L’ha definita "the most important global security issue facing the world today" [«la questione di sicurezza globale più importante che il mondo affronta oggi»] e ha detto che Anthropic "will slow down as much as necessary" [«rallenterà quanto necessario»] 1. Ha avanzato tre proposte 1:
- accordi circoscritti che ogni membro possa sostenere, come il divieto di usare l’IA per produrre armi biologiche;
- sistemi di valutazione e verifica che tengano il passo, perché gli Stati possano vedere le capacità di frontiera e verificare gli impegni reciproci;
- standard globali comuni per i test sui rischi di perdita di controllo e di uso improprio, oltre a un sistema di notifica degli incidenti di IA rilevanti per la sicurezza globale.
Il contesto su chi parla
Amodei guida un’azienda con un interesse commerciale diretto nell’IA, e le sue affermazioni sulle capacità sono sue. L’espressione "country of geniuses in a datacenter" [«Paese di geni in un datacenter»] viene dal suo saggio dell’ottobre 2024 "Machines of Loving Grace" 4. Le sue tempistiche a volte hanno anticipato i fatti. Nel marzo 2025 disse che entro tre-sei mesi l’IA avrebbe scritto il 90 percento del codice 5. Sei mesi dopo, la copertura indipendente non trovava segni di ciò nell’insieme dell’industria del software 6. In seguito ha detto che il dato vale "within Anthropic and within a number of companies that we work with" [«all’interno di Anthropic e di diverse aziende con cui lavoriamo»] 7.
I suoi precedenti sulla supervisione sono concreti e verificabili. In un saggio del settembre 2026 ha chiesto al settore di "pace the frontier" [«regolare il ritmo della frontiera»] 8. A ottobre Anthropic ha accolto sei membri dello staff di METR come valutatori integrati, con un accesso agli strumenti interni più o meno pari a quello dei propri team di rischio. METR può pubblicare i propri risultati, e Anthropic non può impedirne la pubblicazione ma può chiedere omissioni in categorie predefinite 9. La Responsible Scaling Policy di Anthropic, ora alla versione 3.4 (in vigore dall’8 luglio 2026), lega le protezioni agli "AI Safety Levels" [«livelli di sicurezza dell’IA»]. L’azienda afferma che i livelli più alti restano "largely undefined" [«in gran parte non definiti»] 10.
Non è la prima volta che il Consiglio se ne occupa. La sua prima riunione formale sull’IA si è tenuta il 18 luglio 2023 11. Il presidente della Repubblica di Corea ha presieduto un dibattito aperto nel settembre 2025 12. Nell’agosto 2025 l’Assemblea generale ha istituito lo Scientific Panel di 40 membri e un Global Dialogue on AI Governance annuale. Entrambi sono limitati all’ambito non militare 13.
Adattato da “Things to Know: What the July 2026 Hugging Face Incident Teaches About AI Checking AI”, un approfondimento Monarchy (ottobre 2026). Le fonti sono elencate qui sotto; le citazioni sono riportate nella lingua originale, con la traduzione tra parentesi quadre.
Fonti
- United Nations, Security Council 10228th meeting, "Artificial intelligence and international security," 23 September 2026, transcript (automatic speech recognition; not an official record). https://transcripts.un.org/en/sc/10228
- UN Meetings Coverage SC/16462, "Ongoing Efforts to Create Powerful AI a 'Race Where Everyone Loses', UN Expert Tells Security Council…," 23 September 2026. https://press.un.org/en/2026/sc16462.doc.htm ; UN Audiovisual Library: https://media.un.org/avlibrary/en/asset/d363/d3637151
- UN Web TV, "Dario Amodei (CEO of Anthropic) on Artificial intelligence and international security," 23 September 2026. https://webtv.un.org/en/asset/k1v/k1vmsgetgo ; C-SPAN, "Artificial Intelligence CEOs Brief the U.N. Security Council on the Risks of AI." https://www.c-span.org/program/united-nations/artificial-intelligence-ceos-brief-the-un-security-council-on-the-risks-of-ai/685634
- Dario Amodei, "Machines of Loving Grace," October 2024. https://www.darioamodei.com/essay/machines-of-loving-grace
- Council on Foreign Relations, "CEO Speaker Series With Dario Amodei of Anthropic," 10 March 2025 (transcript). https://www.cfr.org/event/ceo-speaker-series-dario-amodei-anthropic
- Futurism, "Exactly Six Months Ago, the CEO of Anthropic Said That in Six Months AI Would Be Writing 90 Percent of Code," 10 September 2025. https://futurism.com/six-months-anthropic-coding
- Business Insider, "Anthropic CEO says 90% of code written by teams at the company is done by AI…" (Dreamforce conversation with Marc Benioff), October 2025. https://www.businessinsider.com/most-anthropic-teams-coding-with-claude-ai-not-replacing-humans-2025-10
- Dario Amodei, "We Must Pace the Frontier," September 2026. https://darioamodei.com/post/we-must-pace-the-frontier
- Anthropic, "An update on independent evaluators," 15 October 2026 (updated 16 October). https://www.anthropic.com/news/an-update-on-independent-evaluators
- Anthropic, "Responsible Scaling Policy" (current version 3.4, effective 8 July 2026). https://www.anthropic.com/responsible-scaling-policy ; "Responsible Scaling Policy Version 3.0," 24 February 2026. https://www.anthropic.com/news/responsible-scaling-policy-v3
- UN Meetings Coverage SC/15359, Security Council debate on artificial intelligence, 18 July 2023. https://press.un.org/en/2023/sc15359.doc.htm
- UN Audiovisual Library, Security Council 10005th meeting, "Artificial intelligence and international peace and security," 24 September 2025. https://media.un.org/avlibrary/en/asset/d346/d3460317
- UN General Assembly, resolution A/RES/79/325, adopted 26 August 2025. https://www.un.org/pga/wp-content/uploads/sites/110/2025/12/A_RES_79_325-EN.pdf
