Circula mucho un vídeo del consejero delegado de Anthropic, Dario Amodei, interviniendo ante el Consejo de Seguridad de la ONU. Antes de usarlo, lo contrastamos con el registro de la ONU. Las declaraciones son auténticas.
Este artículo expone qué debatió el Consejo, qué propuso Amodei y el contexto que necesita un lector cuidadoso: su interés comercial, su historial en materia de plazos y su historial en materia de supervisión. Termina con lo que sus propuestas significan para cualquier organización que dependa de la IA. Nuestra opinión aparece señalada como “La visión de Monarchy”.
01Lo que el CEO de un laboratorio de frontera pidió al Consejo de Seguridad
El 23 de septiembre de 2026, en su 10228.ª sesión, el Consejo de Seguridad de la ONU abordó "Artificial intelligence and international security" [«Inteligencia artificial y seguridad internacional»] bajo la presidencia de Francia. Intervinieron Yoshua Bengio, copresidente del Independent International Scientific Panel on AI de la ONU, y los consejeros delegados de OpenAI, Anthropic y Hugging Face 12. Circula un vídeo de Dario Amodei, de Anthropic, que intervino por videoconferencia. Lo contrastamos con el registro de la ONU antes de usarlo. La transcripción de la ONU, el vídeo de UN Web TV de su intervención de 5 minutos y la emisión de C-SPAN confirman las declaraciones 13. La transcripción de la ONU se genera automáticamente y no es un acta oficial, así que citamos con moderación.
Amodei dijo al Consejo que hace cuatro años la IA "could barely write a line of code" [«apenas podía escribir una línea de código»]; que hoy "writes most of the code at Anthropic" [«escribe la mayor parte del código en Anthropic»]; y que en "one or two years, maybe less" [«uno o dos años, quizá menos»] podría alcanzar lo que él llama "a country of geniuses in the data center" [«un país de genios en el centro de datos»] 1. Señaló dos riesgos: el uso indebido, por ejemplo por parte de bioterroristas, y la pérdida de control. Lo calificó de "the most important global security issue facing the world today" [«la cuestión de seguridad mundial más importante a la que se enfrenta el mundo hoy»] y dijo que Anthropic "will slow down as much as necessary" [«frenará tanto como sea necesario»] 1. Hizo tres propuestas 1:
- acuerdos concretos que todos los miembros puedan apoyar, como la prohibición de usar la IA para fabricar armas biológicas;
- sistemas de evaluación y verificación que sigan el ritmo, para que los Estados puedan ver las capacidades de frontera y verificar los compromisos de los demás;
- normas mundiales comunes de pruebas para los riesgos de pérdida de control y de uso indebido, además de un sistema de notificación de incidentes de IA relevantes para la seguridad mundial.
Contexto sobre el orador
Amodei dirige una empresa con un interés comercial directo en la IA, y sus afirmaciones sobre capacidades son suyas. La expresión "country of geniuses in a datacenter" [«país de genios en un centro de datos»] procede de su ensayo de octubre de 2024 "Machines of Loving Grace" 4. Sus plazos se han adelantado a veces a los hechos. En marzo de 2025 dijo que en un plazo de tres a seis meses la IA escribiría el 90 por ciento del código 5. Seis meses después, la cobertura independiente no encontraba señales de ello en el conjunto de la industria del software 6. Desde entonces ha dicho que la cifra se cumple "within Anthropic and within a number of companies that we work with" [«dentro de Anthropic y en varias empresas con las que trabajamos»] 7.
Su historial en supervisión es concreto y verificable. En un ensayo de septiembre de 2026 pidió al sector "pace the frontier" [«marcar el ritmo de la frontera»] 8. En octubre Anthropic incorporó a seis miembros del personal de METR como evaluadores integrados, con un acceso a las herramientas internas aproximadamente equiparable al de sus propios equipos de riesgos. METR puede publicar sus conclusiones, y Anthropic no puede vetar la publicación, aunque sí exigir supresiones en categorías predefinidas 9. La Responsible Scaling Policy de Anthropic, ya en su versión 3.4 (vigente desde el 8 de julio de 2026), vincula las salvaguardas a los "AI Safety Levels" [«niveles de seguridad de la IA»]. La empresa dice que sus niveles superiores siguen "largely undefined" [«en gran parte sin definir»] 10.
No es la primera vez que el Consejo trata el tema. Su primera reunión formal sobre IA fue el 18 de julio de 2023 11. El presidente de la República de Corea presidió un debate abierto en septiembre de 2025 12. En agosto de 2025 la Asamblea General creó el Scientific Panel de 40 miembros y un Global Dialogue on AI Governance anual. Ambos se limitan al ámbito no militar 13.
Adaptado de “Things to Know: What the July 2026 Hugging Face Incident Teaches About AI Checking AI”, un análisis de Monarchy (octubre de 2026). Las fuentes se enumeran abajo; las citas se reproducen en su idioma original, con la traducción entre corchetes.
Fuentes
- United Nations, Security Council 10228th meeting, "Artificial intelligence and international security," 23 September 2026, transcript (automatic speech recognition; not an official record). https://transcripts.un.org/en/sc/10228
- UN Meetings Coverage SC/16462, "Ongoing Efforts to Create Powerful AI a 'Race Where Everyone Loses', UN Expert Tells Security Council…," 23 September 2026. https://press.un.org/en/2026/sc16462.doc.htm ; UN Audiovisual Library: https://media.un.org/avlibrary/en/asset/d363/d3637151
- UN Web TV, "Dario Amodei (CEO of Anthropic) on Artificial intelligence and international security," 23 September 2026. https://webtv.un.org/en/asset/k1v/k1vmsgetgo ; C-SPAN, "Artificial Intelligence CEOs Brief the U.N. Security Council on the Risks of AI." https://www.c-span.org/program/united-nations/artificial-intelligence-ceos-brief-the-un-security-council-on-the-risks-of-ai/685634
- Dario Amodei, "Machines of Loving Grace," October 2024. https://www.darioamodei.com/essay/machines-of-loving-grace
- Council on Foreign Relations, "CEO Speaker Series With Dario Amodei of Anthropic," 10 March 2025 (transcript). https://www.cfr.org/event/ceo-speaker-series-dario-amodei-anthropic
- Futurism, "Exactly Six Months Ago, the CEO of Anthropic Said That in Six Months AI Would Be Writing 90 Percent of Code," 10 September 2025. https://futurism.com/six-months-anthropic-coding
- Business Insider, "Anthropic CEO says 90% of code written by teams at the company is done by AI…" (Dreamforce conversation with Marc Benioff), October 2025. https://www.businessinsider.com/most-anthropic-teams-coding-with-claude-ai-not-replacing-humans-2025-10
- Dario Amodei, "We Must Pace the Frontier," September 2026. https://darioamodei.com/post/we-must-pace-the-frontier
- Anthropic, "An update on independent evaluators," 15 October 2026 (updated 16 October). https://www.anthropic.com/news/an-update-on-independent-evaluators
- Anthropic, "Responsible Scaling Policy" (current version 3.4, effective 8 July 2026). https://www.anthropic.com/responsible-scaling-policy ; "Responsible Scaling Policy Version 3.0," 24 February 2026. https://www.anthropic.com/news/responsible-scaling-policy-v3
- UN Meetings Coverage SC/15359, Security Council debate on artificial intelligence, 18 July 2023. https://press.un.org/en/2023/sc15359.doc.htm
- UN Audiovisual Library, Security Council 10005th meeting, "Artificial intelligence and international peace and security," 24 September 2025. https://media.un.org/avlibrary/en/asset/d346/d3460317
- UN General Assembly, resolution A/RES/79/325, adopted 26 August 2025. https://www.un.org/pga/wp-content/uploads/sites/110/2025/12/A_RES_79_325-EN.pdf
