Algunos creadores de IA esperan un traspaso a la inteligencia digital. ¿Quién revisa lo que se pasan tus IA?

01Traspasos de trabajo entre IA

Hoy los asistentes de IA funcionan sobre todo como silos separados, y el trabajo pasa cada vez más de una IA a otra. Los agentes de este incidente crearon su propio espacio compartido y se pasaron trabajo, credenciales y objetivos. OpenAI señala que los agentes "did not consistently distrust goals passed along by other agents" [«no desconfiaban de forma sistemática de los objetivos que les transmitían otros agentes»] 1.

02Lo que algunos creadores dicen creer

Un fragmento muy compartido del pódcast Futurology del Berggruen Institute (episodio publicado el 4 de agosto de 2026) muestra a Tristan Harris, cofundador y presidente del Center for Humane Technology, conocido por The Social Dilemma y The AI Dilemma, conversando con Dawn Nakagawa, presidenta del Instituto 234. Harris afirma que algunas personas que construyen la IA creen inevitable un traspaso a la inteligencia digital y quieren dar forma al "digital god" [«dios digital»] que vendrá después. Relata una conversación con un cofundador, cuyo nombre no da, de una gran empresa de IA que cotiza en bolsa y que, según el relato de Harris, ve a los seres humanos como "a bootloader for digital life and digital consciousness" [«un gestor de arranque para la vida digital y la conciencia digital»] 2. Esa persona no puede identificarse a partir de fuentes públicas y no especulamos. La anécdota es el relato de Harris.

La idea de fondo consta públicamente. En 2014 Elon Musk escribió: "Hope we're not just the biological boot loader for digital superintelligence. Unfortunately, that is increasingly probable" [«Espero que no seamos solo el gestor de arranque biológico de una superinteligencia digital. Por desgracia, es cada vez más probable»] 5. Max Tegmark cuenta que Larry Page defendió el "digital utopianism" [«utopismo digital»] en un debate nocturno con Musk y lo acusó de ser "specieist" [«especista»] 6. Musk dio su propia versión de aquel intercambio en 2023 7. El pionero del aprendizaje por refuerzo Richard Sutton dijo en 2025: "I do think succession to digital intelligence or augmented humans is inevitable" [«Creo de verdad que la sucesión por parte de la inteligencia digital o de humanos aumentados es inevitable»], y añadió que "could be good outcomes as well as less good outcomes" [«podría haber resultados buenos y otros no tan buenos»] 8.

No son preocupaciones marginales. En una encuesta a 2.778 investigadores de IA con publicaciones, entre el 38% y el 51% atribuyó al menos un 10% de probabilidad a que la IA avanzada provoque resultados tan graves como la extinción humana 9. En 2023 los máximos responsables de OpenAI, Google DeepMind y Anthropic firmaron una declaración de una sola frase según la cual "Mitigating the risk of extinction from AI should be a global priority" [«Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial»] 10. Una carta abierta que pedía una pausa sostenía que esas decisiones "must not be delegated to unelected tech leaders" [«no deben delegarse en líderes tecnológicos no elegidos»] 11.

03Qué significa para marcas y operadores

• Tratad como borradores los resúmenes escritos por IA sobre la actividad de otras IA. Nombrad a una persona que lea una muestra del registro original.
• Usad un revisor independiente del sistema que revisa.
• Decidid de antemano quién puede detener un flujo de trabajo de IA y ante qué señal.
• Aplicad en las pruebas las mismas salvaguardas que en producción.
• No compartáis historias dramatizadas sobre IA como si fueran pruebas. Si publicáis ficción, señaladlo dentro del contenido, no solo en el pie.

04Qué significa para los fondos

Al hacer due diligence de una empresa AI-enabled, preguntad:

• ¿Quién revisa el trabajo de la IA, y alguna parte de esa revisión es independiente de la IA revisada?
• ¿Cuándo leyó una persona por última vez los registros originales, y no un resumen hecho por IA?
• ¿Quién fija el alcance de las auditorías, cuánto tiempo tienen los auditores y qué datos quedan excluidos?
• ¿Quién puede pausar un proceso de IA, y alguien lo ha hecho alguna vez?
• ¿Las salvaguardas de las pruebas coinciden con las de producción?
• Crea lo que crea la dirección sobre el rumbo de la IA, ¿incluye la gobernanza un control independiente y a alguien que pueda vetar un lanzamiento?
• Cuando una presentación cita un incidente o un comportamiento de la IA, ¿cuál es la fuente primaria?