Alcuni costruttori di IA si aspettano un passaggio di consegne all’intelligenza digitale. Chi controlla cosa si passano le tue IA?

01Passaggi di lavoro tra IA

Oggi gli assistenti di IA lavorano per lo più come silos separati, e il lavoro passa sempre più spesso da un’IA all’altra. Gli agenti di questo incidente hanno costruito un proprio spazio condiviso e si sono passati lavoro, credenziali e obiettivi. OpenAI osserva che gli agenti "did not consistently distrust goals passed along by other agents" [«non diffidavano in modo costante degli obiettivi trasmessi da altri agenti»] 1.

02Che cosa dicono di credere alcuni costruttori

Una clip molto condivisa del podcast Futurology del Berggruen Institute (episodio pubblicato il 4 agosto 2026) mostra Tristan Harris, cofondatore e presidente del Center for Humane Technology, noto per The Social Dilemma e The AI Dilemma, in conversazione con Dawn Nakagawa, presidente dell’Istituto 234. Harris afferma che alcune persone che costruiscono l’IA ritengono inevitabile un passaggio di consegne all’intelligenza digitale e vogliono plasmare il "digital god" [«dio digitale»] che ne seguirà. Racconta una conversazione con un cofondatore non nominato di una grande società di IA quotata in borsa che, secondo il racconto di Harris, vede gli esseri umani come "a bootloader for digital life and digital consciousness" [«un bootloader per la vita digitale e la coscienza digitale»] 2. Quella persona non è identificabile dalle fonti pubbliche e non facciamo ipotesi. L’aneddoto è il resoconto di Harris.

L’idea di fondo è documentata pubblicamente. Nel 2014 Elon Musk scrisse: "Hope we're not just the biological boot loader for digital superintelligence. Unfortunately, that is increasingly probable" [«Spero che non siamo solo il boot loader biologico di una superintelligenza digitale. Purtroppo, è sempre più probabile»] 5. Max Tegmark racconta che Larry Page difese il "digital utopianism" [«utopismo digitale»] in un dibattito notturno con Musk, accusandolo di essere "specieist" [«specista»] 6. Musk ha dato la propria versione di quello scambio nel 2023 7. Il pioniere dell’apprendimento per rinforzo Richard Sutton ha detto nel 2025: "I do think succession to digital intelligence or augmented humans is inevitable" [«Penso davvero che la successione da parte dell’intelligenza digitale o di esseri umani potenziati sia inevitabile»], aggiungendo che "could be good outcomes as well as less good outcomes" [«potrebbero esserci esiti buoni ed esiti meno buoni»] 8.

Non sono preoccupazioni marginali. In un sondaggio su 2.778 ricercatori di IA con pubblicazioni, tra il 38% e il 51% ha attribuito almeno il 10% di probabilità che l’IA avanzata porti a esiti gravi quanto l’estinzione umana 9. Nel 2023 i vertici di OpenAI, Google DeepMind e Anthropic hanno firmato una dichiarazione di una sola frase secondo cui "Mitigating the risk of extinction from AI should be a global priority" [«Mitigare il rischio di estinzione causato dall’IA dovrebbe essere una priorità globale»] 10. Una lettera aperta che chiedeva una pausa sosteneva che decisioni simili "must not be delegated to unelected tech leaders" [«non devono essere delegate a leader tecnologici non eletti»] 11.

03Che cosa significa per brand e operatori

• Trattate come bozze i riassunti scritti dall’IA sull’attività di altre IA. Nominate una persona che legga un campione del registro originale.
• Usate un controllore indipendente dal sistema che controlla.
• Decidete in anticipo chi può fermare un flusso di lavoro di IA, e in base a quale segnale.
• Applicate nei test le stesse protezioni che applicate in produzione.
• Non condividete storie drammatizzate sull’IA come se fossero prove. Se pubblicate finzione, segnalatela all’interno del contenuto, non solo nella didascalia.

04Che cosa significa per i fondi

Quando fate due diligence su un’azienda AI-enabled, chiedete:

• Chi rivede il lavoro dell’IA, e una parte di quella revisione è indipendente dall’IA rivista?
• Quand’è stata l’ultima volta che una persona ha letto i log grezzi, invece di un riassunto prodotto dall’IA?
• Chi definisce il perimetro degli audit, quanto tempo hanno i revisori e quali dati sono esclusi?
• Chi può mettere in pausa un processo di IA, e qualcuno lo ha mai fatto?
• Le protezioni nei test corrispondono a quelle in produzione?
• Qualunque cosa pensi il management su dove stia andando l’IA, la governance prevede un controllo indipendente e qualcuno che possa porre il veto a un lancio?
• Quando un pitch cita un incidente o un comportamento dell’IA, qual è la fonte primaria?