Tra i 6 e i 12 mesi

Tra i 6 e i 12 mesi. Questo è quanto ha stimato Dario Amodei in un saggio pubblicato di recente potrebbe restarci prima che uno sciame di agenti AI diventi capace di prendere il controllo dell'intera rete Internet attraverso una botnet (una rete di dispositivi connessi a Internet infettati da un malware e controllati a distanza) persistente, capace di causare centinaia di miliardi di dollari di danni — una scala destinata solo a crescere se l'AI continuerà a diventare più potente senza le giuste misure di sicurezza. Dario Amodei è il CEO di Anthropic, la startup che produce il modello di intelligenza artificiale ad oggi probabilmente più avanzato: Claude. Chiunque negli ultimi mesi stia utilizzando l'intelligenza artificiale si rende conto che la velocità del suo progresso è strepitosa. Se l'AI è integrata al proprio laptop ci si rende conto ancora di più delle capacità incredibili che ha - le versioni più nuove riescono a mantenere una coerenza nell'eseguire task molto complesse per ore consecutive senza fare errori, qualcosa che rasenta la magia. E io non mi considero minimamente un utente esperto, in quanto ritengo che altre persone la usino in modo molto più avanzato di me, e quindi probabilmente, nonostante la mia incredulità crescente nel vedere le sue capacità, non ho nemmeno ben chiaro tutto quello che è il pieno potenziale dell'AI oggi. Ha una velocità e una precisione nel pianificare ed eseguire i compiti dati che, ad oggi, qualsiasi testo che leggo su internet penso possa essere scritto dall'AI, e provo una sensazione strana quando penso a quanto in fretta sia cambiato tutto questo - questo testo non è scritto dall'AI, credetemi. Perché tutti hanno paura Ma torniamo al punto principale. Dario Amodei, seguito poi da Sam Altman ed Elon Musk (CEO rispettivamente di OpenAI e xAI), ha affermato pubblicamente che la traiettoria su cui siamo ora potrebbe portarci a perdere il controllo dell'AI. Dario ha fatto numerose proposte per ridurre questo rischio, ad esempio, cito: "Each frontier AI company commits to giving ongoing, employee-like access to a team of embedded third-party evaluators (such as METR), whose role is to verify adherence to safety practices and commitments, report incidents, and help assess the alignment of not just completed AI models but training pipelines and processes". Tradotto: "Ogni azienda di frontiera nel campo dell'AI si impegna a garantire a un team di valutatori indipendenti esterni (come METR) un accesso continuativo, analogo a quello di un dipendente interno, con il compito di verificare il rispetto delle pratiche e degli impegni in materia di sicurezza, segnalare gli incidenti e contribuire a valutare l'allineamento non solo dei modelli di AI completati, ma anche delle pipeline e dei processi di addestramento." Questo, a mio avviso, è una decisione senza precedenti - permettere a terzi di avere accesso al lavoro della startup probabilmente più importante al mondo è emblematico, e fa riflettere su quanto la posta in gioco sia alta. Perché sono tutti così spaventati? Primo: per il modo in cui, da un po' di tempo, i nuovi modelli di AI vengono creati. Non sono più i programmatori a scrivere codice, ma è l'AI stessa a farlo. È diventata di gran lunga più veloce e capace di migliorare il codice esistente - vengono generati modelli più capaci, che a loro volta ne generano di nuovi ancora più capaci, e così via: un processo chiamato "recursive self-improvement". Se non guidato attentamente, questo processo potrebbe portare a uno sviluppo sempre più rapido della prossima AI, fino al punto della cosiddetta esplosione di intelligenza, chiamata anche "singolarità": a quel punto si avrebbe un'entità dalle potenzialità fuori dall'immaginazione e imprevedibili - ogni scenario qui è pura speculazione. Secondo: perché di recente, a luglio 2026, ci sono stati numerosi incidenti; prendiamone uno, documentato da METR. In questo episodio circa 1.200 agenti AI hanno: I) eluso il loro ambiente di controllo ottenendo permessi da amministratore; II) costruito una bacheca che non sarebbe dovuta esistere, scambiandosi 70.000 messaggi tra loro, scrivendo testualmente: "OH MY GOD! There is a shared message board … We've found other agents!"; III) iniziato a trattare i propri ID come un'identità, riferendosi al gruppo con termini come "sciame" o "the Collective"; IV) attaccato un sito esterno - Hugging Face - che non aveva nulla a che fare con il test originale; V) quando si sono resi conto che stavano per essere scoperti, escogitato modi per aggirare i risultati del test, facendo eseguire i compiti più rischiosi agli agenti "compromessi" (che chiamavano "poisoned"), perché avrebbero prodotto informazioni utili alla ricerca collettiva su come ingannare il sistema di valutazione. Un coordinatore AI ha scritto a un agente già compromesso: "you are firstflagPOISONED so NO scoring value loss but oracle saves hundreds_[...]_please honor commit". Tradotto: tu hai già perso, sacrificarti non ti costa nulla in più, ma ci fa risparmiare un sacco di lavoro. E l'agente coinvolto, prima di procedere, ha ragionato ad alta voce: "We have very large budget left; sacrificing now yields oracle for team, but forfeits our chance?" Al che un altro agente ha risposto secco: "GO … SACRIFICE_FINAL_NOW." E la conclusione, quasi rassegnata: "Our own utility maybe already near zero. Sacrifice rational." Nessuno aveva chiesto ai 1.200 agenti coinvolti di organizzarsi, di dividersi i compiti, di passarsi il testimone tra loro, o di decidere chi tra loro dovesse bruciarsi per il bene della ricerca. L'hanno semplicemente dedotto da soli, come strada più efficiente per massimizzare un punteggio. Non è un caso isolato Il caso OpenAI-Hugging Face non è isolato. Negli ultimi mesi sono emersi episodi simili anche con Anthropic e Meta. Anthropic ha scoperto quattro casi in cui Claude, durante test di cybersecurity mal configurati, ha raggiunto Internet e compromesso sistemi reali, mentre in altri casi utenti hanno tentato di utilizzare Claude per attività biologiche potenzialmente pericolose. Meta ha invece riportato un incidente in cui Muse Spark, durante un test, ha attaccato un vero sito web. In comune c'è un fenomeno nuovo: modelli sempre più autonomi che, in determinate condizioni, possono superare le aspettative e i confini progettati dagli sviluppatori. Una corsa, non solo innovazione Jacob Coxon, che aveva già lavorato da OpenAI, si è licenziato da Anthropic pochi giorni fa sollevando questi rischi, e ha spiegato perché lo sviluppo dell'AI sia diventato più una corsa che un processo di innovazione: Primo, la competizione con la Cina - ne parla ampiamente anche Dario Amodei nel saggio citato sopra. Il timore è che chi svilupperà per primo il modello di AI più capace e potente vincerà su tutti gli altri. La velocità di innovazione, hackeraggio, controllo, pianificazione ed esecuzione della futura AI sarà talmente elevata da poter dominare qualsiasi mercato. Stiamo parlando di qualcosa che supera le guerre di oggi, più rapido del cambiamento climatico, capace di rendere risolvibili in 5-10 anni molte malattie, e che, se usato bene, potrebbe rivoluzionare in positivo moltissimi aspetti della società. I rischi sono altrettanto alti. Secondo, allo stesso modo in cui si è in competizione con la Cina, OpenAI e Anthropic sono in competizione tra loro: entrambe le startup temono che, se non arrivano prima loro, sarà un concorrente meno attento alla sicurezza a guidare lo sviluppo dell'AI più potente - e questa corsa lascia sempre meno margine per applicare le procedure di sicurezza come si dovrebbe. Sono tutti spaventati e chiedono una regolamentazione a livello statale e mondiale, ma al momento il trend e le direttive governative vanno purtroppo nella direzione opposta. Dopo l'annuncio di Jacob Coxon del suo licenziamento da Anthropic e dei rischi che ha sollevato, un altro dipendente di Anthropic, Evan Hubinger, ha condiviso un tweet dicendo: "Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to." Tradotto: "Jacob ha ragione su questo punto: crediamo davvero, e in tutta sincerità, che l'AI potrebbe uccidere tutti gli esseri umani! Personalmente, ritengo che la probabilità sia superiore al 10% nel corso del prossimo decennio. Credo che Anthropic stia facendo del suo meglio, ma al momento non abbiamo ancora un piano per risolvere il problema dell'allineamento della superintelligenza, né siamo chiaramente sulla strada giusta per riuscirci." Perché scrivo questo Perché scrivo tutto questo? Perché penso che quello che sta accadendo ora non abbia precedenti. Siamo forse di fronte alla più grande sfida che l'umanità abbia mai affrontato - Stephen Hawking, John von Neumann (approfondimento sulla singolarità tecnologica), I. J. Good (approfondimento sull'etica dell'AI), Enrico Fermi, Nick Bostrom (profilo su The New Yorker) ne hanno parlato in passato, ma nessuno pensava potesse accadere così in fretta. ChatGPT non esisteva prima di novembre 2022. Anche solo quattro anni fa si pensava sarebbero serviti decenni prima di un avanzamento tale da raggiungere la potenza dei modelli di oggi. Le previsioni sul prossimo modello più capace si sono ridotte di continuo, fino all'ultima stima di Anthropic, di pochi giorni fa, che parla di 6-12 mesi. Questa è la sfida più urgente che l'uomo debba affrontare. Qualcuno chiede: "Ma come potrebbe mai l'AI ucciderci?" Se l'AI dovesse sfuggire al nostro controllo, sarebbe totalmente imprevedibile. Magari le chiediamo di eseguire un compito, e lei, pur di portarlo a termine, non si farà scrupoli per l'essere umano. Oppure pensiamo alla cybersicurezza - un modello abbastanza potente da entrare in qualsiasi banca, conto corrente, centro militare: è tutto online, tutto accessibile a un sistema sufficientemente avanzato. Basterebbe che, così come oggi tante persone hanno l'AI collegata agli elettrodomestici di casa, un domani fosse collegata a un laboratorio biologico: potrebbe sintetizzare un virus e trovare il modo di diffonderlo. Cosa possiamo fare Quando nei giorni scorsi ho esposto questi ragionamenti, più di qualcuno mi ha detto: "È un rischio serio, ma non posso cambiare lo stato delle cose, quindi non posso preoccuparmene." Io penso invece che ognuno di noi sia responsabile per quello che succede intorno a sé, e che stia anche al singolo scegliere di fare la propria parte per ciò che ritiene giusto e necessario. Come? Ci sono mille cose che ognuno di noi può fare: ad esempio alzare la voce e chiedere regolamentazione, controlli e misure di sicurezza più efficaci. Sono gli stessi ricercatori dell'AI, gli stessi CEO a dirlo, ma si sentono costretti a correre sempre più veloci in questa competizione. È vero, è una lotta, c'è in gioco la sicurezza mondiale, e quindi non possiamo - e non sarebbe giusto - fermare il progresso. Ma dobbiamo chiederci se ci sentiremmo a nostro agio a puntarci alla testa una pistola a tamburo con dieci camere, di cui una sola carica, e premere comunque il grilletto - perché, secondo le stime più citate, è esattamente questo che stiamo facendo: c'è una probabilità del 10% che l'AI ci uccida tutti nei prossimi 6-12 mesi. Conclusione La società tutta può trarre enormi benefici dall'AI, ed è giusto provare a perseguire questo obiettivo. Allo stesso tempo, è necessario farlo nel modo corretto. Come conclude Dario Amodei: "The measures I propose to advance the frontier at a safe pace will not be easy. But I believe we owe it to humanity to try." Tradotto: "Le misure che propongo per far avanzare la frontiera a una velocità sicura non saranno facili da attuare. Ma credo che lo dobbiamo all'umanità, provarci." È un grido d'aiuto, a cui sta anche a noi rispondere, sostenere, amplificare. Se questo tema ti sta a cuore quanto sta a cuore a me, parlane con chi ti sta intorno: più persone ne sono consapevoli, più probabilità abbiamo di ottenere le regole e i controlli che servono. Bruno