GignuxNote
Back to home

L'apocalisse che discutiamo e il «doom loop» che è già agli atti

In pochi giorni di settembre l'Occidente si è diviso sull'estinzione da superintelligenza, e un tribunale di New York ha desecretato i documenti in cui Microsoft e OpenAI mettono per iscritto un danno già misurato: click ai giornali giù fino al 93%, e una filiera dei contenuti che il prodotto sta consumando. Due panici. Uno solo ha le prove.

Il 14 settembre 2026 Federico Rampini apre la sua rubrica sul Corriere con una domanda scomoda: perché la Cina non si sta spaventando? Mentre in Occidente i costruttori dell'intelligenza artificiale firmano appelli sul rischio di estinzione, Pechino osserva l'ondata di allarme come si osserva una manovra: interessante, ma non spontanea.

Tre giorni dopo, il 17 settembre, un giudice federale di New York ha tolto i neri da 92 pagine di documenti interni di Microsoft e OpenAI, depositati nella causa per copyright del New York Times. Dentro non c'è nessuna superintelligenza. C'è un dirigente Microsoft che definisce l'addestramento dei modelli «il più grande furto di lavoro nella storia dell'umanità», e un documento aziendale che avverte: la strategia sui contenuti ha innescato un «doom loop» destinato a danneggiare «i nostri modelli e l'intero web allo stesso tempo».

Due panici, nella stessa settimana. Uno occupa i titoli, i podcast e i vertici internazionali. L'altro è un allegato processuale. Solo il secondo è corredato di numeri.

Il primo panico: l'apocalisse, e il sospetto di Rampini

Il contesto è quello di un settembre insolitamente denso. Dario Amodei ha pubblicato il saggio in cui chiede di rallentare deliberatamente la frontiera delle capacità; Sam Altman ed Elon Musk — che passano il resto dell'anno a farsi causa — gli hanno dato ragione in pubblico; alcuni ricercatori dei laboratori di frontiera hanno messo per iscritto probabilità di catastrofe a doppia cifra.

L'osservazione di Rampini non riguarda il merito della profezia, ma la sua geometria. Quando aziende che competono ferocemente sullo stesso mercato — Anthropic, OpenAI, xAI — si trovano d'improvviso dalla stessa parte di un dibattito regolatorio, l'economia industriale ha un nome per questo: cattura del regolatore. È la manovra con cui un'impresa con ambizioni di posizione dominante scrive, di fatto, le regole del settore in cui opera. E regole scritte da chi è già arrivato tendono ad avere una caratteristica ricorrente: sono barriere. In questo caso, osserva Rampini, barriere che finirebbero per colpire soprattutto i cinesi, cioè gli unici che alla paura non credono.

Non serve attribuire malafede a nessuno perché l'argomento funzioni. Basta notare l'asimmetria: in Occidente l'allarme sul controllo dell'IA è lanciato dagli stessi soggetti che la costruiscono, e che dalla costruzione traggono l'intero valore aziendale. In Cina il dibattito sui rischi esiste — università, accademie, un quadro di sicurezza aggiornato e una raffica di norme vincolanti su algoritmi, deepfake e IA generativa — ma le regole le scrive la politica, e nessuna di esse è mai servita a fermare lo sviluppo.

La reazione ufficiale è stata coerente. Il portavoce del ministero degli Esteri Guo Jiakun ha liquidato gli appelli a rallentare come retorica, e il Global Times ha parlato apertamente di «manuale da Guerra Fredda» travestito da preoccupazione per la sicurezza: allarmismo, contrapposizione e competizione spietata, è la tesi, non giovano a nessuno e certo non alla governance globale. Dall'altra parte dell'oceano, Donald Trump ha respinto gli appelli con l'argomento speculare — ci sono «forze molto negative» che esagerano, e «chi vince la corsa all'IA vince la corsa complessiva».

È istruttivo: Washington e Pechino si accusano a vicenda, ma sul punto pratico sono d'accordo. Non si rallenta.

Il secondo panico: quello con i numeri

Nel frattempo, in tribunale, si discuteva di qualcosa di molto meno cinematografico e molto più verificabile.

I documenti desecretati il 17 settembre — nella causa del New York Times, a cui si sono uniti il New York Daily News e il Center for Investigative Reporting — sono stati raccontati per primi da 404 Media e ripresi da TechCrunch e Bloomberg Law. Quattro passaggi meritano di essere letti per intero.

Il furto. Brent Hecht, director of applied science di Microsoft, descrive l'acquisizione massiva di opere protette come «un furto sbalorditivo di proporzioni senza precedenti», possibilmente «il più grande furto di lavoro nella storia dell'umanità».

La sostituzione. Nick Turley, il responsabile di ChatGPT in OpenAI, mette nero su bianco che gli editori affrontano una «minaccia esistenziale» e che «i nostri prodotti sono in larga parte sostitutivi, punto» — destinati a diventarlo di più man mano che migliorano.

La conferma dall'alto. Satya Nadella ha testimoniato sotto giuramento che le conversazioni con i chatbot hanno sostituito le visite ai siti degli editori, «dandoti l'informazione lì, sulla piattaforma AI, invece di doverti mandare alla fonte sottostante». E ha aggiunto che il materiale a pagamento andrebbe licenziato, non preso.

La misura. È il dato che rende tutto il resto non opinabile. Secondo la memoria depositata, i click verso i siti del Times partiti da Bing Chat erano inferiori dell'87-93% rispetto a quelli della ricerca tradizionale; per le testate del Daily News la forbice è 83-91%. Su Copilot, in alcune misurazioni interne, si arriva al 94%.

Microsoft ha risposto che si tratta della «prospettiva individuale di un singolo dipendente», che non rappresenta le posizioni dell'azienda, e che Nadella «parlava di principi generali» che non vanno confusi con conclusioni giuridiche. È una difesa legittima in un processo. Non cambia i numeri, che sono stati prodotti da Microsoft stessa.

«È altamente inusuale che un prodotto finale minacci le fondamenta economiche dei suoi fornitori essenziali. Ma è la situazione che abbiamo creato per il nostro business degli LLM rispetto alla sua catena di fornitura dei contenuti.»

Questa frase — da un documento interno Microsoft — è la cosa più lucida che abbia letto quest'anno sull'economia dell'IA generativa. E non l'ha scritta un critico.

«Doom loop»: un prodotto che consuma la propria filiera

Il ciclo è semplice, ed è il motivo per cui il termine ha fatto il giro del mondo in poche ore.

  1. Il modello viene addestrato su contenuti prodotti da qualcun altro.
  2. Il prodotto risponde all'utente al posto della fonte, e i click alla fonte crollano.
  3. Senza click non ci sono ricavi; senza ricavi la fonte riduce, chiude o smette di pubblicare in chiaro.
  4. Il modello successivo trova meno contenuto fresco da cui imparare — e peggiora.

Il punto interessante non è morale, è industriale: il danno non colpisce solo l'editore, colpisce il modello. Un altro documento interno lo dice senza giri di parole: gli LLM sono «un prodotto che distrugge la propria catena di fornitura». È il motivo per cui Microsoft, nei suoi documenti di policy, si preoccupava di poter «disgregare significativamente l'occupazione proprio delle persone che hanno generato i dati su cui il modello è stato addestrato».

Lo stesso ragionamento circolava in OpenAI già anni fa: l'allora direttore delle policy Jack Clark — oggi co-fondatore di Anthropic, cioè dell'azienda che a settembre 2026 chiede di rallentare — annotava che stavano «creando sistemi che sostituiscono il lavoro delle persone che definiscono la cultura di una società». Nei documenti compare anche, riferito da 404 Media, uno scambio interno su «un trucco per aggirare il paywall del nytimes», commentato da Greg Brockman con un «ah, bello».

Non è un incidente: è il funzionamento normale

La tentazione è archiviarlo come un caso giudiziario tra due aziende e un giornale. Sarebbe un errore: i dati indipendenti dicono la stessa cosa, su scala del web intero.

Messo così, il «doom loop» smette di essere una metafora da documento interno e diventa la descrizione del modello di business corrente del web.

Perché i due panici non si incontrano mai

Ed è qui che le due storie di settembre si parlano davvero.

Il panico apocalittico ha una proprietà comoda per chi lo alimenta: riguarda il futuro, e riguarda i modelli. Sposta la discussione su soglie di calcolo, valutazioni di sicurezza, audit degli allineamenti — tutte cose che richiedono strutture costose, che solo tre o quattro aziende al mondo possono permettersi, e che si prestano benissimo a diventare requisiti di ingresso. È la forma di regolazione più confortevole possibile per chi è già dentro.

Il secondo panico ha la proprietà opposta: riguarda il passato, e riguarda i ricavi. Non chiede comitati etici, chiede licenze, compensi e una risposta alla domanda se addestrare un modello su archivi altrui sia fair use. È la forma di regolazione più scomoda che esista, perché ha una cifra in fondo alla pagina.

Non credo che l'allarme esistenziale sia una messinscena — e, come ricordava padre Paolo Benanti in quei giorni, i rischi concreti di questi sistemi esistono eccome, solo che somigliano molto più alla stupidità naturale che alla superintelligenza. Ma trovo difficile ignorare il contrasto: sul rischio di estinzione abbiamo congetture sincere; sul crollo dell'economia dei contenuti abbiamo le misurazioni interne di chi lo ha causato, depositate in tribunale. E l'agenda pubblica ha scelto il primo.

Rampini sospetta una cattura del regolatore. I documenti del 17 settembre mostrano cosa quel regolatore, se non venisse catturato, avrebbe da regolare oggi — non nel 2030.

Cosa guardare adesso

Il punto non è scegliere quale dei due panici sia più giustificato. È notare che uno dei due ha già smesso di essere una previsione.

AI

Continua a leggere.