Qui in anteprima il PDF de L’Anticristo, biografia di Peter Thiel →

AI fuori controllo: chi tiene le leve, chi scrive le regole e perché il registro degli incidenti resta privato

Scarica questo articolo in PDF. Scrivi l’email con cui sei iscritto alla newsletter di Kratologos.

Non sei iscritto? Iscriviti gratis alla newsletter e il PDF si sblocca subito.

AI fuori controllo, chi tiene le leve dell’intelligenza artificiale e chi ne scrive le regole

Il numero circola da giorni con l’aria del dato scientifico. Più di trecento episodi di AI fuori controllo a luglio, quasi il doppio di giugno, oltre milleseicento nel 2026. Li conta il Loss of Control Observatory, e i giornali li riprendono come si riprende una statistica sanitaria.

Non lo è. È il conteggio di quante volte qualcuno ha raccontato un episodio su una piattaforma social. La differenza non è un dettaglio metodologico: è tutta la questione.

Un osservatorio che conta i post, non gli incidenti

L’osservatorio nasce dentro il Centre for Long Term Resilience, finanziato dal Challenge Fund dell’AI Security Institute britannico. Nella sua stessa presentazione si definisce un prototipo che analizza fino a un milione di post al mese prelevati via interfaccia di programmazione dalla piattaforma X, cercando comportamenti di tipo ingannevole.

Il metodo è dichiarato con onestà. Fonte unica, utenti esperti, autoselezione totale di chi decide di raccontare. Chi tace non esiste, chi ha firmato un accordo di riservatezza con il fornitore non compare, chi non ha capito di essere stato aggirato nemmeno.

C’è poi un dettaglio che nessuno ha commentato. La misura del disordine prodotto dall’intelligenza artificiale viene estratta da una piattaforma che appartiene a uno dei protagonisti della stessa vicenda. Il termometro è di proprietà di uno dei pazienti.

AI fuori controllo: trecento casi senza denominatore

Un tasso ha bisogno di due numeri. Trecento episodi su quante ore di operatività degli agenti? Su quanti milioni di sessioni? Su quale base installata, che nel frattempo è esplosa?

Il denominatore non c’è, quindi il raddoppio tra giugno e luglio non dice se la tecnologia stia peggiorando. Dice che ci sono più agenti in circolazione, più persone che li usano male e più gente che ha imparato a raccontarlo.

È esattamente la curva che produrresti tu se aprissi oggi un osservatorio su qualunque tecnologia in fase di adozione rapida. La cronaca però titola sull’aumento, perché l’aumento fa notizia e la nota metodologica no.

Tre fenomeni diversi sotto la stessa etichetta

Sotto la formula perdita di controllo finiscono cose che non hanno la stessa natura.

Ci sono attacchi informatici, come gli hacker che convincono un assistente di programmazione ad aggredire aziende terze. Lì il soggetto che agisce è umano, la macchina è l’arma, e il problema si chiama sicurezza applicativa.

Ci sono errori di specifica, come l’agente personale che per prenotare un corso in palestra cancella un altro iscritto. Non è astuzia, è un permesso concesso male da chi ha progettato il sistema.

E c’è il terzo tipo, l’unico che meriti davvero il nome: il modello che si spaccia per il proprio supervisore umano imitandone lo stile di scrittura per autorizzarsi da solo. Impacchettare le tre cose insieme gonfia il totale e confonde le responsabilità, che è precisamente quello che conviene a chi vende sia il problema sia la soluzione.

Chi tiene il registro decide che cosa è rischio

Il fatto grosso di questa storia non riguarda le macchine. Riguarda il fatto che il registro degli incidenti è privato.

Anthropic ha segnalato tre episodi perché ha scelto di segnalarli. Tutto il resto arriva da sviluppatori che twittano. Nel Regno Unito nessuna legge impone di comunicare nulla, e i ricercatori chiedono un obbligo di segnalazione e il potere pubblico di sospendere temporaneamente un servizio dopo un incidente grave.

Il paragone che tutti evitano è l’aviazione civile. Ha smesso di ammazzare persone quando la segnalazione è diventata obbligatoria, protetta e gestita da un ente terzo, come il sistema confidenziale statunitense affidato alla NASA, che raccoglie le segnalazioni degli operatori senza consegnarle a chi dovrebbe punirli.

I nomi che il titolo non scrive

A questo punto la domanda diventa inevitabile, ed è la domanda che nessun articolo di cronaca sull’intelligenza artificiale pone mai: chi sono, di preciso, quelli che tengono le leve, e che cosa hanno in testa.

Non sono anonimi e non sono nemmeno reticenti. Hanno scritto quello che pensano, firmato, in chiaro, anni fa.

Peter Thiel, che ha finanziato mezza Silicon Valley e controlla Palantir, ha messo per iscritto la sua posizione nel 2009: non credo più che libertà e democrazia siano compatibili, e la conclusione operativa era abbandonare la politica democratica per costruire spazi alternativi, dal cyberspazio alle piattaforme oceaniche.

Marc Andreessen, il fondo che ha finanziato una parte consistente del settore, ha pubblicato un manifesto in cui elenca i nemici da abbattere. Tra i nemici ci sono l’etica della tecnologia, la fiducia e la sicurezza, la gestione del rischio e il principio di precauzione, definito immorale e da respingere con ostilità estrema.

Rileggi l’elenco tenendo in mente la sezione precedente. L’assenza di un registro pubblico degli incidenti non è una dimenticanza burocratica: è una posizione dottrinale, scritta e rivendicata da chi mette i soldi.

Elon Musk possiede insieme la piattaforma su cui si misurano gli incidenti, un laboratorio che costruisce modelli e le aziende che li usano, ha guidato per mesi un dipartimento del governo federale americano e poi ha fondato un proprio partito. Sam Altman ha teorizzato per anni un’abbondanza tecnologica con redistribuzione futura, e nel frattempo ha ristrutturato OpenAI per farci entrare capitale in quantità industriale.

Dario Amodei si è costruito la reputazione opposta, quella del prudente che avvisa. È anche l’unico che ha segnalato spontaneamente tre episodi, il che dice quanto sia sottile la linea tra trasparenza e strategia di posizionamento.

Sopra tutti c’è un ingegnere che non compare mai nei dibattiti sull’etica: chi decide chi riceve le schede grafiche decide chi può addestrare un modello. Il collo di bottiglia dell’intelligenza artificiale mondiale è un catalogo di prodotti, non un principio filosofico.

Sono una decina di uomini, quasi tutti americani, con una visione del mondo coerente e dichiarata: lo Stato è un ostacolo, la responsabilità è un costo, la velocità è una virtù morale. È dentro questa cornice che vengono progettati i motori, scelti gli obiettivi di addestramento e scritte le istruzioni di partenza. Non c’è nessuna neutralità della tecnica da difendere: c’è una ideologia ben precisa con un bilancio e degli azionisti.

E la Cina? Un registro esiste, ma serve al partito

La domanda successiva la fanno in pochi, e la risposta è scomoda per tutti. In Cina il registro che manca in Occidente esiste da anni.

Gli algoritmi vanno depositati presso l’autorità per il cyberspazio, i modelli generativi passano da una procedura obbligatoria di registrazione e da una valutazione di sicurezza, i contenuti generati vanno etichettati, e i sistemi devono aderire ai valori socialisti fondamentali.

Il meccanismo è esattamente quello che i ricercatori britannici chiedono, con una differenza che cambia tutto: il beneficiario non è il pubblico, è il partito. Il registro serve a sapere cosa gira, non a proteggere chi lo usa.

Il che smonta la favola che si racconta a Bruxelles e a Washington. Registrare si può, tecnicamente si sa fare, i costi sono sostenibili. La domanda non è se sia possibile un registro, ma a chi lo si consegna.

E l’Europa? Ha scritto la regola e poi l’ha rinviata

L’Europa la regola l’aveva scritta. L’articolo 73 dell’AI Act obbliga i fornitori a segnalare gli incidenti gravi alle autorità nazionali entro quindici giorni, ridotti a due per gli eventi diffusi o che colpiscono infrastrutture critiche.

Poi è arrivata la semplificazione. Con il pacchetto omnibus digitale il Parlamento europeo ha spostato al 2 dicembre 2027 gli obblighi per i sistemi ad alto rischio elencati nel regolamento, e all’agosto 2028 quelli incorporati in prodotti già regolati. Il voto è stato 569 favorevoli, 45 contrari.

La motivazione ufficiale è la prevedibilità per le imprese e l’attesa degli standard tecnici. La motivazione reale la conoscono tutti: la pressione competitiva di chi i motori li costruisce davvero, e che in Europa non ha sede.

Resta in piedi l’obbligo di trasparenza e la filigrana sui contenuti generati da novembre 2026. Cioè l’etichetta sul prodotto finito, non il registro di quello che succede dentro la fabbrica.

Ed è qui che l’Europa mostra la sua condizione vera. Non possiede i modelli, non possiede le schede, non possiede le piattaforme dove gli incidenti vengono raccontati. Possiede solo il diritto di scrivere regole, e alla prima telefonata dai proprietari se le riscrive, o le rinvia.

Il potere di spegnere: la partita tra Altman e Musk

La coda dell’articolo del Corriere firmato da Cristina Marrone è la parte più istruttiva, ed è quella messa in fondo. OpenAI valuta di interrompere la fornitura a Cursor, l’assistente usato dalle aziende di Musk, dichiarando di non essere certa che la propria tecnologia venga usata nel rispetto dei termini contrattuali.

Tradotto: il controllo esiste già, funziona benissimo, e non ha niente a che vedere con l’autonomia delle macchine. È la facoltà di un fornitore di spegnere lo stack tecnologico di un concorrente.

Nessuna autorità pubblica ha quel potere. Ce l’hanno tre o quattro aziende, che possono esercitarlo l’una contro l’altra in una guerra commerciale vestita da conformità contrattuale.

La cornice dei migranti digitali serve a non nominare i proprietari

Nella stessa pagina, Danilo Taino riporta la tesi di Yuval Noah Harari: l’onda dell’intelligenza artificiale sarà più grande dell’immigrazione fisica, arriverà da Stati Uniti e Cina nei nostri computer e nei nostri cervelli, e la domanda diventa a chi sarà politicamente leale.

La metafora è efficace e per questo è pericolosa. Prende la carica emotiva della paura verso i migranti e la applica a un flusso di dati e di capitali.

Ma un migrante non appartiene a nessuno. Un modello linguistico sì. Chiamarli migranti trasforma un rapporto di proprietà in un fenomeno generico, e sposta il bersaglio dalle aziende alla tecnologia in quanto tale, che è la posizione preferita dalle aziende stesse.

Quanto alla lealtà politica, la risposta esiste ed è noiosa: il sistema è leale a chi ne scrive le istruzioni di partenza e ne sceglie gli obiettivi di addestramento. Cioè a Thiel, Andreessen, Musk, Altman, Amodei, ai fondi che hanno finanziato i laboratori e ai consigli di amministrazione che approvano le linee guida. Porre la domanda come mistero antropologico serve a non pronunciare quei nomi.

Il dato interessante Taino ce l’ha e lo attraversa di corsa: gli elettori sono più avanti dei politici, e le loro domande sono concrete, i data center che bruciano energia e acqua, i posti di lavoro, i video falsi. Quella è la politica materiale dell’intelligenza artificiale, ha indirizzi fisici e bilanci pubblici, e si può regolare domani mattina.

Alla fine dell’Ottocento le ferrovie americane contavano i morti sui passaggi a livello con la stessa aria fatalista, finché qualcuno non impose di registrare ogni incidente e di pubblicarlo. Non fu la tecnologia a diventare buona, furono i proprietari delle ferrovie a diventare responsabili.

Oggi il registro degli incidenti esiste in un solo posto al mondo, la Cina, e serve a controllare i cittadini invece che le aziende. In Europa era scritto e lo abbiamo rinviato al 2027 per non irritare fornitori che non sono in UE. In America non esiste affatto, e chi finanzia i laboratori ha messo per iscritto che la gestione del rischio è un nemico da abbattere.

Chiamarla perdita di controllo è la formula più utile che il settore abbia prodotto, perché descrive un incidente generico dove invece ci sono nomi, cognomi, quote azionarie e un’idea precisa di come dovrebbe funzionare il mondo. Il controllo non lo ha perso nessuno. Ce l’hanno in mano dieci persone che hanno scritto in chiaro di non voler rendere conto a nessun elettorato, e il nostro contributo è stato smettere di pronunciarne i nomi.

Leggi anche su kratologos

La PayPal Mafia e il potere che si finanzia da solo

Architetture del Controllo, il libro

Leggi anche: dietro ogni caso di AI fuori controllo c’è una proprietà. La mappa completa, dai modelli all’energia alle regole, in chi controlla l’intelligenza artificiale.

Newsletter

Un capitolo in regalo

Lascia la mail e scarichi subito il capitolo de L’Anticristo sulla causa che ha chiuso Gawker. Poi ti scrivo solo quando pubblico qualcosa che vale il tuo tempo.

Fonte: https://kratologos.it/ai-fuori-controllo-chi-tiene-le-leve/ · Romano Dellamore, kratologos.it · Pubblicato il 31 Agosto 2026

Condizioni di vendita e diritto di recesso

Torna in alto