Ogni discussione pubblica sull’intelligenza artificiale parte dal punto sbagliato, e anche chi prova a resistere al controllo algoritmico di solito eredita lo stesso errore. Si apre chiedendo come useremo questi sistemi, con quali garanzie, dentro quali regole. Sembra la domanda responsabile. È la domanda di chi è arrivato tardi.
Quando si discute dell’uso, la parte decisiva è già stata giocata. Qualcuno ha stabilito quali categorie esistono, che cosa viene misurato, chi finisce dentro una classe e chi resta invisibile. Quella scelta non compare in nessun regolamento.
Qui provo a fare due cose. Mostrare dove il potere lavora davvero, e poi dire che cosa hanno fatto, concretamente, i pochi che negli ultimi anni gli hanno strappato qualcosa.
La trappola della neutralità
Ci sono due posizioni apparentemente opposte che finiscono nello stesso vicolo cieco. La prima dice che la tecnologia è uno strumento neutro e che tutto dipende da chi la impugna. La seconda rifiuta la macchina in blocco, come se il problema fosse il silicio.
Sono la stessa mossa. Entrambe separano lo strumento dal suo impiego, e così collocano la politica dopo, nel momento dell’applicazione. Chi accetta quella separazione ha già ceduto la parte che conta.
Franco Piperno, fisico e tra i fondatori di Potere Operaio, aveva smontato la prima posizione senza sconti: la scienza moderna è diventata strumento di dominio e di valorizzazione del capitale, non per un tradimento successivo ma per come è stata finanziata e organizzata fin dall’inizio, secondo le priorità del complesso militare e industriale.
Il limite del suo ragionamento sta in quel verbo, diventata. Presuppone una scienza precedente e pulita, poi piegata. È il residuo di uno schema che ragiona ancora in termini di strumento e di uso.
Il taglio viene prima dell’uso
Karen Barad, fisica teorica con un dottorato sulla teoria di gauge reticolare, oggi docente a Santa Cruz, toglie da sotto proprio quello schema. Il suo libro, Meeting the Universe Halfway, parte da Niels Bohr e ne trae la conseguenza che quasi tutti addolciscono.
L’indeterminazione quantistica non è un limite della nostra conoscenza. Le proprietà non esistono determinate prima della misura: vengono all’essere insieme all’apparato che le rileva.
Da qui la categoria che serve. L’apparato non osserva un mondo già fatto, lo costituisce. E ogni apparato opera quello che Barad chiama un taglio, che decide che cosa conta come soggetto e che cosa come oggetto, che cosa è segnale e che cosa è rumore.
Tradotto fuori dal laboratorio: un sistema di punteggio non misura una persona che era già rischiosa. La produce. Prima di quel sistema quella persona non era rischiosa, perché la categoria del rischio, in quella forma, non esisteva.
Ventiseimila famiglie e un indicatore di rischio
Non è filosofia astratta. Nei Paesi Bassi l’amministrazione fiscale ha usato per anni un sistema automatico per stanare le frodi sui sussidi all’infanzia, e tra i fattori di rischio ha inserito la doppia cittadinanza.
Il risultato è che circa 26.000 genitori sono stati accusati ingiustamente di frode tra il 2005 e il 2019, con restituzioni integrali pretese per errori minimi e famiglie mandate in rovina. L’autorità olandese per la protezione dei dati ha definito il sistema illegittimo e discriminatorio.
Il governo Rutte si è dimesso in blocco nel gennaio 2021, e lo Stato ha stanziato trentamila euro di indennizzo per ogni genitore colpito. Un risarcimento che arriva quando il danno è irreversibile.
Qui la domanda va posta bene. Il problema è stato l’uso scorretto di uno strumento corretto? No. Il problema è che qualcuno ha deciso che la cittadinanza doppia fosse una variabile del modello. Il danno nasce nel disegno, non nell’applicazione.
Il divieto europeo del punteggio sociale, in vigore dal 2 febbraio 2025 con l’AI Act, arriva dopo vent’anni di pratiche di questo tipo. E proibisce la forma più grossolana, non il meccanismo che l’ha resa possibile.
La cesura che ha disarmato l’opposizione
C’è una ragione storica per cui la critica della tecnica arriva sempre in ritardo, e Piperno l’aveva intravista in un inciso. Diceva che la macchina automatica non ha una base esperienziale ma simbolico-speculativa, perché non nasce dall’automazione per esperienza ma dai teoremi di Turing.
Detto in chiaro: il tornio automatico nasce guardando il tornitore, ne scompone il gesto e lo congela nel meccanismo. Dentro quella macchina c’è il sapere di chi lavora, cristallizzato. L’operaio poteva rivendicarla perché era fatta di lui.
La macchina di Turing . Nasce nel 1936 da un problema di logica pura, la decidibilità, ed è un oggetto di carta molto prima di essere un oggetto di ferro. Non contiene nessun gesto. È universale proprio perché non appartiene a nessuno.
Quando il comando si è trasferito su quel tipo di macchina, la parola d’ordine operaia, riprendiamoci le macchine, è rimasta senza oggetto. L’espropriazione aveva smesso di essere furto e si era fatta irrilevanza, che è una condizione peggiore: contro il furto almeno puoi reclamare.
Piperno una risposta ce l’aveva, e per un decennio ha funzionato: l’esodo. Non conquistare il potere, sottrarsi. Gli operai della Fiat che costruirono un assenteismo di massa attorno al venti per cento facevano esattamente questo.
C’era però una condizione allora gratuita che oggi non lo è più. L’assenteista era statisticamente visibile e individualmente opaco: il venti per cento era un numero, non un elenco di nomi con orari e percorsi.
La sottrazione presuppone uno spazio non osservato, e quello spazio si è chiuso. L’assenza è diventata un dato, il rifiuto lascia una traccia, e la traccia si trasforma a sua volta in una variabile del modello. Chi si sottrae non sparisce. Si qualifica.
Aggregare serve prima di tutto a vedere
Da qui comincia la parte costruttiva, e conviene sgombrare subito un equivoco. Aggregarsi contro l’intelligenza artificiale non produce nulla. È un tema, non una posizione, e i temi generano convegni.
La prima forma di aggregazione che funziona va presa alla lettera, quasi in senso statistico. L’asimmetria del controllo non sta soltanto nel potere, sta nella visione: il sistema vede il modello complessivo, tu vedi soltanto il tuo caso.
Un sussidio negato è sfortuna. Ventiseimila sussidi negati sono una politica. Lo scandalo olandese è emerso quando qualcuno ha rimesso insieme casi che erano stati vissuti come disgrazie private, da persone convinte di avere un problema personale con l’amministrazione.
Tradotto in pratica: archivi condivisi delle decisioni automatiche subite, con le motivazioni ricevute, i punteggi, le sospensioni, i dinieghi. È un lavoro noioso e senza gloria, e vale più di dieci manifesti, perché ricostruisce dal basso la visione d’insieme che il sistema si tiene per sé.
Senza leva resta un club di lettura
Gli sceneggiatori americani hanno ottenuto, dopo centoquarantotto giorni di sciopero, che l’intelligenza artificiale non possa scrivere né riscrivere materiale letterario, che gli studi debbano dichiarare se il materiale consegnato è generato, e che il loro lavoro non possa essere usato per addestrare modelli.
Guarda bene l’ultima clausola. È la vecchia rivendicazione operaia sulle macchine, quella rimasta senza oggetto per mezzo secolo, che con i modelli generativi torna a mordere. Perché quei modelli sono ibridi: architettura di Turing, contenuto fatto di lavoro umano scomposto e incorporato esattamente come il gesto del tornitore.
Ma non hanno vinto perché l’argomento era giusto. Hanno vinto perché potevano fermare la produzione per cinque mesi. Senza quel potere di interruzione, la stessa identica richiesta sarebbe finita come raccomandazione in un codice etico.
In Italia la via percorsa è stata quella giudiziaria, e della sentenza di Bologna che nel gennaio 2021 dichiarò discriminatorio l’algoritmo Frank di Deliveroo ho scritto in Il padrone invisibile. Il passaggio importante è che la cecità dell’algoritmo, spacciata per prova di neutralità, è stata riconosciuta come la forma stessa della discriminazione.
Il rovescio della medaglia però va detto: Deliveroo aveva già dismesso quel sistema prima della sentenza. Il modello si cambia molto più in fretta di quanto un tribunale riesca a giudicarlo. La via giudiziaria produce precedenti, non protezione in tempo reale.
Resistere al controllo algoritmico: tre criteri per uno spazio che conta
Il primo criterio è la proprietà dell’infrastruttura. Se il luogo dove ti organizzi è un gruppo dentro una piattaforma, la piattaforma è il padrone di casa: può sfrattarti senza spiegazioni e intanto legge tutto. Lista di posta propria, server proprio, archivio proprio. Non è integralismo tecnico, è la differenza tra avere una sede e riunirsi nel bar di qualcun altro.
Il secondo è il punto di leva. Qualcosa che possa interrompere, rallentare, costare: una categoria professionale, un servizio, una competenza scarsa. I collettivi dei rider sono nati fuori dai sindacati tradizionali proprio perché lì la leva c’era, ed era il turno di consegna.
Il terzo è la produzione di conoscenza aggregata invece che di opinione. L’opinione è abbondante e gratuita. I dati su come vieni classificato non li ha nessuno, a cominciare da te.
Aggiungo una cosa che sembra minore e non lo è: il luogo fisico. Non per nostalgia della sezione di partito, ma perché è l’unica forma di riunione che non si auto-documenta. Una relazione in presenza è l’ultimo spazio che non lascia metadati.
La fragilità che nessuno guarda
Un sistema di controllo pervasivo è anche un sistema dipendente. Dipende dai dati che riceve, dalla cooperazione di chi lo alimenta, dal personale che ne esegue le decisioni, e soprattutto dalla legittimità: deve apparire ragionevole, altrimenti il costo politico di ogni sua applicazione esplode.
Il governo olandese non è caduto per un cavillo tecnico. È caduto quando la vicenda è diventata insostenibile da raccontare. La legittimità è la risorsa più costosa da produrre e la più facile da incendiare.
Vale la pena essere onesti sui limiti, però. Gli sceneggiatori hanno pagato cinque mesi senza stipendio, con uno dei sindacati più forti del mondo, in un settore dove il loro lavoro è insostituibile. Bologna è una sentenza su un sistema già in pensione. L’Olanda ha risarcito dopo quindici anni di danno compiuto.
Chi promette la strategia che rompe il controllo sta vendendo qualcosa. Quello che si può fare è rendere ogni taglio contestabile, costoso e visibile. Sembra poco, ed è l’unica cosa che alla verifica storica ha funzionato.
Sui meccanismi con cui le infrastrutture tecniche fabbricano obbedienza mi sono soffermato in Architetture del Controllo.
In Il padrone invisibile concludevo che quel padrone ha un codice fiscale, un consiglio di amministrazione, degli azionisti, e che quindi si può portare in tribunale. Lo confermo, e aggiungo la parte che allora mi mancava: non basta citarlo per come ti ha trattato, bisogna citarlo per come ti ha definito.
Quanto alla soggettività che lamentavo assente, non manca perché la gente dorme. Manca perché la convochiamo sul tema sbagliato. Nessuno si organizza per l’intelligenza artificiale in generale, ci si organizza a partire dal punto preciso in cui una macchina decide che cosa siamo.
Negli anni Settanta l’operaismo perse la sua battaglia mentre era convinto di combatterla. Presidiava i reparti credendo che lì stesse il cuore del comando, e intanto il comando traslocava nel disegno delle macchine, dove nessun picchetto poteva arrivare. Oggi la scena si ripete con un lessico più educato: comitati etici, carte dei principi, tavoli permanenti. Tutta roba che si occupa dell’uso.
Etica dell’intelligenza artificiale: decisa da chi, e in quale momento? Se interviene dopo che le categorie sono state scritte non è etica, è manutenzione del consenso. La partita è sul diritto di contestare il taglio, cioè di rimettere in discussione chi decide che cosa esiste. Chi rinuncia a quella pretesa potrà anche vincere tutte le cause sulla privacy, e avrà perso lo stesso.
Leggi anche su kratologos
Il padrone invisibile: l’algoritmo, Marx e l’alienazione del lavoro italiano
I libri di Romano Dellamore
Novità
L’Anticristo
Peter Thiel, Palantir e la PayPal Mafia
Architetture del Controllo
Sorveglianza, armi autonome, guerra privatizzata
Newsletter
Un capitolo in regalo
Lascia la mail e scarichi subito il capitolo de L’Anticristo sulla causa che ha chiuso Gawker. Poi ti scrivo solo quando pubblico qualcosa che vale il tuo tempo.
Fonte: https://kratologos.it/resistere-al-controllo-algoritmico/ · Romano Dellamore, kratologos.it · Pubblicato il 23 Settembre 2026
