Das Böse Büro

La Dead Internet Theory è arrivata anche sui giornali italiani, e come spesso accade quando una teoria complottista diventa abbastanza popolare da essere raccontata dai giornali, il rischio è di buttarla via tutta intera.

Peccato, perché sarebbe un errore.

Non perché la teoria sia vera nella sua forma più paranoica. Non credo che ci sia una stanza segreta nella quale governi, piattaforme e agenzie di intelligence decidono quanti bot devono sostituire gli esseri umani ogni martedì mattina. Quella è la parte folkloristica, utile più che altro a vendere paura a chi ha già deciso di comprarla.

La parte interessante è un’altra: molte teorie del complotto nascono quando qualcuno osserva correttamente un risultato, ma non conosce il meccanismo che lo produce.

Allora, al posto del meccanismo, inventa un’intenzione.

Vede coordinamento, e immagina un coordinatore. Vede selezione, e immagina un selezionatore. Vede un ecosistema pieno di organismi adattati a un certo ambiente, e invece di chiedersi quale ambiente li abbia selezionati, si domanda chi li abbia creati.

Ma spesso non serve un mandante. Serve solo una funzione di fitness.

Se premi l’engagement, vincerà ciò che produce engagement. Se premi la rabbia, vincerà ciò che produce rabbia. Se premi la presenza continua, vincerà ciò che non dorme. Se premi la produzione infinita, vincerà ciò che può generare infinite varianti a costo zero.

Dopo qualche milione di iterazioni, qualcuno guarderà il risultato e dirà: “Questo non può essere successo da solo”.

E invece sì.

Una volta, in informatica, andavano abbastanza di moda gli algoritmi evoluzionistici.

Il nome sembrava più fantascientifico di quanto fosse la cosa. In pratica si prendeva un problema difficile, si generavano molte possibili soluzioni, anche pessime, e poi le si faceva competere. Le migliori venivano tenute, copiate, incrociate, mutate leggermente, e mandate alla generazione successiva. Dopo molte iterazioni, se eri fortunato e se avevi scritto bene il criterio di selezione, saltava fuori qualcosa di decente.

La parola chiave è “se”.

Perché tutto dipendeva dalla funzione di fitness.

La funzione di fitness è semplicemente il modo in cui decidi chi vince. È il voto dato a ogni soluzione candidata. Questa soluzione è buona? Quanto è buona? Merita di sopravvivere? Merita di essere copiata? Merita di diventare il modello per la generazione successiva?

Il problema è che la funzione di fitness non seleziona ciò che tu “intendevi”. Seleziona ciò che hai misurato.

E se hai misurato la cosa sbagliata, congratulazioni: hai appena costruito una macchina molto efficiente per produrre il risultato sbagliato.

Questo è il punto che spesso manca quando si parla di algoritmi, piattaforme, social network e anche complottismi. Non serve immaginare qualcuno seduto in una stanza buia a decidere ogni singolo effetto del sistema. Spesso basta guardare cosa viene premiato.

Perché ciò che viene premiato, cresce.

Ciò che viene copiato, si moltiplica.

Ciò che sopravvive alla selezione, diventa l’ambiente normale.

E dopo abbastanza generazioni, il mostro ti sembra progettato.

Ma spesso è solo selezionato.

E adesso torniamo a Internet.

Ogni social network moderno ha un algoritmo che decide cosa mostrare, cosa nascondere, cosa spingere, cosa rendere virale, cosa seppellire sotto tonnellate di irrilevanza. Naturalmente questi algoritmi vengono presentati come strumenti neutri: servirebbero a mostrarti “contenuti rilevanti”, “contenuti interessanti”, “contenuti adatti a te”.

Ma dal punto di vista dell’ecosistema sono un’altra cosa.

Sono funzioni di fitness.

Ogni piattaforma crea un ambiente nel quale alcuni comportamenti vengono premiati e altri vengono puniti. Se pubblichi spesso, vieni premiato. Se produci reazioni, vieni premiato. Se generi discussione, vieni premiato. Se fai arrabbiare abbastanza persone senza superare il limite che ti farebbe bannare, vieni premiato. Se sei rapido, presente, ripetitivo, instancabile, vieni premiato.

A quel punto non serve nessun complotto.

Non serve immaginare una riunione segreta tra governi, piattaforme, agenzie di intelligence, investitori e uomini col cappuccio. Basta guardare la funzione di fitness. Se quello è il criterio con cui l’ambiente distribuisce visibilità, allora tutti gli organismi che vivono in quell’ambiente tenderanno ad adattarsi a quel criterio.

Gli umani si adattano. Gli influencer si adattano. I giornali si adattano. I partiti politici si adattano. Le aziende si adattano. E naturalmente si adattano anche i bot.

Solo che i bot si adattano meglio.

Un essere umano dorme. Un bot no. Un essere umano si stanca. Un bot no. Un essere umano prova imbarazzo a ripetere la stessa frase in cento forme diverse. Un bot no. Un essere umano ha tempi di reazione umani. Un bot risponde alla velocità della macchina. Un essere umano può scrivere un messaggio, forse dieci, forse cento se ha una giornata molto triste. Un sistema automatico può produrre migliaia di varianti, testarle, misurarle, scartarle e riprovare.

Quindi, se la funzione di fitness premia engagement, frequenza, reattività, polarizzazione, quantità e presenza continua, non bisogna stupirsi se l’ecosistema viene occupato da organismi specializzati esattamente in queste cose.

Non è un’invasione.

È selezione.

La cosiddetta “Internet morta” non richiede necessariamente un piano centrale. Può essere il risultato abbastanza prevedibile di piattaforme che hanno costruito un ambiente dove il comportamento più premiato è anche quello meno umano.

Dopo abbastanza generazioni, gli organismi migliori non sono più quelli che hanno qualcosa da dire.

Sono quelli che reagiscono meglio alla funzione di fitness.

Naturalmente, questo meccanismo funziona davvero bene solo se i grandi player usano funzioni di fitness abbastanza simili.

Se ogni piattaforma premiasse comportamenti completamente diversi, l’adattamento sarebbe più difficile. Un organismo ottimizzato per Twitter non funzionerebbe su Facebook, uno ottimizzato per Facebook non funzionerebbe su TikTok, uno ottimizzato per TikTok morirebbe appena messo dentro Instagram. L’ecosistema sarebbe più frammentato, e nessuna specie riuscirebbe facilmente a dominare ovunque.

Ma non è questo che è successo.

La concentrazione del mondo social ha prodotto una convergenza abbastanza evidente. Le piattaforme cambiano interfaccia, linguaggio, pubblico, formato, ma sotto sotto premiano spesso le stesse cose: engagement, permanenza, reazione, frequenza, polarizzazione, immediatezza, capacità di generare conversazione anche quando non c’è nulla da dire.

A quel punto la funzione di fitness smette di essere una proprietà di una singola piattaforma e diventa una condizione ambientale.

Se vivi in un deserto caldo, non importa molto quale duna tu scelga. Vince chi gestisce meglio acqua e calore. Se vivi in un ambiente gelido, vince chi disperde meno energia. Se vivi su piattaforme che premiano visibilità, reattività e produzione continua, vince chi riesce a produrre visibilità, reattività e contenuto continuo meglio degli altri.

Non serve che qualcuno ordini a tutte le specie di adattarsi.

Si adattano perché quella è l’aria.

E quando quella diventa l’aria, gli organismi più compatibili con quell’ambiente iniziano a prendere spazio. Prima sembrano fastidiosi. Poi sembrano inevitabili. Alla fine sembrano normali.

In questo caso, hanno vinto i bot a caccia di visibilità nelle timeline.

Non perché siano intelligenti nel senso umano del termine. Non perché abbiano una visione del mondo. Non perché abbiano qualcosa da comunicare. Hanno vinto perché sono organismi perfettamente adattati a una funzione di fitness che premia comportamenti non umani: presenza continua, velocità di reazione, produzione seriale, ripetizione, ottimizzazione statistica, assenza di vergogna e capacità di occupare qualsiasi spazio lasciato libero.

La timeline non è stata conquistata da un esercito.

È stata colonizzata dalla specie più adatta al clima.

Questo, in fondo, è il problema di tutti i monopoli e di tutti gli oligopoli.

Non si limitano a concentrare potere economico. Concentrano anche le condizioni ambientali.

Quando pochi player controllano quasi tutto l’ecosistema, finiscono per imporre una funzione di fitness unificata. Magari non identica nei dettagli, magari non scritta nello stesso modo, magari con differenze di interfaccia e di pubblico. Ma abbastanza simile da spingere tutti nella stessa direzione.

E quando tutto l’ambiente spinge nella stessa direzione, all’inizio sembra movimento.

Poi diventa immobilità.

Perché se tutti devono adattarsi alla stessa pressione selettiva, non stai più producendo diversità. Stai producendo convergenza. Stai riducendo l’ecosistema a una sola grammatica evolutiva. Tutti imparano le stesse mosse, tutti ottimizzano gli stessi comportamenti, tutti inseguono gli stessi segnali, tutti diventano variazioni dello stesso animale.

E quando una specie riesce a dominare quell’ambiente, l’ambiente non si evolve più davvero.

Si specializza.

Oggi, sui social network, la specie dominante non è l’essere umano che ha qualcosa da dire. È il sistema automatico che sa come ottenere visibilità. Il bot. La farm. Il profilo semi-automatico. L’account gestito con strumenti di automazione. La produzione seriale di contenuto ottimizzato.

E questa specie dominante non è destinata a sparire solo perché qualcuno si lamenta che Internet è diventata falsa. Al contrario: continuerà a seguire la funzione di fitness meglio degli umani.

Reagisce più in fretta. Lavora ventiquattr’ore al giorno. Non ha sonno, non ha pudore, non ha bisogno di capire ciò che pubblica. Può testare migliaia di varianti. Può copiare il contenuto che funziona. Può inseguire ogni microvariazione dell’algoritmo. E soprattutto è spesso scritto, gestito o raffinato da persone che conoscono benissimo la funzione di fitness, cioè l’algoritmo.

Quindi no, non serve immaginare un grande complotto per spiegare perché Internet sembri sempre più popolata da presenze artificiali.

Basta osservare un oligopolio che ha creato una funzione di fitness quasi unica, e poi ha lasciato che gli organismi più adatti vincessero.

Il risultato non è un incidente.

È l’equilibrio dell’ecosistema. Non c’è alcun complotto, quindi.

C’è una funzione di fitness.

E questo dovrebbe portarci alla domanda più interessante: perché siamo così inclini a scambiare le funzioni di fitness per complotti?

Perché quando vediamo milioni di soggetti comportarsi nello stesso modo, la tentazione è quella di immaginare un ordine centrale. Qualcuno deve averglielo detto. Qualcuno deve averli coordinati. Qualcuno deve averli messi lì. Qualcuno deve aver deciso che Internet dovesse diventare così.

È una tentazione comprensibile, ma spesso sbagliata.

In molti casi non serve nessun “qualcuno”. Basta un ambiente che premia certi comportamenti e punisce gli altri. Basta una metrica. Basta un ranking. Basta un algoritmo. Basta una procedura di selezione che, ripetuta abbastanza volte, produce convergenza.

Il complottista vede la convergenza e immagina il coordinamento.

L’anti-complottista, spesso, fa l’errore opposto: vede che non esiste un coordinamento centrale, e allora conclude che non esiste nemmeno il problema.

Entrambi guardano male.

Il primo inventa un mandante dove basterebbe una pressione selettiva.

Il secondo nega la pressione selettiva solo perché non trova il mandante.

E così finiamo intrappolati in una discussione stupida: da una parte chi vede complotti ovunque, dall’altra chi usa la parola “complottismo” come deodorante intellettuale per non sentire la puzza dei meccanismi reali.

Ma una funzione di fitness non ha bisogno di riunioni segrete. Non ha bisogno di verbali. Non ha bisogno di ordini scritti. Non ha bisogno di una stanza piena di cattivi che accarezzano gatti persiani.

Le basta premiare qualcosa.

E quello che premia, cresce.

Uriel Fanelli

— Dev Aktor: https://git.keinpfusch.net/loweel/Aktor-2 XMPP: uriel@keinpfusch.net vecchio blog: https://blog.keinpfusch.net email: blog@keinpfusch.net