Di scimmie e monoliti.

Ogni tanto succede , anche se raramente, che su un giornale italiano appaia qualche idea interessante. Il merito questa volta va a Republlica , con un articolo che parla del rapporto tra IT e religione. Anche se e' abbozzato, e il rapporto non viene sviscerato come si dovrebbe, l'argomento e' interessante, anche perche' questa cosa comincio' molto prima della AI : gia' ai tempi del "big data".

L'articolo e' il seguente:

https://www.repubblica.it/tecnologia/2023/07/04/news/pericoli_ia_chatgpt_religione_pascale_fung_intervista_ai_act-406550553/?ref=RHRM-BG-P2-S1-T1

 

Nel quale la donna cinese dice alcune cose che hanno senso, per quanto a Repubblica (e forse al suo lettore) non interessi approfondire. E' vero che il millennarismo viene dal mondo religioso, ma molti degli atteggiamenti che vedo nei confronti della AI non vengono dal mondo religioso: vengono da quella direzione, ma c'e' un gradino prima. 

Basterebbe citare autori come Frazer e Propp, per quanto obsoleti, per mostrare come alla fine dei conti il pensiero religioso sia fondato sul pensiero magico. Sarebbe stato , quindi, assai piu' utile investigare su quanto pensiero magico ci sia oggi, nel mondo dell' IT. 

In generale, qualsiasi tecnologia che non venga capita viene scambiata per magia. Ma se vi illudete che questo NON valga per gli addetti ai lavori, potreste venire delusi.

 

Se prendiamo il programmatore medio, per esempio, e gli diciamo "firewall", lui capisce "qualcosa che facendo cose misteriose alla rete, che e' altrettanto misteriosa e magica, puo'  aggiungere la qualita' magica della sicurezza al mio programma insicuro".

Al punto che molti lasciano al loro posto delle SQL injection, "tanto le ferma il WAF". 


Descrivo un aneddoto per far capire meglio. Ci sono due dispositivi che parlano, Franco e Ciccio. Franco manda un segnale a ciccio, il quale ci pensa circa due secondi, e risponde. Ma in mezzo c'e' un altro dispositivo, detto Portinaio, il quale dopo un secondo di silenzio chiude la comunicazione. Ciccio comunque non molla, e dopo due secondi manda indietro la risposta, anche se la cornetta e' muta.

Ciccio e franco loggano. Franco logga dicendo: ho mandato a Ciccio la richiesta, ho avuto una risposta (negativa, un timeout) dopo UN secondo.

Ciccio dice: ho ricevuto la richiesta da Franco, e ho risposto DUE secondo dopo.

Se un "data scientist" non sa cosa sia un timeout, si limitera' a fare la seguente sottrazione: il tempo tra Ciccio e Franco e' uguale al momento in cui Franco riceve la risposta meno il tempo in cui Ciccio invia la risposta.

Il guaio e' che Ciccio ha mandato la risposta DUE secondi dopo, mentre Franco ha avuto l'errore di timeout UN secondo dopo. Di conseguenza, la latenza tra i due e' di MENO un secondo.

Se inserite in un KPI di un sistema telco (che lavora in millisecondi) un numero come MENO UN secondo, vi mangiate la latenza complessiva di tutta la rete, e oltre.

Quando fui chiamato a capire come mai il sistema sembrava praticamente in real time e invece era lento (un secondo e' tantissimo, nel mondo della segnalazione CAP) ,  spezzettare i calcoli e farsi dare le latenze tra tutti i sistemi, notando che c'era un sistema a latenza negativa, fu semplice. Inserimmo poi anche "Portinaio" nel calcolo, facendolo loggare , e via. I conti tornarono e la risposta complessiva aveva una bella deviazione standard di due secondi, a seconda che Ciccio si incriccasse o meno.

Tutto bene? No.

Perche' quando abbiamo corretto i KPI, il manager responsabile (che si era vantato di avere un sistema in realtime) inizio' a dubitare della cosa. Sosteneva che fosse assolutamente possibile per un segnale arrivare PRIMA di quando era generato, usando parole magiche: "predictive", "proactive", "big data".

Si era venduto che ottimizzando grazie al big data, era possibile essere predittivi e proattivi sui guasti, cioe' intervenire PRIMA. E se e' possibile intervenire PRIMA che un guasto succeda (esiste effettivamente la failure prediction nell'industria, ma non fa questo) allora era possibile per un sistema ricevere la risposta PRIMA che partisse.

L'escalation fu epica, e si fermo' solo quando un manager con del cervello riusci' ad uscire dalla trappola del linguaggio e capire che no, predictive o meno, un messaggio non arriva prima di essere partito, perche' l'arrivo e' un effetto della partenza: se non scrivete nulla su un lato del cavo, non arrivera' mai nulla dall'altro lato.

Alla base di tutto c'era il pilastro assoluto dell'ignoranza anglosassone (e non), causa massima della continua non-invenzione del moto perpetuo:

Fisica, matematica, qualsiasi hard science che possa rispondere a "why not?", non contano nulla, se la persona che fa la domanda non puo' capire la risposta per mancanza di background. 

Ma la parte piu' dura da affrontare non fu la stupidita' classica non era questa: se in una conference ti chiedono questo, puoi semplicemente rispondere di chiedere ad un tecnico perche' non c'e' tempo, o di invitarne uno dal lato idiota della cornetta per avere conferma. 

Il problema invece fu la catastrofica fiducia che avevano nel sistema di Big Data (ai tempi non c'era ancora l'hype della AI). Per loro era letteralmente un oracolo. Nemmeno quando un'azienda di terze parti confermo' che il sistema rispondeva, a volte, in un secondo e rotti , credettero alla correzione: lo aveva detto il loro sistema di Big Data.

L'idea che un programma scritto usando SPARK possa avere un baco esattamente quanto ogni altro programma era impossibile da dimostrare: era Big Data. Il monolite nero circondato da scimmie adoranti.

Le quali pensano in maniera magica, e da qui il passo alla religione e' breve.

Su questo si innesta tutto il processo di marketing dei prodotti, che e' basato su parole magiche:

  • Proactive, predictive, e tutto quanto, lasciano intendere che sia possibile prevedere il futuro. In realta', questi sistemi sono capaci di individuare le anomalie che precedono un evento. L'auto non performa come al solito o come le altre: il motore sta per avere dei problemi. Predictive maintenance: https://it.wikipedia.org/wiki/Manutenzione_predittiva Niente a che vedere con la magia.
  • "Neural" networks. Non so chi abbia deciso di prendere degli stupidi tensori e pensare che siano simili ai neuroni, o al sistema nervoso. Forse in futuro sara' possibile descrivere il sistema nervoso umano usando dei tensori, ma di fatto quando addestrate una rete neurale non fate altro che sistemare N tensori in modo che il loro prodotto sia simile agli esempi, e quando "eseguite" non fate altro che moltiplicare il vettore in input per la trasposta di questo tensore. Le reti neurali NON hanno NULLA di neurale. E' solo algebra.
  • Intelligenza Artificiale. Nella loro nota produttivita', i filosofi degli ultimi 3000 anni non ci hanno mai spiegato cosa significhi "Intelligenza". Ad occhio e croce, definiamo intelligente un "coso" il cui comportamento imiti coloro che noi chiamiamo intelligenti. Questo esclude Gasparri, di certo, ma e' ancora dubbio il fatto che sia "intelligenza". Diciamo che hanno un comportamento utile, altrettanto utile  rispetto alla massima utilita' che produce una persona. Che questo dipenda dalla sua "intelligenza umana" potere chiederlo a Sandra Milo.

 

Si tratta cioe' di parole che sono state usate per far attribuire al prodotto delle qualita' , appunto, magiche. Le scope che si mettono a pulire casa nell'apprendista stregone della Disney, per esempio, esistono. Si chiamano Roomba, Sweep&Mop.

 


Ma qual'e' il principio di base del pensiero magico? Se volessi scrivere l'equivalente dell'assioma di scelta , o di Zermelo-Fraenkel, per generare la magia cosi' come ZF "genera" la matematica degli insiemi, cosa dovrei scrivere?

  1. Se esiste la parola, allora esiste la cosa.
  2. Se la parola e' un simbolo occulto, essa crea la cosa.
  3. I simboli che non capiamo creano cose che non capiamo.
  4. Solo un iniziato puo' usare parole incomprensibili per creare cose comprensibili.

Cosa significa?

In magia, se esiste la parola, che so "demone", allora esiste il demone, a patto di descriverlo abbastanza bene. Ma attenzione: se usiamo una parola che ha una definizione chiara e matematica, non funzionera'. Se dico "Neutrino", essendo un termine altamente definito, non funziona. 

Devo usare un simbolo occulto. Un simbolo occulto e' qualcosa il cui significato non e' chiaro alla mente razionale. 

Secondo Enrico Cornelio Agrippa, autore di Congressus cum Daemone(*) (era anche un tizio razionale, a suo modo: scriveva di esoterismo ma pensava che le streghe non esistessero e la caccia alle streghe non fosse di alcuna utilita') il sigillo e' un simbolo che e' capace, se "attivato" (alcuni metodi sono anche divertenti, ma serve una sacerdotessa esperta) potete far comparire un "demone" se il sigillo e' "appropriato".

Mentre nella scienza le cose devono essere "precise", cioe', nella magia devono essere "appropriate". E' oggetto di dibattito se far comparire il demone significa che e' al vostro servizio (versione sciamanica) o se poi sara' lui a ottenere quel che vuole (versione giudaico/cristiana). In un caso il sigillo e' una "porta", nell'altro e' una "trappola".

Ma che cosa e' di fatto un "demone", o qualsiasi altra cosa usiate in magia?

Non e' altro che un potere. Il potere di fare qualcosa che non potreste fare altrimenti. (**)

Detto questo, cosa c'entra con l' IT?

C'entra perche' e' sufficiente usare un termine che abbia "potere", cioe che possa fare qualcosa che normalmente non potreste fare, e che sia associato ad un certo numero di emozioni , o di effetti sul sistema nervoso.

I cristalli vi danno un senso di purezza, quindi purificano. Il simbolo crea la cosa, se esiste il potere, ovvero l'emozione.


Detto questo, andiamo a legare le due cose. Prendendo dei termini assolutamente scientifici e tecnologici, che hanno valenza magica.

Per chi non ha studiato fisica o matematica (negli anni 90 un esame di fisica quantistica c'era in ogni piano di studi, non so ora), non c'e' alcuna differenza tra le parole "meccanica quantistica" e il sigillo del demone di cui sopra.

E' esattamente la stessa cosa.

Perche' sono entrambi incomprensibili ai piu'. Per gli iniziati e' diverso. 

Esistono degli imbecilli, per esempio, che credono davvero di poter fattorizzare in primi un numero lungo 4096 bit. Perche'? Perche' due elevato alla 4096 fa 1.044388881413152506691752710716624382579964249047383780384... × 10^1233

e con vostra buona pace, il numero di particelle dell'universo e' molto piu' piccolo. Il numero di stati possibili e' molto piu' piccolo. 

Perche' allora si crede che usando un computer quantistico si potranno rompere codici con dei moduli lunghi 4096 bit?

La ragione e' semplice: 

 

Ovvero, "io non so per quale motivo non si possa".

Sulla meccanica quantistica, per ragioni magiche, e' piovuto il compito magico di poter fare qualsiasi cosa un normale computer non possa fare. 

E perche'?

  • Ha potere. Ne parlano tutti. Suscita dibattito, quindi emozione.
  • E' incomprensibile ai piu'.
  • Porta soldi per la ricerca ai suoi sacerdoti, agli iniziati.

Gli inziati sanno benissimo che non potranno mai fare il recovery di una chiave col modulo a 4096 bit intercettando il traffico (dopo uno XOR con la chiave stessa) e usando la meccanica quantistica. Il numero di stati rappresentati inizialmente dentro il calcolatore supererebbe vastamente quelli consentiti nel nostro universo. Che contiene il calcolatore.

Ma gli piace avere i soldi per la ricerca, e come se non bastasse gli piace vendere cifrature "post-quantum" .  Che saranno i primi a dichiarare di poter rompere, semmai anche rompessero quelle esistenti. Cosa che non possono fare.

Ma la parola quantistico oggi e' , in qualche modo "magica". Quindi e' una parola di potere. E fa qualsiasi cosa , perche' ha tutto il potere che la parola sembra avere.


Ma se non possiamo usare la meccanica quantistica per rompere un codice con un modulo a 4094 bit, possiamo usare una parola ancora piu' potente, come 

Puo' ChatGPT, magari la versione 5 o 6 o 10, rompere un codice di quel tipo, facendo il recovery della chiave privata solo intercettando il traffico? Uhm. 

No.

Perche' e' solo un modello linguistico. Non fa questo. Ma adesso rimane il problema:

 

E questa domanda sposta l'onere della prova, o dell'argomento, su chi nega che sia possibile, mentre dovrebbe essere chi afferma sia possibile a spiegare. E' come quando viene chiesto agli atei di dimostrare l'inesistenza di Dio, quando sono i credenti a doverne dimostrare l'esistenza.

Comunque, se pensate che un modello di linguaggio possa decifrare codici a patto di essere addestrato con esempi, provateci pure. Con abbastanza esempi. Ci vediamo "dopo", quando avete finito. Dopo quando? Dopotutto.


I problemi che abbiamo oggi nel capire che ChatGPT e' solo un modello di linguaggio esteso, cioe', sono gli stessi che avevamo nel capire che la profilazione psicologica e' una sparse matrix, e che le reti neurali sono solo tensori applicati.

  1. queste parole sono incomprensibili ai piu'.
  2. queste parole hanno potere.
  3. un gruppo di persone guadagna soldi sfruttando quest'ignoranza.

Cosa che identifica sia la cialtroneria, sia il pensiero magico, che quello religioso.

E sino a quando non cacceremo via dall' IT i portatori di pensiero magico, imponendo che ogni manager abbia ALMENO 20 anni di esperienza come tecnico "hand on box", le cose non cambieranno.

Come faccio a dirlo? Semplice:

 

Io non “ci prendo”. Io dico cose ovvie.

Il problema e’ che molti, per sentirsi intelligenti, dicono cazzate contorte credendo siano complesse, e dicono scemenze senza senso credendo che qualsiasi cosa suoni controintuitiva sia anche frutto di intelletto superiore.

E questo vale per la parola magica "macroeconomia" come per "fisica quantistica", per "intelligenza artificiale" come per "manutenzione predittiva", qualsiasi termine non abbia un significato chiaro ai piu', e risulti quindi "occulto", cioe' nascosto.

L'umanita' di oggi, di fronte alla tecnologia, e' semplicemente un immenso branco di scimmie di fronte ad un monolite. 

Un monolite finto, comprato su wish.

 

 

 

 

(*) Libro difficile da trovare, devo dire. Ne trovai una copia in un negozio di libri nel Gheto Vecio di Venezia.

(**) Non e' un caso se siano le donne quelle piu' attratte dalla magia. Il rapporto tra donne e potere e' almeno patologico.