Il fattore SUV.

Si fa molto parlare di quanto e' successo ai Mercatini di Natale, e parlandone con degli ottantenni (che pero' sanno usare la chat e la videochat, casomai qualcuno si sogni ancora di nominare la vecchietta di 73 anni) mi e' stata fatta una domanda interessante: ma l'intelligenza artificiale avrebbe potuto bloccare il terrorista?

La risposta e' interessante, perche' la stupidita' tipica del machine learning (ovviamente non penso che un modello di linguaggio possa aiutare, ma “AI” significa molte piu' cose) , devo dire, probabilmente avrebbe aiutato. Ma. Ci sono grossi “ma”.

Innanzitutto, non si puo' fare. Il cosiddetto “AI act” vieta l'uso dell'intelligenza artificiale nella crime prediction. Probabilmente e' solo gente impressionata da Minority Report , ma il punto e' che e' vietato. Non e' ben chiaro se la legge distingua le indagini, la prevenzione o altro dal crime prediction, ma non era possibile sottoporre i dati dei servizi di sicurezza per chiedere quali sarebbero stati i sospetti piu' evidenti.

Qui pero' andiamo sul piano pratico. Allora, siamo sinceri:

e' molto tempo che e' emerso un pattern, in Germania, per cui tutti quelli che arrivano all'atto terroristico hanno problemi psichici.

Quindi, quindi, un sistema di machine learning si sarebbe costruito un “pregiudizio” verso i malati di mente, e questo pregiudizio avrebbe puntato ANCHE sul medico saudita. Ma il problema e' proprio “ANCHE”. Perche' il sistema avrebbe indicato come sospetti tutti gli stranieri provenienti da paesi islamici che scrivono sui social (da cui si prendono i dati) e che hanno problemi mentali.

Quindi si, il primo batch per segnalare elementi pericolosi avrebbe probabilmente restituito una lista di qualche centinaio di elementi.

Che sono troppi. Nessuno vuole vivere in un regime ove ti controllano preventivamente perche' sei depresso e sei nato a Tripoli.

Ma starei mentendo se vi dicessi che allora non e' possibile. Perche' avuta quella lista, si potrebbe raffinare. E si potrebbero usare delle tecniche di outlier detection. Questo significa di rilevamento delle anomalie. Qualcosa come una RNN, o simili. Il bello delle RNN e' che in una timeseries capiscono il concetto di “tempo” . E si sarebbe attivato nel preciso momento in cui il tizio ha affittato l'auto da usare.

Su centinaia di persone, direte, probabilmente solo lui ha affittato l'auto. Vero. Ma gli outlier vengono rilevati un po' tutti. E in un periodo come quello natalizio si fanno cose diverse dal solito. Quindi, anche ad un filtro del genere sarebbe servita la supervisione umana.

Ma se riduciamo il numero di persone legate all'islam da rapporti non comuni, compresi quelli che lo odiano, a qualche centinaio, e poi facciamo outlier detection, arriviamo ad una decina, forse due, di persone in tutta Germania.

Questo si avvicina molto al fattibile. Pedinare o sorvegliare in maniera non intrusiva una o due decine di persone secondo me e' fattibile. Materialmente, intendo.

Certo, non ci da' il 100% della sicurezza, ma in questo caso avrebbe funzionato.

A meno che: a meno che qualcuno, diciamo un supervisore umano, non decida che , se confrontato con gli altri casi, per esempio chi cerca negozi di coltelli online, affittare automobili sia tutto sommato un elemento di sospetto abbastanza debole.

E qui andiamo al fattore “auto”, l'elemento che ha MENO bit significativi, meno informazione, e quindi sarebbe sfuggito.

Dovete sapere che dopo le esperienze passate ogni posto affollato in Germania presenta blocchi di cemento nelle vie d'accesso principali, e che gli autotreni e i camion e i veicoli commerciali non vengono lasciati passare. E che ci sono persone dell' Ordnungsamt a tutti gli accessi.

Questo perche' in passato un camion e' stato usato allo scopo. Ma le auto circolano normalmente, perche' non si puo' bloccare un'intera zona, di solito centrale, per via dei mercatini che durano diverse settimane.

Il calcolo e' che una normale auto, dal cofano alto un metro circa, col parabrezza basso, soffrirebbe danni al parabrezza quasi immediatamente – persone che ci sbattono dentro. Avete mai investito un cinghiale o un cervo? – e non avrebbe potuto fare un disastro del genere. Certo, farebbe sempre del danno, ma non spazzolerebbe centinaia di metri di folla.

Ma in questo ragionamento c'e' una falla.

L'auto era un SUV

E aveva il parabrezza abbastanza alto e il cofano abbastanza alto da non “imbarcare” corpi umani. Per questo ha funzionato: il tipo ha affittato un suv lussuoso e grande di BMW. Lo stesso potere omicida di un camion, ma e' classificato come auto.

L'errore della polizia tedesca nell'allestire il sistema di protezione attorno alle fiere e agli eventi, che contiene anche il divieto di avvicinamento dei camion, e' stato quello di NON considerare che un SUV e' formalmente un'auto , ma uccide quanto un camion.

Non so se il terrorista saudita abbia fatto queste considerazioni. Ma se si e' potuto avvicinare cosi' tanto ai mercatini di Natale e' perche' un SUV e' visto come automobile, e se l'attacco e' stato cosi' devastante e' stato perche' un grosso SUV protegge il parabrezza con un cofano molto alto.

So quali saranno le obiezioni, e cioe' che sto demonizzando i SUV. Ma non funzionano: non sto nemmeno demonizzando i camion, ma fanno bene a non farli avvicinare ai posti affollati , e se mi dite che il SUV e' un'auto che si usa per lavoro (un giorno capiro' che cazzo di lavoro fate) , vorrei farvi notare che a maggior ragione un camion si usa per lavoro. Ma fanno bene a limitarli.

L'altra obiezione sara' che il Fanelli odia i SUV. No, quando vivevo in Italia sull'appennino ho avuto sia il vecchio Daiatsu Rocky che un L200 quando ho capito che si, il cassone serve. Provate a comprare il pellet a bancali e mi darete ragione. Non ho particolari pregiudizi nel comprare l'auto che serve. E sono certo che tutti abbiano bisogno di un SUV. Chi non ha mai portato in giro seicento chili di legna di quercia, a Milano, come facevo io? Quindi no, non ho pregiudizi particolari.

Ma il punto rimane questo: ha funzionato perche' l'arma era un grosso SUV.

E qui c'e' il punto che fa saltare tutta la catena dell' AI. Anche facendo outlier detection, la AI avrebbe rilevato l'anomalia, ovvero l'affitto di un'automobile. Ma il supervisore non avrebbe avuto nulla da ridire – esattamente come nessuno si e' preoccupato di fermare i SUV, ma solo i camion.

Quindi il problema non e' se un' AI poteva prevedere il fatto. Avrebbe forse indicato due o tre dozzine di persone, ma pedinarle discretamente non sarebbe stato un problema.

Ma a fermarla sarebbe stato comunque un pregiudizio umano, quello che vuole il SUV essere un'automobile come tutte.

Se questo pregiudizio non fosse esistito , oltre ai camion avrebbero interdetto la zona anche ai SUV, e l'attacco non sarebbe esistito. A prescindere dalle AI.

L' attacco, quindi, non era prevedibile o evitabile da nessuna macchina, perche' il buco nelle misure di sicurezza era negli esseri umani.

E no, la AI non “think out of the box”. La AI e' tutta DENTRO “ the box”.

P.S: perche' dico che e' un SUV? Mi baso su una foto:

SUV

che potrebbe essere due modelli. O una berlina serie 5, o un suv X5. Perche' delle due e' il SUV? Perche' e' alto quanto un poliziotto tedesco, e l'altezza minima per gli uomini , in polizia, e' 1.70m . La serie 5 e' una berlina, ed e' piu' bassa.

Uriel Fanelli

Il blog e' visibile dal Fediverso facendo il follow a:

@uriel@keinpfusch.net

Contatti: