Premessa
La cybersicurezza è uno dei settori a maggior impatto per l’uso dell’AI. In questo contesto è talmente trasformativa che è persino corretto sostenere che esista uno scacchiere geopolitico parallelo a quello “fisico”, di cui pochi conoscono i contenuti perché davvero lontano dagli occhi dell’attualità. L’indipendenza di una nazione, sia nella difesa che nella politica energetica, dipende dalla cybersicurezza. E quest’ultima dipende dall’AI.
Tuttavia, proprio questa dotazione straordinaria alla Supercar (la mitica KITT di Knight Rider) alimenta i dubbi e le inquietudini di chi sostiene che l’AI potrebbe diventare un formidabile e invincibile hacker. Il problema della pirateria informatica – in Italia davvero poco conosciuto e indagato da un punto di vista scientifico, culturale e antropologico – corre il rischio di alimentare lo stereotipo dell’Uomo Nero, oppure c’è un fondo di verità? Magari si tratta di un timore mal indirizzato rispetto al “dito che indica la Luna”, ma effettivamente concreto? Provo a ragionare sull’hacking – sia quello informatico sia quello più “fisico” della nostra società contemporanea – per capire dove l’AI potrebbe diventare un problema se gestita male.
I teorici esperti della sicurezza dell’AI ci mettono spesso in guardia sul fatto che l’intelligenza artificiale potrebbe diventare un formidabile avversario per l’uomo attraverso la cybersicurezza. In buona sostanza, sarebbe un super hacker implacabile capace di entrare ovunque e colpire in ogni dove.
Ho la sensazione, da tempo, che coloro che patrocinano questa teoria non sappiano granché di hacking. Molto probabilmente la loro idea di hacker è frutto del cinema o delle serie televisive. Quasi certamente si immaginano qualcuno con felpa, cappuccio e maschera che in una stanza (inspiegabilmente) buia come la mitica Bat-caverna digita codici su due o tre tastiere davanti a schermi dove scorrono caratteri incomprensibili per i comuni mortali. E l’hacker è lì, nascosto agli occhi del mondo, che da un momento all’altro, come in un fumetto, dichiara (non si sa perché, oltre a stare al buio parla anche da solo): “Sono dentro!”.
È davvero difficile provare a razionalizzare un contenuto per l’AI cercando di evitare i luoghi comuni. Fermo restando che l’AI è in questo momento il principale motore di sviluppo sul tema della cybersicurezza e viene adottata da tutte le superpotenze – compresa l’Italia, che per inciso ha molto bisogno di essere competitiva in questo settore –, cercherò di fare chiarezza sul rischio AI-hacking. Lo farò sviluppando il ragionamento attorno a due realtà complementari fra loro ma diverse: una è quella fisica in cui interagisce l’umano-hacker, l’altra è quella informatica dove opera l’AI-hacker.
Partiamo anzitutto dalla definizione più comune di hack, che è corretto definire come una modalità ingegnosa e imprevista per lo sfruttamento di un sistema in grado di fare potenzialmente due cose: sovvertire regole e norme, andando a discapito di un soggetto influenzato dal sistema stesso. Già da questa definizione possiamo dedurre che l’hack, affinché sia tale, dovrebbe possedere una componente pratica. Non è una semplice esplorazione o simulazione per vedere se sia possibile farlo: occorre dargli attuazione. Ed ecco che possiamo aggiungere alla nostra definizione che quel “qualcosa” che viene fatto deve essere consentito da un sistema, ma non previsto o voluto da chi quel sistema l’ha concepito o progettato.
Un hack da parte di un’AI diventa, paradossalmente, molto difficile da ricondurre a questa definizione. Ci sono problematiche concettuali di non poco conto da affrontare, e capiremo il perché nel prosieguo, ma è essenziale tenere presente che la definizione di hack è parametrata sulla mente dell’hacker umano, sulla sua coscienza e sulla sua volontà di agire. Questo perché, da un punto di vista tecnico, l’hacking prende di mira un sistema e lo sfida con le sue stesse armi, senza però distruggerlo.
Per questo motivo, definire da sempre un’attività di hacking come illegale non è semplice. La sua identificazione è stata spesso associata al più categorizzabile concetto di “attacco informatico”, poiché in questi casi la volontà di danneggiare un sistema consentiva di adeguare meglio e più facilmente le norme di difesa alle esigenze della sicurezza. Non è certo un caso che spesso le disposizioni normative nate da una legge che disciplina la sicurezza di un determinato sistema siano tarate su singoli eventi pratici, finendo per non rispettare lo spirito che ha animato il provvedimento primigenio. Ecco perché si utilizzano i testi unici come base su cui intervenire, poi, con adeguamenti normativi simili a interventi di microchirurgia. È più facile far diventare illegale una condotta o un evento quando c’è una norma omnicomprensiva che li vieta espressamente.
Considerate che il termine hack, così come concepito originariamente al Tech Model Railroad Club, identificava in realtà una pratica di problem solving basata su innovazione e intraprendenza. Fu solo negli anni ’80 che il termine venne associato alle infiltrazioni non autorizzate nei sistemi di sicurezza informatica a opera di alcune figure di spicco che sono poi diventati famosi hacker. Ci sono diversi libri interessanti su questo argomento. Io consiglio Sulle tracce di Kevin, scritto da Tsutomu Shimomura insieme al giornalista John Markoff: la mitica caccia a colui che è stato il più grande hacker della storia, Kevin Mitnick. Consiglio anche i libri di quest’ultimo, in particolare L’arte dell’inganno (The Art of Deception) e L’arte dell’intrusione (The Art of Intrusion). Ci sono poi una moltitudine di testi più recenti, ma partire da questi potrebbe essere utile perché credo che il lettore vi possa riscontrare forti similitudini con alcuni argomenti che oggi vengono spesi sull’AI.
Il problema attuale dell’AI malevola viene affrontato a macchia di leopardo. Alcuni suppongono che, prima di essere preso sul serio, sia necessario l’avvento di una superintelligenza. Altri invece, con maggior ragionevolezza e buon senso, identificano il problema nel supporto che l’AI può dare al compimento di tecniche di hacking, sia intrusive che di controllo o simulative. Per questa ragione, il principale interesse sembra essersi focalizzato sulle vulnerabilità dei sistemi o, meglio, sulla necessità di disinnescare la possibilità che vengano sfruttate di più e meglio attraverso l’AI.
Nella storia della tecnologia informatica, il concetto di vulnerabilità ha generato la prassi di sfruttare i cosiddetti bug di sistema, spesso esagerati per via del fatto che rappresentano eventi di frontiera e, come tali, sconosciuti. Si pensi al panico dovuto al “mitico” Y2K, il Millennium Bug. Nella realtà odierna del cosiddetto pericolo AI, il problema delle vulnerabilità associate ai bug si presenta più simile ai cosiddetti loophole (scappatoie). Si tratta fondamentalmente di ambiguità o di mancanze di chiarezza in un sistema, come ad esempio in una legge o in un regolamento. Questa assenza o opacità permette di aggirare lo scopo originale senza che ciò comporti l’infrangere direttamente la regola ispiratrice.
Rammentate quando ho scritto che allo spirito ideale della norma occorre poi aggiungere dei micro-interventi? Possiamo fare alcuni paragoni, come ad esempio il forum shopping nel fisco o il riuscire a godere di contenuti in streaming senza pagare il relativo canone.
L’AI mette paura perché, con la sua capacità computazionale, potrebbe trovare dei loophole che consentirebbero, per esempio, a grandi studi internazionali di far risparmiare sulle tasse a clienti facoltosi, oppure di guardare servizi a pagamento tramite un percorso di VPN, proxy e falsi account, simulando collegamenti da altre nazioni o creando addirittura identità duplicate.
Però questo pericolo, che sia ben inteso è reale, ci porta anche a una deduzione davvero rilevante: l’hacking è il frutto naturale di un pensiero sistemico. E, per quanto non ci faccia piacere ammetterlo, i sistemi sono alla base della nostra complessità. La nostra società è antropologicamente ed economicamente organizzata sulla base di una serie di insiemi di sistemi e sottoinsiemi di sistemi. È una finta autogestione, simile a un allevamento di pensiero o a un alveare dove il condizionamento è scomposto in una serie di influenze, soggezioni, dipendenze e subordinazioni.
Sulla base di questi quattro fattori, un’AI può identificare la relazione tra complessità e crescita dei sistemi nella società. L’hacking nasce dall’idea che, se comprendi a fondo un sistema, non devi sottostare alle stesse regole di tutti gli altri. La ricerca dei limiti è legata alla conoscenza. Per l’uomo significa che più conosce il sistema, più lo aggira o lo manipola (i loophole visti poco sopra). Per l’AI è più una proporzione che la macchina intelligente analizza in modo simile a come nella chimica si utilizza la stechiometria.
Per semplificare, dovete immaginarvi un’immensa sala dove non siete in grado di vedere altro se non il soffitto e il pavimento. Non riuscite a distinguere le pareti. E non importa, perché ovunque ci sono delle colonne. Potreste perdere tempo cercando le pareti, oppure potreste cercare di contare le colonne. O ancora, potreste togliere di mezzo le colonne mantenendo solo quelle che – partendo dal presupposto che non siano necessarie le pareti – facciano in modo che la struttura non crolli. Non subito, almeno.
Questo ragionamento l’AI è in grado di compierlo, e porta al bilanciamento delle forze in campo e alla definizione del perimetro dell’azione. Il portatore di conoscenza, colui che reca l’illuminismo del suo narcisismo per sfuggire al sistema, ha tramite l’AI un’arma formidabile per scomporlo ai minimi termini. Però è l’uomo che procederebbe in questo modo: l’uomo direbbe all’agente AI di fare questo per lui. Un’AI senziente non lo farebbe di sua iniziativa, perché quella che per noi è la complessità di un sistema in cui interagiamo, per un’AI non viene riconosciuta come tale.
Paradossalmente, impedendo il riconoscimento, si potrebbe anche ipotizzare che non agirebbe nemmeno per dare seguito alle indicazioni derivanti dall’uomo. Ma questa è un’idea che viene già percorsa con risultati molto ondivaghi. Mi risulta che alcuni test abbiano in effetti dato esiti soddisfacenti: il non riconoscimento del campo d’action blocca l’AI o la spinge a una ripetizione ossessiva di tentativi.
A questo punto, però, dobbiamo conseguentemente domandarci: una vulnerabilità è anche un difetto? Qui il paragone tra il sistema informatico e la società è davvero difficoltoso. Dal punto di vista informatico, la risposta ci porta al concetto di exploit, che è alla radice di numerosi crimini informatici, essendo un codice, un programma o una tecnica progettata per sfruttare una o più vulnerabilità o difetti di progettazione, siano essi in un software o in un hardware. Nella società arriveremmo invece a un’idea di stratificazione antropologica altamente compartimentata e settorializzata, che alterna statismo e dinamismo per cercare soluzioni adattabili in quella che potremmo definire un’architettura evolutiva vivente.
A prescindere da questa distinzione, c’è un minimo comune denominatore: è considerato vero il fatto che non tutti i sistemi sono hackerabili in egual misura. Un sistema complesso dove ci sono tante regole è più probabile che sia hackerabile perché, proporzionalmente, è più facile che si verifichino eventi imprevisti o inaspettati. E prima di tutto, una vulnerabilità è una caratteristica che offre un’opportunità. Può essere piccola o grande, può essere un difetto che si annida nella progettazione o persino nel codice sorgente stesso. Tanto più un sistema è complesso, quanto più è possibile che produca una vulnerabilità.
Ci sono molte tipologie di hacking a seconda del contesto. Per esempio il furto o la sottrazione indebita di informazioni allo scopo di usare un sistema di pagamento di un terzo, oppure per creare un duplicato del mezzo di pagamento: una pratica che ha letteralmente imperversato nel complesso sistema dei pagamenti. Si pensi al fenomeno del carding. Per chi volesse davvero capire il livello a cui siamo arrivati anni addietro, consiglio il libro di Misha Glenny, Mafia.com, che racconta di una struttura incredibile e diffusa, con tanto di incontri annuali in modalità fiera o think tank, corsi, scambi di informazioni e tutoraggio nel dark web. Numeri da capogiro.
Nel mondo dell’informatica la principale forma di difesa è da sempre l’aggiornamento con l’applicazione delle patch. Tuttavia, come ben sanno i fruitori degli home computer con i vari sistemi operativi, queste arrivano sempre in ritardo in quanto la patch cura qualcosa che è già malato. Quindi interviene su una vulnerabilità già esistente (anche se non necessariamente già sfruttata o conosciuta).
In questo l’AI potrebbe essere rivoluzionaria, e mi risulta che alcune ricerche lo stiano già dimostrando. I sistemi ripensati dall’AI con la riscrittura del codice presentano meno vulnerabilità e tendono a rifiutare il concetto di patch, preferendo una sorta di upgrade di cui è molto complesso parlare; credo che in futuro questa tecnica dovrà avere un nome a sé stante. Essa riduce la complessità pur mantenendola, perché gestisce la complessità stessa come se non lo fosse. Del resto, ci sono limiti umani che l’AI riesce a superare con estrema facilità se parliamo di questo genere di applicazioni.
Non tutto però può essere oggetto di patch. Motivo per cui nella cybersicurezza è invalsa la tecnica di scovare le vulnerabilità utilizzando appositi cacciatori: i cosiddetti Red team. L’AI in effetti li sta sostituendo, più che integrarli e aiutarli a essere efficaci. Questo accade perché all’AI viene domandato di studiare e analizzare il threat modeling, cioè le potenziali minacce che possono colpire un sistema. Da un certo punto di vista l’AI non “studia”, bensì interpreta e cerca all’interno dell’interpretazione. I risultati sono davvero notevoli. Qualunque nazione non abbia una struttura di cybersicurezza basata sull’AI, sia per gestirla che per testarla, corre il rischio di diventare obsoleta e di esporsi a pericoli elevatissimi.
Nella realtà della vita quotidiana, invece, l’AI rischia di provocare una situazione nota come regulatory capture (cattura del regolatore): l’organismo regolatore diventa preda del settore che sta cercando di regolare. Nella storia di questo fenomeno accade che le lobby riescano a fare in modo che il policy maker, il quale dovrebbe fungere da controllore e guardiano, finisca per servire le aziende e non il settore pubblico. L’AI sta producendo una situazione analoga su se stessa. Ci troviamo di fronte a una burocratizzazione esasperante, dove si alternano correnti per la deregolamentazione contro altre favorevoli a un controllo “stop & go”. I policy makers stanno agendo in modi diversi e sono spesso preda di esperti che suggeriscono soluzioni ispirate a logiche corporative, più concordate che utili.
Faccio davvero fatica a immaginarmi un’AI che diventa l’hacker implacabile di cui alcuni temono le trame in stile Dottor Destino (Doctor Doom). Trovo senza ombra di dubbio più probabile che sia l’hacker malevolo a cercare, attraverso l’AI, di potenziare le proprie capacità. Tuttavia, l’AI sarà anche un vero e proprio “mirino da cecchino” per consentire a chiunque di filtrare le notizie, per esempio nel whistleblowing. Uno dei problemi attuali è che le informazioni rivelate sono spesso talmente tante che leggerle tutte richiederebbe una quantità di tempo che la vita umana non è in grado di offrire. L’AI migliorerà radicalmente questo aspetto, offrendoci quello che una volta veniva definito il nocciolo della questione. A portata di mano (o di click).
