Guerre di Rete - Padri, padrini, padroni dell'AI

Il dibattito sull'AI. Le gang di ransomware.

Guerre di Rete - una newsletter di notizie cyber
a cura di Carola Frediani
N.160 - 14 maggio 2023

In questo numero:
- C’è ancora tempo per partecipare al nostro crowdfunding
- Il dibattito sull’AI e sul futuro e perché è così difficile
- L’ascesa di LockBit
- I recenti attacchi italiani
- E altro

Partecipa al nostro crowdfunding, diventa Editore di Rete

Subito un aggiornamento sul crowdfunding di Guerre di Rete. In una sola settimana abbiamo raggiunto l’obiettivo minimo (che era di 15mila euro), abbiamo potuto contare su oltre cinquecento donatori (dato aggiornato), e abbiamo ricevuto varie richieste di temi su cui scrivere.
Il crowdfunding (che è previsto fino al 31 maggio) sta comunque andando avanti, incluse le ricompense. E infatti continuano ad arrivare donazioni, idee, messaggi.
Per cui intanto un grande grazie a tutti! Qui trovate il nostro editoriale sul sito, scritto appena raggiunto l’obiettivo minimo.

E per chi volesse ancora partecipare e avere altre informazioni su come funziona il nostro crowdfunding, suggerire temi, partecipare a una conferenza annuale (online) del progetto, ricevere in anteprima dei contenuti aggiuntivi, e altre ricompense, basta cliccare questo bottone:

Da questo pulsante qua sopra raggiungerete infatti la nostra pagina https://donazioni.guerredirete.it/ dove potete donare (con vari metodi) e dove troverete molti più dettagli sulla campagna e il progetto.

INTELLIGENZA ARTIFICIALE
Il dibattito sull’AI e sul futuro, e perché è così difficile
Nella scorsa newsletter abbiamo visto la presa di posizione di Geoff Hinton, uno dei ricercatori più importanti per lo sviluppo del deep learning, sulla corsa all’AI e i suoi rischi. Anche se ho cercato di evitare quell’etichetta, molti media lo hanno definito il padrino dell’AI. Ora il Guardian ha intervistato quello che chiama “il padre dell’AI”, il ricercatore tedesco Jürgen Schmidhuber, attualmente direttore dell’iniziativa sull’AI della King Abdullah University of Science and Technology in Arabia Saudita. Il quale ci fa sapere che la corsa all’AI è inarrestabile.

AI inarrestabile e non dobbiamo preoccuparci, dice Schmidhuber
“Sicuramente non a livello internazionale - dice al Guardian - perché un Paese potrebbe avere obiettivi molto diversi da un altro. Quindi, ovviamente, non parteciperanno a una sorta di moratoria. Ma penso che non la si dovrebbe nemmeno fermare. Perché nel 95% dei casi, la ricerca sull'AI ha a che fare con il nostro vecchio motto, che è quello di rendere le vite umane più lunghe, più sane e più facili".

Bisogna però notare che le sue idee al riguardo erano già così anni fa, e quindi non sarebbero dovute a un’analisi degli ultimissimi sviluppi. Diceva infatti nel 2017, sempre al Guardian: “Molto presto, i decisori più intelligenti e più importanti potrebbero non essere umani. Siamo sull'orlo non di un'altra rivoluzione industriale, ma di una nuova forma di vita, più simile al big bang".

Perché è difficile seguire il dibattito
Dare conto del dibattito in corso comporta una certa fatica. Una fatica espressa questa settimana dal giornalista Casey Newton, che nella sua ultima newsletter - intitolata Perché ho problemi a coprire l’AI - scrive: “Il motivo per cui ultimamente ho difficoltà a occuparmi di AI è che c'è un'elevata varietà nel modo in cui le persone che hanno esaminato la questione più approfonditamente pensano al rischio. Quando l'elenco dei possibili futuri va da un comunismo di lusso pienamente automatizzato alle rovine fumanti della nostra attuale civiltà, da dove dovrebbe iniziare il giornalista? (La risposta abituale è parlare con molte persone. Ma qui le persone interessate dicono cose molto diverse)”.

A questa prospettiva - disegnata da un settore in rapida e tumultuosa evoluzione, ma anche deformata da una quantità di tecnologie, prodotti e applicazioni molto diversi, tutti forzatamente fatti rientrare dentro l’asso pigliatutto chiamato AI -  aggiungerei il carico dell’hype mediatico e finanziario cui stiamo assistendo (del primo ho parlato qua - del secondo ne accenna questo podcast del WSJ in cui si dice che gli investitori stanno correndo a mettere soldi su startup di AI che non hanno nemmeno ancora né modello di business, né nome).

La lettera ai media e ai politici su come viene rappresentata l’AI
A movimentare un po’ il quadro - dato che già ci stavamo annoiando -  questa settimana è arrivata anche una lettera aperta ai media e ai legislatori da parte di alcune ricercatrici e accademicə (si definiscono “donne e persone non binarie”), che lavorano sull’intelligenza artificiale e che chiedono senza mezzi termini di espandere il bacino di esperti sentiti su questi temi.
Riporto frammenti della lettera:
“Per troppo tempo la copertura mediatica delle minacce e dei rischi di questa tecnologia è stata definita dai CEO del settore tech e dai loro dipartimenti di pubbliche relazioni. Nel frattempo, i danni causati dalle stesse continuano a ricadere in modo sproporzionato sulle comunità di cui facciamo parte”.
Abbiamo scritto libri - prosegue la lettera - denunciato alcune delle più grandi aziende tecnologiche, condotto ricerche, “eppure, nelle consultazioni sui rischi e le sfide che queste tecnologie comportano, rimaniamo ai margini. Poiché discutiamo di pericoli reali e attuali e non di fantascienza, le nostre preoccupazioni vengono presentate come trascurabili. Nel frattempo, ex dirigenti di aziende tecnologiche, dopo aver tratto profitto dai sistemi che hanno creato,  diventano improvvisamente attivisti (..) Rifiutiamo la premessa che solo uomini bianchi e ricchi possano decidere cosa costituisce una minaccia esistenziale per la società”.
Firmano varie ricercatrici e accademiche tra cui Timnit Gebru e Safiya U. Noble (e se avevate letto la newsletter scorsa, questa lettera non vi sorprenderà).

AI e il rapporto col potere
Questo genere di critica è portata avanti in modo ancora più profondo e duro da un libro (poco citato, rispetto ad altri) uscito nel 2020 e intitolato: Artificial Whiteness. Politics and Ideology in Artificial Intelligence, di Yarden Katz per la Columbia University Press. Penso che sia il libro di critica più radicale che abbia letto finora sul tema (lo sottolineo perché almeno sapete a cosa andate incontro: è un libro di critica politica e ideologica fortemente angolato). La whiteness a cui si riferisce il titolo è ovviamente un costrutto sociale e un concetto politico: in sostanza, per Katz l’intelligenza artificiale è ed è stata sempre un’etichetta nebulosa che poteva riconfigurarsi al servizio del potere. Per spiegarlo, l’autore tratteggia gli stretti legami tra ricerca, accademia, industria e governi, e in questi ultimi in particolar modo col settore militare. E non si salva quasi nessuno, nemmeno molti degli stessi critici dell’AI, perché incapaci - secondo Katz -  di andare alla radice della questione; perché soffermarsi solo sui dati o sui bias è come spalare acqua durante un’inondazione con un cucchiaino (il libro però è del 2020, e negli ultimi tre anni le voci critiche sono cresciute e si sono approfondite).
Katz sottolinea la presunzione che questi sistemi rappresentino “uno sguardo da nessun luogo” - una “intelligenza” universale non segnata da politica e contesto sociale. Anzi, secondo la sua visione l’AI aspira invece “a essere totalizzante: a dire qualcosa di definitivo sui limiti e potenziali della vita umana”.
La sua critica è molto forte, e sebbene ci siano delle parti delle sue argomentazioni che trovo più deboli, incluse le pagine dedicate alle alternative, prendere anche solo un pezzo di questa prospettiva ci aiuta a capire di più lo scontro di vedute, previsioni e soluzioni a cui stiamo assistendo.
E qui chiudo la parentesi di critica ideologica.

In sintesi
Torniamo alla corsa all’AI. Ricapitolando, da quando questa è andata avanti a briglia sciolta dal lancio di ChatGPT in avanti abbiamo assistito: alla lettera di scienziati e imprenditori assortiti (tipo Musk) che vogliono fermarla per sei mesi; a chi (Hinton), pur non firmando la suddetta lettera, dice di lasciare (Google) per esprimersi in modo più libero sui rischi esistenziali per l’umanità posti da una tecnologia che ha contribuito a sviluppare; a chi ci rassicura (si fa per dire) che l’AI sarà così intelligente che manco ci calcolerà (Schmidhuber); e a chi (la lettera aperta appena citata). sottolinea come molti di questi rischi esistenziali siano una comoda copertura, particolarmente amata da ricchi ricercatori maschi occidentali, per non parlare dei danni o delle storture che questi sistemi hanno già fatto, stanno facendo e continueranno  a fare a chi non rientra in quella ristretta categoria.

Insomma, l’AI non è e non sarà un pranzo di gala. E la diversità di vedute è anche una diversità di visioni politiche, cognitive, ideologiche. Già nel 2020 Jaron Lanier scriveva che “l’AI si comprende di più come ideologia politica e sociale che come un insieme di algoritmi".

E intanto c’è chi propone un progetto Manhattan per la sicurezza dell’AI - il progetto Manhattan fu il piano di ricerca e sviluppo, promosso dal governo degli Stati Uniti, che portò alla progettazione e alla costruzione della prima bomba atomica.
“L'analogia con il Progetto Manhattan non è perfetta, ma aiuta a segnare la differenza con coloro che sostengono che la sicurezza dell'AI richieda di sospendere del tutto la ricerca di modelli più potenti. Il progetto non mirava a rallentare la costruzione di armi atomiche, ma a dominarla”, scrive su Politico l’autore Samuel Hammond, un economista di scuola liberista. C’è ovviamente una contraddizione interna in questa analogia e l’autore se ne rende conto, quando scrive “per certi versi l'obiettivo è esattamente l'opposto del primo Progetto Manhattan, che ha aperto le porte a distruzioni inimmaginabili. Questa volta, l'obiettivo deve essere quello di prevenire distruzioni inimmaginabili, oltre a quelle semplicemente difficili da prevedere”.
Ma il riferimento al progetto Manhattan nasce dall’idea che gli Stati (in questo caso gli Usa) debbano arrivare per primi a dominare una tecnologia nuova, dirompente e anche rischiosa, il che riporta l’AI nel campo della lotta geopolitica e in qualche modo qua ci ricolleghiamo a Katz.

GOOGLE RELOADED
AI nel motore di ricerca, ma con giudizio
In occasione della sua conferenza sviluppatori, Google ha fatto una serie di annunci, molti legati anche all’integrazione di AI nei suoi prodotti. Fra tutte va segnalata una funzione sperimentale del suo motore di ricerca che integra una AI generativa.
“Il motore includerà ancora nelle sue risposte link a siti web, riquadri informativi e annunci”, scrive Wired Italia. “In alcune situazioni, però, nella parte superiore della pagina comparirà anche un testo sintetizzato dall'Ai, che fornirà informazioni reperite da diverse fonti su internet, rimandando alle pagine originali. Gli utenti potranno poi porre al motore di ricerca altre domande per ottenere informazioni più specifiche”.
- AI integrata anche nelle app di Workspace come Gmail e Slides (Il Sole 24 Ore)

Tuttavia, nota The Information, l’introduzione di una AI conversazionale nella ricerca da parte di Google continua ad essere molto cauta e limitata. Insomma, per ora Bard, il chatbot autonomo sviluppato dall’azienda, non viene incorporato nel suo search engine. Tra le ragioni la testata cita i costi, ma anche il fatto che non sarebbe così adatto, come strumento, alla ricerca di informazioni. Ma anche il fatto di non sentire così tanto il fiato sul collo del nuovo Bing con AI. A quanto pare, tra gli utenti di browser su pc, la quota di Bing nel mercato globale della ricerca è cresciuta solo dello 0,25% dal lancio del nuovo Bing, scrive The Information.

CYBERCRIME
L’ascesa dei re dei ransomware
Lo scorso novembre il Dipartimento di Giustizia statunitense ha dichiarato che il loro ransomware è stato usato nel mondo contro almeno mille vittime. Molti, nelle ultime settimane, sono i nomi illustri: si va dalla Royal Mail, la più importante azienda postale britannica, all’autorità per i servizi ai senza dimora di Los Angeles, passando per centinaia di piccole e grandi organizzazioni.
Anche in Italia LockBit “è una delle gang più attive”, dice a Guerre di Rete Riccardo Croce, direttore del Centro nazionale anticrimine informatico delle infrastrutture critiche (Cnaipic) della Polizia postale, aggiungendo che legati ai loro attacchi “sono tutt’ora aperti circa 50 procedimenti penali”.
Analisi del funzionamento di una delle gang cybercriminali più attive, che si dichiara “apolitica e interessata solo ai soldi”.
Come LockBit è diventato il re dei ransomware. Di Rosita Rijtano su Guerre di Rete.

ITALIA
Quanto è costato l'attacco ransomware a Regione Lazio
A proposito di Lockbit. Riscatto a parte - che non sarebbe stato pagato, dicono le autorità - quanto è costata la controffensiva al ransomware che aveva colpito Regione Lazio? Wired Italia ha i conti. “Un contratto di 136.824 euro. Quasi 167mila se si conta anche l'Iva. Ad aggiudicarselo Microsoft, che sigla l'appalto il 5 agosto”.

L'attacco informatico all'Asl 1 dell'Abruzzo si rivela sempre più grave
Nel mentre in Abruzzo, l'Asl 1 L'Aquila è stata colpita dalla gang Monti. “Per giorni, infatti, la prenotazione delle prestazioni sanitarie è rimasta bloccata (...) scrive Wired Italia. “Poi lunedì è arrivata la richiesta di riscatto da parte della cybergang, che ha minacciato l'Asl di rendere pubblici i dati sottratti durante l'attacco: informazioni amministrative, dati personali dei dipendenti, dati medici di pazienti oncologici e di pazienti con Hiv”.

A distanza di un giorno, emergono però altri dettagli ancora più inquietanti. Scrive Luca Zorloni in un successivo articolo di Wired: “​​Nei pacchetti rilasciati da Monti vi sono dati provenienti dal reparto trapianti, lettere di dimissioni, prestazioni dell'attività di riabilitazione, relazioni del reparto di neuropsichiatria infantile, documenti con nomi e cognomi di persone affette da Hiv. E poi documenti relativi agli acquisti, diverse carte intestate, lettere precompilate, ordini di macchinari, medicinali e altre approviggionamenti per l'attività ospedaliera. E poi password e altre chiavi di accesso che hanno consentito ai cybercriminali di scorrazzare dentro al backend dell'Asl abruzzese. In taluni casi le cartelle sono datate 2023, segno che l'incursione ha prodotto un bottino di dati freschi, spesso risalenti a pochi giorni prima dell'attacco, partito nella notte del 3 maggio”.

APPROFONDIMENTI

CYBER
"Guerre di rete: il digitale come arma" - la mia lezione al Politecnico di Torino per la rassegna Tempi Difficili - Biennale Tecnologia - Treccani - YouTube

CRIPTOFONINI
Da un narcos a un banchiere Usa: la storia criminale della società che dota le mafie di telefoni anti-intercettazione - bella inchiesta di Rosita Rijtano e Lorenzo Bodrero su La Via Libera e IRPI media.

AI
AI generativa e la fine della fiducia?
Sapreste riconoscere un testo scritto da una AI? E di fronte all’incertezza, la vostra fiducia generale in quello che leggete cambierebbe? Le risposte sono tendenzialmente no (oppure sì adesso, ma in futuro probabilmente no); e sì.
E poi è possibile pensare a un modello zero trust come nella cybersecurity (verificare tutto, sempre, per capirci) anche per le informazioni che consumiamo e i rapporti sociali online nell’era dell’AI? E torneremo a un nuovo tribalismo? Bel dibattito, misurato, pratico, utile, non ideologico, dello Stanford Cyber Policy Center - VIDEO YouTube (inglese)

AI al volante…. pericolo costante?
What Happens When AI Takes The Wheel? - intervista a Gary Marcus - podcast (inglese)

Thanks for reading Guerre di Rete! Subscribe for free to receive new posts and support my work.