Guerre di Rete - AI, effetto Bruxelles
Poi la piattaforma per la raccolta firme referendum. Anonymous Sudan.
Guerre di Rete - una newsletter di notizie cyber
a cura di Carola Frediani
N.164 - 25 giugno 2023
In questo numero:
- AI Act, effetto Bruxelles
- AI: Biden accelera, ascolta i rischi, cerca finanziatori
- Se infermiera e AI non sono d’accordo
- Microsoft e Anonymous Sudan
- Che fine ha fatto la piattaforma per il Referendum digitale?
- Altro
AI ACT
L’effetto Bruxelles sui modelli di AI
Ora che l’AI Act, il regolamento Ue sull’intelligenza artificiale, è più vicino ed ha assunto una prima forma (la bozza approvata il 14 giugno dall’Europarlamento che però dovrà ancora passare per il campo minato delle negoziazioni tra Parlamento, Consiglio e Commissione note come triloghi, come spiegato nella scorsa newsletter), come si pongono i modelli di base (foundation models, come quelli che hanno dato vita a ChatGPT) rispetto agli obblighi e requisiti previsti dalla prossima legislazione europea?
Se lo chiedono dei ricercatori dell’americana Stanford University e la risposta è (in sintesi) la seguente.
Quanto sono conformi all’AI Act gli attuali modelli di base?
I principali fornitori di modelli di base attualmente non sono conformi ai requisiti preliminari previsti. Raramente forniscono informazioni adeguate sui dati usati, sulle risorse di calcolo così come sulle caratteristiche chiave dei modelli. In particolare non danno informazioni sull'uso di dati di addestramento protetti da copyright, sull'hardware utilizzato, sulle emissioni prodotte durante l'addestramento, e su come valutano e testano i modelli. E tuttavia questi stessi fornitori di modelli di base possono in realtà adeguarsi all'AI Act, e anzi il fatto di doverlo fare migliorerà la trasparenza in tutto l'ecosistema.
Scrivono i ricercatori: “I modelli di base sono al centro del discorso globale sull'AI: il paradigma tecnologico emergente ha un impatto concreto e crescente sull'economia, sulla politica e sulla società. Parallelamente, la legge europea sull'AI è la più importante iniziativa normativa sull'intelligenza artificiale al mondo. La legge non solo imporrà requisiti per l'AI nell'UE (...) ma creerà anche un precedente per la regolamentazione della stessa in tutto il mondo (l'effetto Bruxelles). I politici di tutto il pianeta si stanno già ispirando a questa legge e le aziende multinazionali potrebbero modificare le loro pratiche globali per mantenere un unico processo di sviluppo”.
In conclusione, aggiungono, “la conformità dei fornitori di modelli di base ai requisiti in materia di copyright, energia, rischio e valutazione [previsti dall’AI Act, ndr] è particolarmente scarsa e indica le aree in cui possono migliorare. La nostra valutazione mostra un netto divario tra i modelli aperti e chiusi: riteniamo in ogni caso che tutti i fornitori possano migliorare la loro condotta”.
A corredo di questa valutazione c’è una bella tabella in cui sono valutati tutti i maggiori fornitori di modelli di base rispetto ai parametri previsti dall’AI Act: trasparenza sull’origine dei dati, la loro governance, la presenza di materiali soggetti a copyright, il consumo di energia e risorse di calcolo, rischi e mitigazioni, valutazioni, testing ecc. Chi ne esce meglio è BLOOM, il modello linguistico di grandi dimensioni e open source lanciato dalla startup Hugging Face insieme ad altri ricercatori. Seguito da un altro modello open, GPT-NeoX. Ma potete guardare voi stessi la scheda qua.
AI Act, partono i triloghi
Tornando dunque all’AI Act, il primo trilogo sotto la presidenza spagnola si terrà il 18 luglio, nota il giornalista Luca Bertuzzi. Proprio in quell'occasione verrà discussa la proposta del correlatore della legge, Brando Benifei, di anticipare l'entrata in vigore per i modelli di base e di AI generativa (ne avevo scritto nella scorsa newsletter). Seguiranno le date del 26 settembre e del 26 ottobre. “L'idea è di chiudere Art30-55 sulle procedure amministrative, gli standard, la valutazione della conformità, la trasparenza e l'innovazione prima della pausa estiva”, twitta ancora Bertuzzi.
Le pressioni di OpenAI (e altre aziende tech)
E già da questo primo appuntamento a luglio ci potremo aspettare un notevole dispiegamento di lobbying, anche considerato quello che è già avvenuto. Nei giorni scorsi la rivista TIME ha infatti pubblicato un documento di OpenAI, un white paper che fu mandato nel settembre 2022 dalla società americana a rappresentanti della Commissione e del Consiglio europei. Il documento, insieme a una serie di incontri a porte chiuse - scrive TIME - mostrerebbe lo sforzo dei fornitori di ChatGPT e DALL-E per non far classificare le AI general purpose, che possono eseguire una serie disparata di funzioni (come GPT-3, stando alla definizione contenuta in documenti europei) come sistemi ad alto rischio, soggetti a maggiori restrizioni. E, sempre secondo TIME, il fatto che nell’attuale formulazione dell’AI Act i modelli di base stiano in una categoria a parte sembrerebbe un successo degli sforzi lobbistici (anche se l’AI Act impone comunque una serie di obblighi di trasparenza e di altri requisiti ai fornitori di modelli di base, requisiti che come spiegato nella parte iniziale dello studio di Stanford costringeranno le aziende a prendere una serie di misure).
USA
Biden accelera, ascolta i rischi, cerca finanziatori
Mentre l’Europa, nel bene o nel male, viene guardata con attenzione dal resto del mondo sulla regolamentazione dell’AI, anche l’amministrazione Usa cerca di accelerare.
In settimana il presidente Biden ha incontrato a San Francisco un gruppo di esperti di AI e di accademici (alcuni dei quali piuttosto critici sull’andamento attuale del business dell’AI) per avere una prospettiva non industriale sui rischi e le opportunità di questa tecnologia.
Fonti governative - riporta CNN - sostengono di aver gettato le basi per diverse azioni politiche che saranno presentate quest'estate - tra cui degli ordini esecutivi - per massimizzare l'effetto delle normative esistenti sull'intelligenza artificiale e stabilire nuovi confini.
"Non si tratta di un settore in cui aspettare anni per essere regolamentato. Il tempo si misura in settimane", ha dichiarato il capo dello staff di Biden, Jeff Zients, secondo i media una delle figure chiave di questa accelerazione. "La velocità è davvero importante. Se si agisce troppo lentamente, quando si agisce si rischia di rimanere indietro e di essere superati dalla tecnologia”.
La strategia Usa partirà sicuramente dal Blueprint for an AI Bill of Rights (Programma per una Carta dei Diritti dell'Intelligenza Artificiale) di 73 pagine pubblicato a ottobre. E da provvedimenti come l’ordine esecutivo firmato da Biden che indirizza le agenzie federali a eliminare i pregiudizi nelle tecnologie artificiali utilizzate dal governo e a combattere la discriminazione algoritmica, annunciando 140 milioni di dollari per lanciare nuovi istituti di ricerca sull'AI.
Tuttavia va anche notato che l'incontro è avvenuto mentre Biden sta intensificando gli sforzi per raccogliere fondi per la sua candidatura alla rielezione del 2024, anche da miliardari del settore tecnologico. “Lunedì, durante la sua visita alla Silicon Valley, ha partecipato a due raccolte di fondi, tra cui una organizzata dall'imprenditore Reid Hoffman, che ha numerosi legami con le aziende di AI”, scrive il Los Angeles Times. Hoffmann è uno dei primi investitori di OpenAI, che ha creato ChatGPT. Non solo. “Sebbene Biden sia stato critico nei confronti dei giganti tecnologici, i dirigenti e i lavoratori di aziende come Apple, Microsoft, Google e Meta - la società madre di Facebook - hanno contribuito con milioni di dollari alla sua campagna presidenziale per il 2020”.
Questo mentre gli esperti meno allineati con l’industria gli chiedono di investire nel settore pubblico.
AI
Cosa succede se l’infermiera non è d’accordo con l’AI
Si parla molto di regolamentazione e rischi ma dagli Usa arriva un esempio pratico molto interessante e inquietante. Un esempio che mostra come non sia sufficiente dire genericamente che gli umani avranno la parola finale su questioni fondamentali, anche quando affiancati da sistemi di AI. E non solo per il rischio di essere condizionati dalla presunta oggettività e scientificità della macchina. Ma anche perché spesso sono inseriti in un contesto istituzionale in cui “sovrascrivere” la decisione della macchina ha dei rischi.
Il WSJ racconta la storia di un’esperta infermiera di oncologia, che si è accorta come un allarme di un sistema di AI che attribuiva una sepsi a un paziente fosse sbagliato. L'allarme metteva in relazione un'elevata quantità di globuli bianchi con un'infezione settica ma non teneva conto del fatto che quel particolare paziente fosse affetto da leucemia, che può causare dati simili. D’altra parte, il sistema non spiegava la sua decisione. Ora la questione è che, scrive il WSJ, “le regole dell'ospedale prevedono che gli infermieri seguano i protocolli quando un paziente viene segnalato per la sepsi. Anche se Beebe (l’infermiera, ndr), qualora ottenga l'approvazione del medico, può ignorare il modello di intelligenza artificiale, se sbaglia - dice - rischia un'azione disciplinare. Quindi l’infermiera ha seguito gli ordini e ha prelevato il sangue dal paziente, anche se ciò avrebbe potuto esporlo a un'infezione e far lievitare il conto. Quando un algoritmo dice: "Il paziente sembra settico", non posso sapere perché. Devo farlo e basta", ha detto Beebe, che è rappresentante del sindacato California Nurses Association presso l'ospedale. [Ma] come sospettava, l'algoritmo era sbagliato”.
RICONOSCIMENTO FACCIALE
No di musicisti e artisti al riconoscimento facciale ai concerti
Oltre 100 artisti, tra cui i co-fondatori dei Rage Against the Machine Tom Morello e Zack de la Rocha, hanno annunciato il boicottaggio di tutti i concerti che utilizzano la tecnologia di riconoscimento facciale, sostenendo che questa violi la privacy e aumenti la discriminazione. Il boicottaggio è organizzato dal gruppo per i diritti digitali Fight for the Future, e chiede di vietare questa tecnologia in tutti gli eventi dal vivo. La raccolta firme qua.
Rolling Stone
HACKING
Microsoft nel mirino di Anonymous Sudan
Microsoft ha confermato che alcune interruzioni del servizio che hanno interessato Azure, Outlook e OneDrive a inizio giugno sono state causate da attacchi DDoS contro i servizi dell'azienda. Gli attacchi sono stati attribuiti a un soggetto che si fa chiamare Anonymous Sudan, attivo da gennaio quando ha avvertito che avrebbe condotto operazioni contro qualsiasi Paese che si opponesse al Sudan. Da allora, il gruppo ha preso di mira con attacchi DDoS e leak organizzazioni e agenzie governative in tutto il mondo, soprattutto americane, chiedendo soldi per fermare le aggressioni. Il gruppo ha giustificato alcune azioni come protesta contro il coinvolgimento degli Stati Uniti nella politica sudanese.
Tuttavia, alcuni ricercatori di cybersicurezza ritengono che il gruppo sia invece legato alla Russia. Il legame è apparente quanto meno nell’alleanza con gruppi russi come Killnet e REvil.
(via Apnews - Bleeping computer)
ITALIA
Che fine ha fatto la piattaforma per la raccolta firme di referendum?
Ancora ritardi sul sito che doveva garantire il diritto dei cittadini a sottoscrivere a distanza la raccolta firme per referendum o iniziative di legge popolare.
"In assenza di una piattaforma pubblica per le firme digitali – dichiara Lorenzo Mineo – dobbiamo evidenziare come dal 2010 non ci siano stati referendum di iniziativa popolare, dal basso, ma solo promossi su iniziativa dei partiti, quindi tramite la proposta di consigli regionali oppure di maggioranze parlamentari. La condanna dell’ONU servì a far ampliare la platea dei certificatori e, successivamente, a far approvare la realizzazione della ormai famosa piattaforma digitale pubblica per la sottoscrizione dei referendum”.
Che fine ha fatto, allora, la piattaforma che l’allora Ministro per l’Innovazione Vittorio Colao aveva dato per “fatta” già diversi mesi fa?
Ne scrive la nostra Sonia Montegiove in Aspettando ancora la piattaforma per il Referendum Digitale su Guerre di Rete.
ACN
Quanti soldi ha speso finora l'Agenzia nazionale per la cybersecurity
Nel 2022 ha impegnato oltre 70 milioni dei 623 che ha in dote con il Pnrr. Sostegno ai ministeri, agli enti locali ma anche alle aziende per creare laboratori di prova. I dati della prima relazione annuale.
Scrive Zorloni: “All'inizio di giugno, per esempio, Frattasi ha istituito la commissione per scegliere i partner per i programmi di accelerazione per startup, uno dei binari per sostenere l'innovazione in campo cibernetico. Ossia creare e far crescere aziende con tecnologie che possono rivoluzionare il settore. Si sono fatti avanti oltre venti operatori: dal Fondo nazionale innovazione di Cassa depositi e prestiti alla filiale italiane dell'acceleratore Plug and Play, dagli specialisti italiani, come Lventure, Nana Bianca e Digital magics, ad aziende come Leonardo e Accenture. E ora, con il trasloco dei dati dei primi ministeri, sta entrando nel vivo la partita del cloud nazionale, nella quale ha voce in capitolo anche l'Agenzia” - Wired Italia
- Intanto l’ACN e il Ministero dell’Università e della Ricerca hanno pubblicato un documento (Agenda di ricerca e innovazione) con “i temi prioritari di ricerca nel campo della sicurezza cibernetica” da qui al 2026.
WHATSAPP
Whastapp ha introdotto la possibilità di silenziare le chiamate dai numeri sconosciuti. Si attiva in Impostazioni > Privacy > Chiamate. Le chiamate provenienti da numeri sconosciuti vengono silenziate, ma resteranno come notifiche nelle chiamate in arrivo. (via TechCrunch)
APPROFONDIMENTI
TIKTOK
Aziende americane ipnotizzate da TikToK
“TikTok è diventato un elemento imprescindibile per chiunque gestisca un'attività commerciale rivolta ai consumatori”, scrive il WSJ. “...l'app social si è dimostrata una forza nel marketing e nei media e ha aiutato i brand a monitorare le tendenze dei consumatori. Secondo il CEO Shou Chew, cinque milioni di aziende utilizzano la piattaforma. (...) Che è diventata anche una forza dirompente nella ricerca e nello sviluppo”, stravolgendo le modalità convenzionali sui cicli dei prodotti, i test, la produzione.
CINA
Asilo su Reddit
Mentre la Cina stringe la morsa sulla libertà di parola online, le comunità bandite dall'internet cinese hanno trovato rifugio su Reddit.
Rest of the World
COMUNITA’ INDIGENE E TECH
Le comunità indigene si stanno rivolgendo a tecnologie di mappatura come il GPS e i sistemi informativi territoriali (GIS), e in alcuni casi alla fotografia via drone, per documentare la loro terra nativa. Una volta mappata a sufficienza, possono chiedere che questa sia legalmente riconosciuta come terra nativa protetta e lottare in tribunale contro le intrusioni illegali delle società di disboscamento e le piantagioni.
Rest of the World
MEDIA E BIG TECH
“L’equo compenso ai giornali o forme di licensing sui contenuti come quelle che gli editori stanno contrattando con Google e OpenAi per l’allenamento dei chatbot sono alla fine solo mancette come riflette la Columbia Journalism Review 2023.
Serve probabilmente qualcosa di più radicale per salvare la funzione democratica dell’informazione. Una revisione della normativa antitrust”, scrive Agenda Digitale.
→ DIFFONDI LA NEWSLETTER
Ti è piaciuta la newsletter? Inoltrala a chi potrebbe essere interessato! Promuovila sui social. La newsletter (che è fatta nel mio tempo libero) resta gratuita, indipendente, senza sponsor, mandanti o agende altrui, e si diffonde col passaparola dei suoi stessi utenti.
Non sei ancora iscritto? Iscriviti qua, è gratuita.
—> INFO SU GUERRE DI RETE
Guerre di Rete è un progetto di informazione sul punto di convergenza e di scontro tra cybersicurezza, sorveglianza, privacy, censura online, intelligenza artificiale, diritti umani, politica e lavoro. Nato nel 2018 come newsletter settimanale, oggi conta oltre 12.000 iscritti e da marzo 2022 ha aggiunto il sito GuerreDiRete.it.
Nell’editoriale di lancio del sito avevamo scritto dell’urgenza di fare informazione su questi temi. E di farla in una maniera specifica: approfondita e di qualità, precisa tecnicamente ma comprensibile a tutti, svincolata dal ciclo delle notizie a tamburo battente, capace di connettere i puntini, di muoversi su tempi, temi, formati non scontati.
Il progetto è del tutto no profit, completamente avulso da logiche commerciali e di profitto, e costruito sul volontariato del gruppo organizzatore (qui chi siamo). Non ha sponsor né pubblicità, né aziende o lobbies alle spalle.
Ha anche una pagina Facebook, un profilo Twitter, Linkedin e Instagram. Seguiteli! I podcast della newsletter li trovate sulle principali piattaforme ma attualmente sono in pausa (Apple Podcasts; Spotify; Google Podcast; Anchor.fm)