Guerre di Rete - Gelo Mistral

EU, via i lobbisti di Amazon. Musk fa causa a OpenAI. Poi spyware, criptofonini, informazione

(Credits: Michel Fiocchi - https://www.flickr.com/photos/michel_fiocchi/49078949132/)

Guerre di Rete - una newsletter di notizie cyber
di Carola Frediani
N.182 - 1 marzo 2024

(Comunicazioni di servizio)
Specie per i nuovi, ricordo che questa newsletter (che oggi conta più di 13mila iscritti - ma molti più lettori, essendo pubblicata anche online) è gratuita e del tutto indipendente, non ha mai accettato sponsor o pubblicità, e viene fatta nel mio tempo libero. Se vi piace potete contribuire inoltrandola a possibili interessati, o promuovendola sui social. Molti lettori sono diventati sostenitori facendo una donazione.

In più, il progetto si è ingrandito con un sito indipendente e noprofit di informazione cyber, GuerrediRete.it. Qui spieghiamo il progetto. Qui l’editoriale di lancio del sito

→ Nel 2024 si è aggiunta Digital Conflicts, una newsletter bimensile in inglese, che per ora sarà principalmente una trasposizione della newsletter italiana, con alcune aggiunte e modifiche pensate per un pubblico internazionale (e con particolare attenzione all’Europa).
Qui leggete il primo numero.
Qui per iscriversi..

Qui invece potete scaricare gratis il primo ebook di Guerre di Rete che si intitola Generazione AI ed è dedicato agli ultimi sviluppi dell’intelligenza artificiale (uscito a settembre).

In questo numero:
- AI, gelo Mistral
- Parlamento UE: via i lobbisti di Amazon
- Musk fa causa a OpenAI
- Tracciare l’informazione in tempi di AI
- E altro

GELO MISTRAL
Cronaca di una partnership non annunciata

Questa settimana non si può non parlare di Mistral AI. Una startup francese fondata a Parigi meno di un anno fa, nell’aprile del 2023, che nei primi 8 mesi aveva raccolto 500 milioni di euro, per una valutazione che lo scorso dicembre era sui 2 miliardi di dollari. ​​La seconda startup europea di intelligenza artificiale ad aver raccolto tanti fondi, dopo la tedesca Aleph Alpha.

I tre fondatori tecnici arrivano da DeepMind (il CEO Arthur Mensch) e da Meta (Guillaume Lample e Timothée Lacroix). Gli investitori dalla Silicon Valley (più imprenditori e società francesi). Ma tra i fondatori di Mistral (o almeno, cofounding advisor) c’è anche Cédric O, ex ministro francese del digitale, ottimi rapporti col presidente Macron. “Quando l'anno scorso una bozza della legge dell'Unione Europea sull'AI ha minacciato di costringere Mistral a divulgare la sua ricetta di dati, O ha coordinato, con l'appoggio di Macron, uno sforzo franco-tedesco per opporsi a tali disposizioni. Queste sono state debitamente eliminate dal disegno di legge”, scrive in questi giorni L’Economist.

Questo mix tecnopolitico e franco-americano spiega in parte perché, malgrado Mistral si sia presentata come un campione da un lato dell’AI open source (in contrapposizione a quella sempre più chiusa e proprietaria di OpenAI), e dall’altro di un’emergente industria tech europea, l’accordo con Microsoft sia la cronaca di una partnership non annunciata (e questo come vedremo è la pietra dello scandalo), ma non così imprevedibile.

Il 26 febbraio Microsoft e Mistral hanno infatti comunicato “una partnership pluriannuale” in base alla quale la startup metterà a disposizione i propri modelli linguistici sulla piattaforma Azure AI di Microsoft. Si tratta della seconda azienda a farlo dopo OpenAI. Inoltre le due società lavoreranno assieme allo sviluppo e alla distribuzione di modelli linguistici di grandi dimensioni di prossima generazione.

Nell'ambito dell'accordo, Microsoft ha dichiarato di investire in Mistral, anche se i dettagli finanziari non sono stati resi noti, scrive il Financial Times. Bloomberg però riporta un investimento di 15 milioni di euro, che sarà convertito in azioni nell'ambito del prossimo round di finanziamento della startup.

Microsoft ha già investito circa 13 miliardi di dollari in OpenAI, investimento che è al vaglio degli organi di controllo della concorrenza negli Stati Uniti, nell'UE e nel Regno Unito. Dalla Commissione europea hanno fatto sapere che le autorità di regolamentazione analizzeranno l'investimento di Microsoft in Mistral AI e, scrive sempre Bloomberg, la mossa potrebbe portare a un'indagine formale. "La Commissione sta esaminando gli accordi conclusi tra grandi operatori del mercato digitale e sviluppatori e fornitori di AI generativa", ha dichiarato a Politico la portavoce della Commissione europea Lea Zuber.

Ma la faccenda è più spinosa di quanto sembri a prima vista. Nel Parlamento europeo alcuni politici sono descritti da Euronews come “fuori di sé”, anche in considerazione del fatto che il Regolamento europeo sull’intelligenza artificiale (AI Act) è stato emendato per soddisfare proprio le richieste di aziende come Mistral, che dovevano rappresentare gli interessi, da un lato, dei modelli open source, dall’altro, dell’industria nazionale europea.

"A livello tecnico e politico nel Parlamento [europeo] siamo infuriati perché il governo francese per mesi ha sostenuto la tesi della leadership europea, ovvero che queste aziende dovrebbero essere in grado di crescere senza l'aiuto di aziende cinesi o statunitensi", ha dichiarato Kai Zenner, capo ufficio e consulente per la politica digitale di Axel Voss, un eurodeputato del Partito Popolare Europeo (PPE). "Hanno sempre rimproverato al Parlamento di rendere impossibile per i campioni nazionali, gli unicorni, cercare di competere con i loro concorrenti globali", ha detto a Euronews.

Mistral AI - ha aggiunto Zenner - aveva sostenuto che se le sue richieste non fossero state soddisfatte sarebbe stata costretta a collaborare con aziende come Microsoft. "Ora hanno ottenuto tutte le loro richieste, e lo fanno comunque, e trovo che questo sia semplicemente ridicolo".
Considerate le tempistiche necessarie per stringere un simile accordo, e considerato che c’era il trilogo (la negoziazione politica tra le autorità europee) ancora in corso a dicembre, si può capire perché alcuni politici si sentano presi per il naso.

“È un annuncio stupefacente”, ha twittato il giornalista Luca Bertuzzi, che ha seguito passo passo i negoziati sull’AI Act. “Mistral AI, l'azienda francese che ha combattuto con le unghie e con i denti per annacquare le regole sui modelli di base dell'AI Act, sta collaborando con Microsoft. Alla faccia del ‘dateci una possibilità di combattere contro le Big Tech’.
La prima domanda che viene in mente è: questo accordo era in fase di elaborazione mentre si negoziava l'AI Act? Ciò significa che Mistral ha discusso la vendita di una quota di minoranza a Microsoft mentre giocava la carta del ‘campione europeo’ con le istituzioni europee e francesi. (..) L'altra domanda è quanto il governo francese sapesse di questa imminente partnership con Microsoft. Sembra improbabile che Parigi sia stata tenuta all'oscuro di tutto, ma la collaborazione con Big Tech non si sposa bene con la volontà di ‘autonomia strategica’ della Francia”, conclude Bertuzzi.

Dal governo arrivano smentite. La Segretaria di Stato per il Digitale, Marina Ferrari, ha detto che la Francia non sarebbe stata a conoscenza delle discussioni tra Microsoft e Mistral, scrive la testata francese La Tribune.

Come se non bastasse, quasi in contemporanea Mistral annunciava un nuovo modello di linguaggio, Mistral Large. “È stato progettato per competere più da vicino con il modello GPT-4 di OpenAI. A differenza di alcuni dei modelli precedenti di Mistral, non sarà open source”, scrive The Verge.

“La decisione dei fondatori di Mistral indica che gli americani hanno già acquisito una posizione dominante nella corsa all'intelligenza artificiale”, scrive La Tribune.  “Mette brutalmente a nudo una realtà che i governi non vogliono vedere, ovvero che l'indipendenza tecnologica europea rimane, almeno per il momento, un'illusione”.

Un aspetto interessante di Mistral Large, specie per gli utenti europei, è che, a detta della stessa startup, “parla correntemente inglese, francese, spagnolo, tedesco e italiano, con una comprensione approfondita della grammatica e del contesto culturale”.
Infine, Mistral ha anche rilasciato un nuovo chatbot conversazionale, Le Chat, basato su diversi suoi modelli.
Leggi anche il nostro articolo di qualche tempo fa: Macron punta sull’AI nazionale (di Antonio Piemontese).

(Qui apro una parentesi un po’ pedante forse, ma credo ancora necessaria. L’ho provato e scrive in buon italiano. Ma come gli altri LLM è soggetto ad allucinazioni. Quando gli ho chiesto di darmi alcune informazioni su un famoso monumento storico a Genova non solo ha fatto un mix insidioso nei dettagli, ma mi ha fornito un link inesistente di un Comune inesistente (che in realtà è un quartiere da decenni). Ciò detto, una persona non pratica del luogo avrebbe fatto molta fatica a capire che si trattava di un’allucinazione. Questo è un avvertimento che metto non in relazione a Mistral ma per ribadire che tale è il comportamento dei modelli linguistici. Se fossi un insegnante porterei le risposte che mi ha dato a scuola e chiederei alla classe di individuare tutte le informazioni errate, e di spiegare in che modo hanno ricostruito invece le informazioni corrette).

AMAZON ED EU
Il Parlamento europeo sbatte fuori i lobbisti di Amazon

I lobbisti di Amazon saranno banditi dal Parlamento europeo fino a nuovo ordine, dopo che il 27 febbraio un organo interno ha deciso all'unanimità di ritirare i loro badge, riferisce EUObserver. Il divieto fa seguito a una richiesta della commissione per il lavoro del Parlamento, quando gli eurodeputati hanno deciso di intraprendere un'azione contro l'azienda statunitense per non aver collaborato con loro in varie occasioni dal 2021.

La petizione è stata sostenuta da 30 organizzazioni sindacali e della società civile, che - in una lettera del 12 febbraio - definiscono la mancanza di collaborazione di Amazon come un "ostacolo intenzionale al controllo democratico delle attività dell'azienda".
Secondo la stessa lettera, Amazon in più occasioni non avrebbe partecipato ad audizioni sulle condizioni di lavoro nei suoi centri di distribuzione, e avrebbe cancellato visite dei parlamentari europei ai suoi magazzini in Germania e in Polonia. L'azienda - continua la lettera - avrebbe anche omesso di riferire sulle sue affiliazioni a diversi think tank e avrebbe dichiarato un budget per l'attività di lobbying apparentemente troppo basso.

È solo la seconda volta nella storia del Parlamento europeo che viene tolto a un’azienda l'accesso per attività lobbistiche. La prima volta era avvenuto con Monsanto nel 2017, anche in quel caso per non aver partecipato alle audizioni. Questo genere di decisioni sono previste dalle stesse regole del Parlamento Ue, secondo le quali è possibile revocare il badge se una parte “si è rifiutata, senza fornire una giustificazione sufficiente, di ottemperare a una convocazione formale per partecipare a un'audizione o a una riunione della commissione o di collaborare con una commissione d'inchiesta”.

AI
Musk fa causa a OpenAI

La notizia della settimana, oltre a Mistral-Microsoft, è anche l’azione legale di Elon Musk contro OpenAI. In una citazione depositata giovedì al tribunale di San Francisco, Musk sostiene che la partnership di OpenAI con Microsoft abbia trasformato l'organizzazione "in una filiale con codice chiuso" di Microsoft, incentrata sulla massimizzazione dei profitti. Tutto ciò costituirebbe una violazione dell'accordo fatto al momento della creazione della società tra Musk - che, ricordiamolo, ha co-fondato OpenAI nel 2015 ma ne è uscito nel 2018 - Altman e il presidente di OpenAI Greg Brockman. Un accordo che prevedeva di rendere il progetto un'organizzazione non profit e la sua tecnologia open source.
Tra le violazioni presunte, anche quella di aver mantenuto "completamente segreto" il progetto del modello GPT-4 di OpenAI; la citazione sostiene che questa decisione è stata "guidata principalmente da considerazioni commerciali, non dalla sicurezza" e che il modello GPT-4 è ora "un algoritmo di fatto proprietario di Microsoft". 

La causa è "probabilmente una forzatura" - commenta James Denaro, legale esperto di AI, su VentureBeat - poiché gli accordi non escludono chiaramente che OpenAI possa avere tecnologie chiuse/proprietarie o che possa trarne profitto. Tuttavia, Musk avrebbe una giustificazione di policy, se non strettamente legale (policy argument). Ovvero “se un'azienda può essere lanciata come una no-profit che lavora per il bene pubblico, raccoglie donazioni al riparo dalle tasse e poi trasferisce la proprietà intellettuale in un'impresa a scopo di lucro, siamo di fronte a un cambiamento di paradigma molto problematico per le startup tecnologiche”.

Per The Verge invece l’azione di Musk è proprio assurda perché non esiste un contratto alla base che sarebbe stato violato. “L’atto fa riferimento a un "Accordo di fondazione" (founding agreement), ma non è allegato alcun founding agreement e l'accusa di violazione del contratto ammette che il founding agreement è fondamentalmente una discussione raccolta in alcune e-mail”.

Quindi che cosa abbiamo di fronte? Solo la nuova stagione di Silicon Valley, decennale serie tv rinvigorita dalla quantità di investimenti e ideologie immesse nell’ondata di AI generativa. La serie originale però era più divertente.

Qui trovate l’atto di citazione (complaint).

AI E INFORMAZIONE
Costruire una filiera dell’informazione
Qualche giorno fa, commentando l’esplosione dell’intelligenza artificiale generativa (in particolare l’arrivo di Sora, il modello text-to-video di OpenAI) e riportando alcune riflessioni di ricercatori e giornalisti che lavorano con internet e le fonti aperte su come affrontare l’ondata di testi, foto, video sintetici, avevo proposto di rovesciare il paradigma. Invece di preoccuparci solo e tanto di tracciare la filiera dell’AI, pensare semmai di tracciare quella delle informazioni autentiche / verificate / contestualizzate.
(...)
Siccome quelle poche righe hanno attratto un certo interesse, vorrei approfondire la riflessione per spiegare meglio che cosa intendo.(...)
Che cosa succederebbe invece se mettessimo un segnaposto, un cartello stradale, a ogni micro-contenuto informativo?
A volte la cosa è molto banale, basta mettere un link alla fonte. Altre volte questo non è possibile, o non è sufficiente, o il percorso è più accidentato, quindi bisogna ingegnarsi, oltre che aggiungere note di contesto. Attenzione però: non sto proponendo una facile soluzione tecnologica, sto parlando di metodo, approccio, che è anche quello su cui chi fa informazione ha più controllo. E comunque le possibili tecnologie seguono il metodo.(...)
In pratica, immagino una sezione dei media con un centro sulla trasparenza delle fonti, o se preferite un source transparency hub. (..)
Ma il punto è che, se si inserisce in circolo un’immagine o un contenuto di altro tipo, ci deve essere il modo per i lettori che lo vogliano di andare a ricavare facilmente molte più informazioni sull’origine e le sue circostanze. Che possano ripetere e ripercorrere autonomamente il percorso fatto.

Qui sul sito Guerre di Rete si può leggere tutto l’articolo: In tempi di AI, ogni contenuto informativo è re

SPYWARE
Un tribunale statunitense ha ordinato a NSO Group, il produttore israeliano di Pegasus, spyware venduto a molti governi, di consegnare il codice del software e di altri prodotti collegati a WhatsApp nell'ambito del contenzioso in corso con l'azienda.
Si tratta di una prima vittoria legale per WhatsApp, che è in causa contro NSO dal 2019, quando ha denunciato il fatto che lo spyware dell'azienda israeliana sarebbe stato utilizzato contro 1.400 utenti di WhatsApp.
The Guardian

IN BREVE

ITALIA
Il governo promette 150 milioni ai fondi per startup di AI, cybersecurity e 5G
Nel decreto Pnrr vengono assegnati finanziamenti al dipartimento per la Trasformazione digitale e all'Agenzia per la cybersicurezza, per sostenere fondi di venture capital con Cassa depositi e prestiti.
Wired Italia

GIORNALISMO
Julia Angwin (ex ProPublica) ha lanciato una nuova testata, Proof News. Che vuole condurre “inchieste metodologicamente precise, costruire dataset pubblici, collaborare con giornalisti, ricercatori e influencer di tutto il mondo e promuovere le migliori pratiche nella raccolta di prove”.
Nella prima inchiesta hanno testato diversi modelli linguistici di AI per vedere quanto erano accurate le informazioni di tipo elettorale. Spoiler: non lo erano. 

CRYPTOFONINI
La società di Telich, l'uomo che criptava i telefoni di Diabolik, continua a fare affari, scrive Rosita Rijtano su La Via Libera.

Come sono stati hackerati i criptofonini Sky Ecc - altro pezzo di Rosita su La Via Libera.

PAPER
Hallucination is inevitable - arXiv

→ DIFFONDI LA NEWSLETTER
Ti è piaciuta la newsletter? Inoltrala a chi potrebbe essere interessato! Promuovila sui social. La newsletter (che è fatta nel mio tempo libero) resta gratuita, indipendente, senza sponsor, mandanti o agende altrui, e si diffonde col passaparola dei suoi stessi utenti. 

Non sei ancora iscritto? Iscriviti qua, è gratuita.

—> INFO SU GUERRE DI RETE
Guerre di Rete è un progetto di informazione sul punto di convergenza e di scontro tra cybersicurezza, sorveglianza, privacy, censura online, intelligenza artificiale, diritti umani, politica e lavoro. Nato nel 2018 come newsletter settimanale, oggi conta oltre 12.000 iscritti e da marzo 2022 ha aggiunto il sito GuerreDiRete.it.
Nell’editoriale di lancio del sito avevamo scritto dell’urgenza di fare informazione su questi temi. E di farla in una maniera specifica: approfondita e di qualità, precisa tecnicamente ma comprensibile a tutti, svincolata dal ciclo delle notizie a tamburo battente, capace di connettere i puntini, di muoversi su tempi, temi, formati non scontati.
Il progetto è del tutto no profit, completamente avulso da logiche commerciali e di profitto, e costruito sul volontariato del gruppo organizzatore (qui chi siamo).
Ha anche una pagina Facebook, un profilo Twitter,  Linkedin e Instagram. Seguiteli! I podcast della newsletter li trovate sulle principali piattaforme ma attualmente sono in pausa (Apple Podcasts; Spotify; Google Podcast; Anchor.fm)