Garante e OpenAI: vittoria reale o brutta figura celata?

Premessa

“Il garante ha trionfato” è ciò che ho sentito affermare da giornalisti ed esimi colleghi sicuramente più rinomati di me. Considerando che ho approfondito notevolmente il tema dell’intelligenza artificiale negli ultimi mesi, trovo che questa affermazione sia un po’ audace, se non in malafede.

Dal mio punto di vista, il garante ha fatto una brutta figura a livello internazionale un mese fa e, non potendo fare subito dietrofrónt, hanno cercato, con questo accordo, di farlo uscire in maniera “onorevole” da questa débâcle. La toppa però è peggiore del buco, perché proprio di toppe si tratta. Posso interpretare solo così la corsa affannosa con cui una certa parte della stampa generalista e dell’informazione di settore italiana elogia l’iniziativa del garante come vittoriosa, quasi come fosse un duello fra gladiatori nel Colosseo duemila anni fa.

Tuttavia, desidero approfondire ulteriormente il tema.

Prendo come riferimento questo video di Matteo Flora, nel quale espone con chiarezza ciò che è accaduto. Seguo spesso Matteo Flora e lo stimo molto, nonostante raramente concordi con le sue opinioni. Credo infatti che il metodo più efficace per apprendere nuove conoscenze e migliorare noi stessi consiste proprio nel rispettare e nell’ascoltare coloro che hanno idee opposte alle nostre.

Dico la mia sulle varie richieste fatte dal Garante ad OpenAI e su come queste siano state gestite:

Toppa n.1. Migliorare l’informativa sulla privacy spiegando più in dettaglio come OpenAI ha raccolto e trattato i dati personali per l’addestramento degli algoritmi.

Effettivamente questo è stato fatto, sono state aggiunte queste informazioni alle privacy policy, c’è chi dice in maniera superficiale, c’è chi dice in maniera più che esaustiva. Questo non cambia però il dato di fatto che nessuno, o quasi, legga e soprattutto capisca cosa ci sia scritto in queste informative che si tratti di servizi, software, siti internet, dispositivi o di qualunque altro contratto, cartaceo o digitale che sia.

Toppa n.2. Esercitare il diritto di opposizione.

Questo forse è l’unico punto sul quale il garante ha effettivamente vinto in quanto adesso si può scegliere o meno se concedere a OpenAI il diritto di utilizzare le nostre conversazioni per addestrare i propri algoritmi, cosa che comunque prima dichiarava come possibile e non certa; per fare l’addestramento immagino utilizzino delle conversazioni a campione, forse le più interessanti.

È anche vero che adesso OpenAI è disincentivata a offrire il servizio gratuitamente perché il vantaggio nel farlo era proprio avere più dati per l’addestramento dagli utenti non paganti. Vedremo se manterrà o meno questa possibilità. Penso dipenda dalla percentuale di utenti non paganti che si opporranno a questo.

Toppa n.3. Chiedere e ottenere la correzione e/o la cancellazione dei dati personali.

Su questo punto secondo me sono state dette le più grandi inesattezze, ed è questo probabilmente il punto più importante di tutto il “processo”. La richiesta del garante in questo caso non è tecnicamente possibile per come è strutturato ChatGPT se non con delle “toppe”(in realtà è fattibile a costi esorbitanti, rifacendo il training, ma lo vedremo dopo).

Infatti ChatGPT le cose non le sa, ChatGPT conosce solo la corrispondenza statistica fra parole quindi i testi che elabora non sono frutto di sue conoscenze (o presi dal set di dati su cui è stato addestrato) ma vengono generati statisticamente in base a quanto le parole siano correlate fra loro, consiglio la visione di questo video per capirne il funzionamento.

Infatti nel punto 4 (your rights, i tuoi diritti) delle nuove privacy policy di OpenAI c’è scritto:

Given the technical complexity of how our models work, we may not be able to correct the inaccuracy. In that case, you may request that we remove your personal information from ChatGPT’s output by filling out this form.

Che tradotto sarebbe:

Data la complessità tecnica del funzionamento dei nostri modelli, potremmo non essere in grado di correggere l’imprecisione. In tal caso, puoi richiedere di rimuovere le tue informazioni personali dall’output di ChatGPT compilando questo modulo.

Sembra abbastanza chiaro, l’eventuale rimozione poi avverrà a livello di “output” (non di modello iniziale), probabilmente tramite una “toppa” (if/else) del tipo: “se ti vengono chieste informazioni sul sig. Mario Rossi (che ha chiesto la rimozione dei propri dati personali) allora dici di non averne”.

Fare diversamente sarebbe stato molto più complesso e costoso, più o meno come chiedere a una persona di 40 anni che ha imparato una cosa sbagliata in 2a elementare di cancellarsi la memoria e riprendere a imparare di nuovo da quel momento in poi.

Toppa n.4. Inserire il link dell’informativa anche nel flusso di registrazione.

Questa è una formalità, il link è stato inserito.

Toppa n.5. Basi giuridiche.

Questo è il punto che copre le basi giuridiche sull’elaborazione dei dati personali, se prima si forniva il consenso al trattamento dei dati personali per contratto (pena la non possibilità di utilizzare il servizio), adesso queste cose sono state divise (contratto, legittimo interesse e consenso) e le basi giuridiche per gli utenti UE, UK e Svizzera sono state modificate. Anche in questo caso si è modificata la base giuridica del trattamento dei dati, si può richiedere la rimozione dei propri dati dal training (vedi punto 3) ma il modello alla base di tutto rimane invariato.

Toppa n.6. Diritto di opposizione ai dati inseriti durante l’utilizzo di ChatGPT.

Questo punto è ridondante col punto 3.

Toppa n.7 e n.8. Inserire una richiesta agli utenti di auto-dichiarare la proria età.

Possono accedere al servizio solo i maggiorenni e i maggiori di 13 anni col consenso dei genitori, basta dichiarare con un click su [SI] oppure [NO]. Questa parte (7) è provvisoria perché entro settembre OpenAI dovrà trovare una soluzione più “idonea” (8) per evitare che i minorenni dichiarino il falso per utilizzare il servizio. Non so come sia possibile questa cosa senza il dover inviare un documento di identità ad OpenAI; a mio parere questa eventualità qualora dovesse verificarsi lederà ancora di più la nostra privacy.

Toppa n.9. Campagna pubblicitaria per informare le persone.

D’accordissimo, ma a modo mio, ne parlo nelle conclusioni.

Mie considerazioni finali

Purtroppo le battaglie legali per “regolamentare” questo settore sono appena iniziate e le istituzioni, soprattutto quelle sovranazionali, faranno come sempre le cose “a modo loro”. Ne parlo tanto nel mio ultimo libro dIAlogo, pubblicato poco più di un mese fa in tempi non sospetti. La parte in cui discuto delle problematiche legate alla privacy è la più corposa e quasi ho anticipato quello che poi è successo. La mia paura è che, come sempre, le istutuzioni con il pretesto di proteggere i “deboli” promulghino regolamentazioni e leggi che invece ne danneggiano o ne copromettano i diritti.

La mia soluzione? É utopica.

Tornando al punto 9. L’unico modo, a mio avviso, per proteggere la nostra privacy è la conoscenza. A che serve costruire tutte queste finte “barriere” da buttare giù con un click inconsapevole su “accetta“? Quali sono le implicazioni del non sapere le possibili conseguenze del pubblicare tutta la nostra vita sui social? E del non sapere come funzionano gli algoritmi degli strumenti che utilizziamo e come manipolano le nostre percezioni?

La maggior parte delle persone oggi non si fa più domande perché nei loro feed e sui motori di ricerca ricevono conferma alle loro stesse credenze e convinzioni non rendendosi conto che è proprio questo lo scopo di queste piattaforme: cullarli in una prigione ovattata.

Guardate i documentari “The Great Hack – Privacy violata” e “The Social Dilemma”, ma guardateli con spirito critico dato che hanno entrambi dei bias, voluti o meno dai produttori, tendenti al politicamente corretto. Dietro al politicamente corretto, tanto voluto dalla corrente intellettuale dominante, e qui mi piace citare il sempre attuale articolo l’Intellettuale ma Idiota di Nassim Nicholas Taleb, raramente si nasconde l’attendibilità e l’obiettività.

Quest’anno ho concluso un PCTO triennale con i ragazzi di una scuola superiore che fra poco più di un mese si diplomeranno. Abbiamo parlato di Intelligenza Artificiale e ogni settimana ad ogni nuovo incontro c’erano delle novità da discutere con loro. Spero di avergli insegnato almeno una cosa. Quella di informarsi e prendere sempre le decisioni con la propria testa.