3 min read

AI & l'etica a Parole: OpenAI e le Informazioni personali

Primo post della serie "AI: l'etica a Parole." Parliamo dei Termini contrattuali di OpenAI e i potenziali limiti per un'azienda che volesse utilizzare ChatGPT (updated)
immagine generata con Midjourney ispirata al film War Games
Midjourney prompt: still frame from movie "war games" in style of wes anderson - image of a control room at Norad - you can see Matthew Broderick as 20 years old and prof Falken , a lot of computer and main servers WOPR computers 80's --ar 2:1

Primo post della serie "AI: L'etica a Parole."
Se siete iscritti alla mia newsletter da un po' di tempo avete notato come il mio entusiasmo e fiducia si stia andando ad affievolirsi.
Forse ho letto troppi libri di sci-fi, ma quando vedo la leggerezza con cui le aziende che sviluppano AI gestiscono la faccenda mi ha fatto venire in mente più di una volta il film anni 80's "War Games". Esagero?

La privacy di ChatGPT.

Parto col primo primo articolo sulla privacy di ChatGPT. Come molti non vedo l'ora di dare in pasto i miei appunti a GPT-4 e avere indietro informazioni più complesse.

Quando ho fatto i primi test con l'integrazione tra Obsidian e ChatGPT ho creato una nuova sessione, separata da quella coi miei dati.

Il perchè ce lo dice Kate Downing nel suo articolo: Massive Data Grab di OpenAI .

La Dowing è un avvocato specializzato in proprietà intellettuale e ha trascorso tutta la sua carriera lavorando con società di tecnologia software e leggendo i termini e le condizioni d'uso di OpenAI ha trovato delle cose alquante curiose.
Se le avessimo lette anche noi, invece che cliccare su accetto tutto ci saremmo (forse) accorti che la parte sulla riservatezza di OpenAI è unilaterale: include la protezione della riservatezza esclusivamente per le informazioni di OpenAI.
Ciò significa che né gli input forniti a OpenAI né l'output che produce sono trattati come dati riservati da OpenAI.
Ciò è alquanto insolito nel contesto dei fornitori SaaS, che di solito fanno almeno finta e dicono che i dati forniti loro sono riservati.

Ovviamente cercano di limitare la loro responsabilità rispetto alla riservatezza di tali dati nel corso del contratto e ovviamente non sempre la legislazione USA è allineata con quelle Europea.

Ma almeno ci provano, anche il semplice utilizzo di dati di utilizzo prevede un optin obbligatorio.

OpenAI invece sembra di no, io li ho letto e ho letto molti termini vaghi, che di solito indicano presenza di pesci paduli in gran quantità. Vero che OpenAi separa i dati passati attraverso le API rispetto a quelli diretti, ma questa divisione non è così trasparente

Ma il punto non è tanto degli appunti di Manolo (che al massimo prende nota di libri e Jiu-jitsu brasiliano), ma delle aziende che in futuro si integreranno pesantemente con OpenAI.

Cosa succede se c'è fuga di dati? Dati che tu e la tua azienda avete fornito a OpenAI e che adesso chiunque interrogando ChatGPT può avere?

E qui non stiamo parlando solo di Data Set presi senza il permesso usando trucchetti, ma di dati medici, finanziari, politici... tutte cose che by definition sono stati considerati sensibili per l'abuso che se ne può fare.

Se un fornitore di servizi come OpenAI non tratterà nessuno degli dati di un'azienda come riservato, non tratterà nemmeno come riservato alcun input fornito dal cliente di un'azienda o sul cliente di un'azienda. Questo significa che le aziende non possono utilizzare le tecnologie OpenAI per sollecitare o analizzare determinate categorie di dati sul proprio personale, che le aziende sono tenute a mantenere riservate per legge. Ciò riduce drasticamente i casi d'uso legali disponibili per le tecnologie di OpenAI.

Mi piacerebbe avere il confronto con qualcuno esperto in Privacy a livello Europeo per capire meglio questo ultimo punto.
Al momento se da consulente mi chiedessero un parere se aggangiare i propri dati a OpenAI direi di no, ma sono curioso di avere pareri di persone più esperte.

Sono anche curioso di sapere se OpenAI è aperta a negoziare le proprie clausole con aziende europee e/o con peso economico più importante.

Se conosci qualcuno che voglia parlare di questo argomento, taggalo o giragli questa mail. Sarei felice di aggiornare questo post a imperitura memoria.