IT EN
Prenota un incontro

Note operative Normativa

Si può addestrare un modello AI sui dati personali dei clienti? Che cosa chiede il GDPR

5 min di lettura

Se avete anni di richieste all’assistenza, di contratti o di pratiche chiuse, e pensate di usarli per addestrare un modello AI sul vostro lavoro, il responsabile della protezione dei dati (DPO) vi farà presto una domanda: lì dentro ci sono nomi, indirizzi e telefoni dei clienti, si può? Sì, a certe condizioni. La prima cosa da sapere è che i dati possono restare dentro il modello.

Il modello può contenere i dati

Addestrare un modello vuol dire cambiare i suoi pesi, i numeri che decidono come risponde. Rifinirlo (fine-tuning) vuol dire fare lo stesso su un modello già pronto, con meno esempi.

Il Comitato europeo per la protezione dei dati (EDPB), che riunisce i garanti dell’Unione, lo ha scritto nel parere 28/2024 del 17 dicembre 2024: le informazioni usate per l’addestramento, dati personali compresi, «may still remain ‘absorbed’ in the parameters of the model», possono restare assorbite nei parametri del modello. Quindi «AI models trained on personal data cannot, in all cases, be considered anonymous», i modelli addestrati su dati personali non si possono considerare sempre anonimi.

Un modello è anonimo solo se è trascurabile la probabilità di estrarne i dati delle persone, anche con domande mirate, e chi lo sostiene lo deve dimostrare. Il parere vale per lo sviluppo e per l’uso dei modelli, e fra le fasi nomina anche il fine-tuning. In pratica il modello rifinito si tratta come i dati da cui viene, finché non si dimostra il contrario.

Serve una base giuridica

Il GDPR non è cambiato per l’AI. Il 19 novembre 2025 la Commissione europea ha proposto un articolo dedicato, l’88 quater, sul trattamento «nel contesto dello sviluppo e del funzionamento di un sistema di IA»; a inizio novembre 2026, secondo la nostra ricerca su EUR-Lex, la proposta non risulta adottata. Vale il testo del 2016.

La base giuridica esaminata dall’EDPB è il legittimo interesse (art. 6, paragrafo 1, lettera f)): il trattamento dev’essere «necessario per il perseguimento del legittimo interesse del titolare del trattamento o di terzi, a condizione che non prevalgano gli interessi o i diritti e le libertà fondamentali dell’interessato». Per le autorità pubbliche, nell’esecuzione dei loro compiti, lo stesso articolo esclude questa strada.

L’EDPB fa tre controlli: l’interesse dev’essere lecito, preciso e reale; il trattamento necessario; i diritti delle persone non devono prevalere. Sulla necessità è netto: «If the pursuit of the purpose is also possible through an AI model that does not entail processing of personal data, then processing personal data should be considered as not necessary», se lo scopo si raggiunge anche con un modello che non tratta dati personali, trattarli non è necessario.

Capita spesso: per insegnare a un modello a smistare le richieste o a rispondere nel vostro stile, i nomi non servono. E i fatti il modello li può leggere al momento della domanda, senza averli nei pesi: ne abbiamo scritto in addestrare l’AI sui documenti aziendali o farglieli leggere?

Poi c’è quello che i clienti si aspettano. Se i dati sono stati raccolti per dare un servizio, addestrarci un modello può essere una finalità nuova, e l’art. 6, paragrafo 4, chiede di valutare fra l’altro il «contesto in cui i dati personali sono stati raccolti». Una riga nell’informativa non basta: per l’EDPB, che l’addestramento sia scritto nella privacy policy «does not necessarily mean that the data subjects can reasonably expect it to happen», non vuol dire per forza che le persone se lo possano aspettare.

Per i dati sulla salute e le altre categorie particolari l’art. 9 vieta il trattamento salvo le eccezioni che elenca, e il legittimo interesse non è fra queste.

Togliere i nomi prima, non dopo

La misura più semplice fra quelle elencate dall’EDPB è sostituire negli esempi nomi e indirizzi email con altri finti: può essere «particularly appropriate when the actual substantive content of the data is not relevant to the overall processing», adatta soprattutto quando il contenuto preciso di quei dati non conta per lo scopo, e l’esempio che fa è proprio l’addestramento dei modelli linguistici. Le altre: filtrare prima i dati personali che non servono, pseudonimizzare, provare se il modello restituisce i dati quando lo si interroga. Togliere i nomi però non sempre basta, come abbiamo visto in basta togliere i nomi da un documento per darlo a ChatGPT?

Dove si addestra

Se la rifinitura la fa un servizio esterno, i dati e il modello rifinito stanno da lui. Di norma è un trattamento per conto vostro: il fornitore va scelto fra chi presenta «garanzie sufficienti» e il rapporto va regolato da un contratto (art. 28). E conta dove resta il modello rifinito, e chi lo può interrogare.

CSIDIA, che pubblica queste note, addestra e rifinisce modelli a pesi aperti sul compito di aziende ed enti che hanno dati da non far uscire, e li fa lavorare sulla propria infrastruttura di calcolo o presso il cliente (on-premise). Una regola che applichiamo a noi stessi, scritta nell’ottobre 2026: i manuali tecnici dei clienti li legge solo l’AI che gira sulle nostre macchine, mai un modello in cloud. Per i dati personali che trattate vale lo stesso metodo: decidete per iscritto, prima, quale modello vede quali dati, e dove. Un modello a pesi aperti, addestrato sul vostro lavoro, su quel lavoro fa meglio dei grandi modelli generalisti, e quello che impara resta vostro.

Che cosa fare prima di addestrare

  1. Scrivete lo scopo del modello e chiedetevi se, per raggiungerlo, servono davvero dati personali.
  2. Con il responsabile della protezione dei dati, mettete per iscritto i tre controlli del legittimo interesse e valutate se serve la valutazione d’impatto (art. 35).
  3. Togliete o sostituite nomi, email, numeri e quello che non serve allo scopo; tenete fuori le categorie particolari.
  4. Trattate il modello rifinito come i dati da cui viene: chi lo usa, dove sta, quando si cancella.
  5. Provate a fargli dire i dati delle persone presenti negli esempi, e annotate il risultato.

Scritto con l’aiuto dell’AI e verificato da CSIDIA.

Fonti