Note operative Osservatorio

Chi decide quanto in fretta migliora il modello che avete comprato?

7 min di lettura

Macro delle ruote dentate di un movimento meccanico, ingranate fra loro, fotografia in bianco e nero
Il passo lo impone la ruota a monte. Nessuna delle ruote a valle può sceglierselo.

Il piano di adozione dell’IA che avete approvato per il 2027 poggia su una promessa che nessuno vi ha mai messo per iscritto: che il modello su cui state costruendo continuerà a migliorare da solo, al ritmo degli ultimi due anni. Non è una clausola del contratto. È un’assunzione — e da otto giorni i quattro fornitori che la reggono dicono in pubblico il contrario.

Otto giorni

Il 12 settembre 2026 Dario Amodei, amministratore delegato di Anthropic, ha pubblicato sul proprio sito il saggio We Must Pace the Frontier. La tesi sta in una riga: «We must slow the pace at which we improve the capabilities of AI models.» (Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA.) Il piano ha tre passi. Il primo, scrive, Anthropic lo prende da sola: valutatori esterni con permessi simili a quelli dei dipendenti che fanno le stesse verifiche. Il secondo no — le aziende di IA di frontiera dei Paesi democratici devono «coordinate to establish common safety standards as well as limits on the rate of unchecked AI progress» (coordinarsi per stabilire standard comuni di sicurezza e limiti al ritmo del progresso non controllato dell’IA). Il terzo chiama in causa i governi.

Lo stesso testo affronta l’ostacolo giuridico: per ragioni antitrust, scrive l’autore, il governo statunitense dovrebbe «issue a narrow waiver for certain kinds of safety conversations» (rilasciare una deroga ristretta per certi tipi di conversazioni sulla sicurezza). E dice a che cosa serve: rallentare insieme darebbe il tempo di lavorare sulla sicurezza «without sacrificing commercial advantage» (senza sacrificare il vantaggio commerciale).

Nelle ore successive, riferisce Fortune il 19 settembre, i vertici di OpenAI, di SpaceXAI — la società che offre Grok — e di Google DeepMind hanno risposto in pubblico manifestando accordo.

Venerdì 18 settembre quattro abbonati hanno depositato al tribunale federale del Distretto Nord della California una class action contro Anthropic, PBC, OpenAI OpCo, LLC, SpaceXAI LLC e Google LLC: causa n. 3:26-cv-10693, sezione 1 dello Sherman Act. La tesi sta in una frase: «An agreement among competitors to reduce the quality of their products and the rate at which those products improve is an agreement to restrict output.» (Un accordo fra concorrenti per ridurre la qualità dei prodotti e il ritmo con cui migliorano è un accordo per restringere la produzione.) Il confine che i ricorrenti si danno è stretto: contestano solo «an agreement among competitors about how fast their competing products will improve» (un accordo fra concorrenti su quanto in fretta miglioreranno i loro prodotti); ciascuna società resta libera di rallentare da sola.

Interpellate il 19 settembre, le quattro aziende non avevano risposto; nessuna ha depositato una difesa.

Depositato, dichiarato, accusato

Tre livelli, da non confondere. Il saggio è pubblicato dall’autore: fonte primaria, verificabile parola per parola. Le adesioni del 12 settembre sono dichiarazioni pubbliche, riferite da testate maggiori. L’accordo è un’accusa in un atto di parte: non un fatto accertato da un giudice, e potrebbe non esserlo mai.

Per chi compra, però, la distinzione pesa meno di quanto sembri. Anche se la causa si chiudesse con un nulla di fatto, resta il testo da cui è nata: il saggio dice che il ritmo deve scendere, e gli altri tre, secondo Fortune, hanno manifestato accordo. Non è una legge di natura: è una decisione aziendale, e non la prendete voi.

Chi decide se il cambiamento conta

Il regolamento (UE) 2024/1689, all’articolo 3, punto 23, definisce la «modifica sostanziale»: «una modifica di un sistema di IA a seguito della sua immissione sul mercato o messa in servizio che non è prevista o programmata nella valutazione iniziale della conformità effettuata dal fornitore e che ha l’effetto di incidere sulla conformità del sistema di IA ai requisiti di cui al capo III, sezione 2 […]».

Rileggete la condizione al centro: non prevista o programmata nella valutazione iniziale effettuata dal fornitore. Chi programma nella propria valutazione le generazioni successive del modello tiene quei cambiamenti fuori dalla definizione. Decide il ritmo, e decide anche se il cambiamento conta.

Gli obblighi, intanto, restano dove sono. L’articolo 26, paragrafo 2, dispone che «I deployer affidano la sorveglianza umana a persone fisiche che dispongono della competenza, della formazione e dell’autorità necessarie nonché del sostegno necessario». L’articolo 25, paragrafo 1, lettera b), aggiunge che chi apporta una modifica sostanziale a un sistema ad alto rischio già immesso sul mercato è considerato fornitore. E in Italia il quadro si è appena stretto: il d.lgs. 9 settembre 2026, n. 160 — Gazzetta Ufficiale n. 214 del 15 settembre 2026, in vigore dal 30 — adegua la normativa nazionale al regolamento europeo «in materia di utilizzo dei sistemi di intelligenza artificiale per l’attività di polizia e di responsabilità civile e penale», con una nuova fattispecie penale sulla sorveglianza umana omessa.

L’asimmetria è tutta qui: il fornitore governa la velocità del prodotto e la qualificazione giuridica dei propri aggiornamenti, voi rispondete della sorveglianza su un sistema che cambia quando lo decide lui.

Quattro righe da mettere prima del rinnovo

La versione. Non comprate il modello: comprate una versione identificata, con una finestra di mantenimento e un preavviso scritto di ritiro. Senza, l’oggetto del contratto cambia mentre il contratto resta uguale.

La prova. Un insieme di casi vostri, sui vostri documenti, rieseguito a ogni cambio di versione. I confronti pubblici misurano il prodotto del fornitore; questo misura il vostro lavoro.

La data. Legate la documentazione di conformità alla versione validata, con l’esito della prova allegato: se la versione sparisce, sapete che cosa rifare.

L’uscita. Un secondo percorso che potete eseguire voi, provato almeno una volta su dati veri. Se l’alternativa è un fornitore che ha aderito allo stesso ritmo, non è un’alternativa: è lo stesso rischio con un’altra fattura.

Perché un sistema chiuso

Il ritmo diventa vostro: i pesi installati nel vostro perimetro non cambiano la notte in cui un fornitore pubblica un aggiornamento, e la versione validata resta quella per il tempo che serve a voi. La concentrazione smette di essere un rischio: se i quattro coordinano, il mercato non offre più la seconda opzione che avevate messo a piano. La valutazione torna in casa: il primo passo del saggio — valutatori con accesso interno al modello — in un sistema chiuso è una funzione ordinaria, perché i valutatori sono i vostri. La sorveglianza umana diventa dimostrabile, come il regolamento pretende: conoscete versione, parametri e registri. È la ragione per cui lavoriamo su modelli a pesi aperti su hardware presidiato: quello che resta installato conta più di quello che viene annunciato.

I due assi, applicati al caso

Adempiere. Il controllo che mettiamo in esercizio è un registro delle versioni: quale modello ha prodotto quale esito, con quale configurazione e in quale data, e quale prova è stata rieseguita al cambio — la traccia datata da esibire a un’ispezione, nei termini degli articoli 25 e 26 del regolamento (UE) 2024/1689. Non un parere in un PDF.

Decidere. Lo stesso impianto tiene insieme documenti, gestionali, archivi, impianti e sensori in un modello operativo unico, su cui agenti AI eseguono decisioni con un operatore al comando — per grandi imprese, pubblica amministrazione, sanità e difesa. On-premise su macchine autonome che non richiedono integrazione profonda nella vostra rete, oppure cloud dedicato con data center in Italia presidiato da noi, sempre a gestione condivisa: non dovete avere in casa chi amministra i modelli.

Sapreste dire quale versione del modello ha prodotto la decisione che avete preso il mese scorso? Mezz’ora con un nostro tecnico basta per capire da dove si parte.

Quello che non sappiamo

Non sappiamo se esista un accordo: l’atto lo afferma, nessun giudice lo ha accertato, i convenuti non hanno replicato. Non sappiamo quanto rallenteranno davvero, né su quali linee di prodotto: nessuno dei testi pubblici indica una misura. Non sappiamo se il coordinamento toccherà i servizi venduti in Europa, che i documenti citati non nominano, né che cosa dicano i contratti enterprise sul mantenimento delle versioni.

Fonti