Note operative Osservatorio

Soofi S, modello aperto europeo su una sola GPU: si può già usare in azienda?

7 min di lettura

Diga in calcestruzzo con una lunga fila di paratoie di scarico, sotto un cielo carico di nuvole
Un’opera costruita una volta con denaro pubblico e poi usata da tutti: è la stessa promessa dei modelli aperti finanziati dagli Stati.

Il 10 luglio 2026 un consorzio tedesco ha depositato su arXiv la scheda tecnica di Soofi S 30B-A3B e caricato i pesi su Hugging Face; il 22 luglio ne ha pubblicato la terza revisione. È il modello aperto più capace mai uscito da un progetto europeo finanziato con denaro pubblico, e gira su una macchina sola invece che su un cluster: per chi valuta l’AI on-premise sembra la risposta a tutte le domande sulla sovranità. Prima di metterlo in un business case, però, conviene leggere una riga della scheda: «This model is not an open release».

I fatti, in ordine

  • Chi. Il consorzio SOOFI — «Sovereign Open Source Foundation Models» — è coordinato dalla KI Bundesverband con Fraunhofer IAIS, DFKI, TU Darmstadt e hessian.AI, e finanziato dal Ministero federale tedesco dell’Economia dentro l’IPCEI-CIS: il progetto europeo su cloud e servizi di prossima generazione approvato dalla Commissione il 5 dicembre 2023, sette Stati membri, Italia compresa, fino a 1,2 miliardi di euro di aiuti pubblici.
  • Che cosa. Un ibrido Mamba-2/Transformer con architettura Mixture-of-Experts: 31,6 miliardi di parametri totali, circa 3,2 miliardi attivati per token. Cinquantadue livelli, 128 esperti instradati più 2 condivisi, contesto fino a 1.048.576 token. Lingue principali inglese e tedesco; francese, italiano e spagnolo con copertura dichiarata limitata.
  • Come. Circa 26,68 trilioni di token, dal 24 marzo al 13 maggio 2026, su un massimo di 512 GPU NVIDIA B200 per circa 253.000 GPU-ora, nella German Industrial AI Cloud di Deutsche Telekom a Monaco. Nel paper: aggregato inglese 70,1, tedesco 79,1, HumanEval pass@1 al 73,8%, e parità dichiarata con modelli densi da 14 a 27 miliardi di parametri.
  • In che stato. Su Hugging Face ci sono la Base e tre checkpoint intermedi (Instruct, Rhine, Isar), con build GGUF, FP8 e quantizzazioni a 2, 3 e 4 bit, tutti ad accesso condizionato e in beta chiusa. La scheda promette al futuro un rilascio «con licenza permissiva, senza accesso condizionato»; il sito del consorzio conferma che la pubblicazione generale per l’uso diretto non è ancora avvenuta.

I numeri per dimensionare l’hardware

Il conto della memoria si fa sui byte, non sui parametri: 31,6 miliardi pesano circa 63 GB in BF16, circa 32 GB in FP8, circa 16 GB a 4 bit. La versione a 8 bit entra in una singola GPU professionale da 48 GB con spazio residuo per la cache, quella a 4 bit in una scheda da 24 GB. Non serve un cluster: serve una macchina.

Con 3,2 miliardi di parametri attivi il calcolo per ogni token è quello di un modello piccolo, mentre la qualità è quella di un modello dieci volte più grande: la stessa GPU serve più utenti insieme. E i livelli Mamba-2 tengono la cache di inferenza quasi costante al crescere del contesto, là dove su un Transformer classico un milione di token la farebbe esplodere ben oltre la memoria dei pesi: per chi deve far leggere al modello capitolati, manuali o fascicoli interi è la differenza fra fattibile e non fattibile.

E le 253.000 GPU-ora di B200 servite a costruirlo le ha pagate una volta sola il bilancio pubblico: chi lo adotta paga solo l’inferenza. È questa la vera economia dei modelli aperti finanziati dagli Stati, non il risparmio sul singolo token — criterio che sul caso DeepSeek avevamo già visto reggere male.

La riga che blocca il progetto: la licenza non c’è ancora

Un modello entra in produzione solo se qualcuno può firmarne l’uso. Oggi Soofi S non ha un testo di licenza: la scheda promette termini permissivi e il paper esce in CC-BY 4.0, ma la licenza di un articolo scientifico non è la licenza dei pesi. Finché quel testo non esiste, nessun ufficio legale approva un deployment, nessun capitolato può citare il modello come componente disponibile, nessun contratto può assumersene i rischi. È lo stesso meccanismo per cui senza manuale conforme un macchinario non prende la marcatura CE: la sostanza tecnica c’è, il documento che la rende utilizzabile no.

Altre due condizioni sono scritte a chiare lettere: la Base non è istruita, allineata né messa in sicurezza, quindi non va davanti a un utente; i tre checkpoint sono intermedi e soggetti a cambiare. Nella lista dei partner di prova si entra scrivendo al consorzio con azienda e caso d’uso, ed è il momento in cui una prova operativa costa poco: i riscontri industriali sono ciò che cercano.

Perché conta adesso

Le altre due strade si stringono nello stesso mese: il Financial Times ha riferito il 21 luglio 2026 che il Ministero del commercio cinese sta valutando controlli all’esportazione estesi ai pesi dei modelli, compresi quelli open weight, mentre negli Stati Uniti si costruisce per vie indirette un divieto di fatto dei modelli cinesi. I pesi cinesi restano tecnicamente ottimi e contrattualmente permissivi, ma la loro disponibilità futura dipende da due governi che non sono il vostro; e l’alternativa europea commerciale arriva con soglie e condizioni dentro un contratto. Un modello nato da un programma europeo, con pesi e codice promessi in apertura, è la terza strada: quella in cui la sovranità non è una clausola concessa, ma una proprietà del bene.

Il benchmark che hanno tolto

Vale la pena raccontare anche la parte scomoda. Secondo la testata specializzata the-decoder, il consorzio ha scoperto che nei dati di addestramento erano finite domande riformulate del set di test di GPQA — la variante Diamond in particolare — perché il repository pubblico di quel benchmark non separava addestramento e verifica. Ha tolto GPQA dalle valutazioni e ricalcolato i risultati dei sedici modelli confrontati: le posizioni non sono cambiate. È il comportamento giusto, e vederlo dichiarato è raro.

La lezione, però, non riguarda Soofi S: se un consorzio di istituti di ricerca pubblici può contaminare senza accorgersene un benchmark scientifico, un fornitore che vi mostra una classifica in una presentazione può farlo con molta più facilità. L’unica prova che conta resta la valutazione sui vostri documenti.

Cosa fare, in pratica

  • Non mettete Soofi S in un capitolato o in un business case come componente disponibile: oggi è una beta chiusa senza licenza finalizzata. Trattatelo come candidato, con una data in agenda per riverificare il rilascio.
  • Se avete un caso d’uso in tedesco o in inglese su documentazione tecnica, codice o agenti, chiedete ora l’accesso di prova: la finestra dei partner è aperta adesso.
  • Dimensionate l’hardware sui byte — circa 32 GB a 8 bit, circa 16 GB a 4 bit, più la cache — e verificate la qualità dopo la quantizzazione sui vostri dati: degrada in modo diverso a seconda del compito, e i benchmark pubblici non ve lo dicono.
  • Quando i pesi usciranno, archiviateli con hash verificati e versione di configurazione e tokenizzatore, e tenete un secondo candidato di un’altra giurisdizione. La domanda giusta al fornitore non è «quale modello usate», ma «quanto costa cambiarlo».

Un modello aperto europeo che gira su una macchina sola non risolve da solo il problema della sovranità: lo sposta dove va risolto, cioè nell’architettura. Il nostro approccio tratta il modello come componente sostituibile e mette il controllo nell’ambiente in cui gira, in due modalità: on-premise dentro l’infrastruttura del cliente, oppure in cloud dedicato CSIDIA — riservato al singolo cliente, via VPN dedicata, con data center in Italia e locali presidiati da noi. In entrambi i casi i documenti non escono dal perimetro e il modello si cambia senza rifare il sistema: è lì, non nel paese di chi ha addestrato i pesi, che si misura davvero l’AI sovrana.

State valutando un modello aperto per un caso d’uso con requisiti reali di riservatezza? Parliamone in una sessione di trenta minuti: mettiamo sul tavolo hardware, licenze e criteri di valutazione prima che diventino un problema in produzione.

Fonti