Un modello AI piccolo, addestrato sul vostro lavoro, può battere i grandi modelli?

Se state scegliendo un’intelligenza artificiale per un lavoro preciso dell’azienda, come smistare le richieste dei clienti o estrarre i dati dalle schede tecniche, il consiglio più facile da ricevere è: prendete il modello più grande. Per un lavoro largo è giusto. Per un lavoro stretto, che si ripete ogni giorno nella stessa forma, la nostra convinzione è un’altra, e le misure pubblicate la sostengono: un modello a pesi aperti più piccolo, addestrato sui vostri esempi, su quel lavoro fa meglio dei grandi modelli generalisti. E resta su una macchina vostra.

Che cosa vuol dire addestrarlo sul vostro lavoro

Si parte da un modello a pesi aperti già fatto, che sa già leggere e scrivere, e lo si rifinisce su una raccolta di casi del vostro lavoro, ognuno con la risposta giusta: in inglese si dice fine-tuning. Uno dei metodi più usati si chiama LoRA e lo hanno presentato nel 2021 alcuni ricercatori di Microsoft. Il modello resta com’è e a ogni strato si affiancano pochi pesi nuovi: solo quelli si addestrano. Sul loro esempio più grande, GPT-3 da 175 miliardi di parametri, rispetto a riaddestrarlo per intero LoRA «can reduce the number of trainable parameters by 10,000 times and the GPU memory requirement by 3 times»: può ridurre di 10.000 volte i parametri da addestrare e di 3 volte la memoria della scheda grafica.

Che cosa dicono le misure

310 modelli su 31 compiti. Nel 2024 i ricercatori di Predibase, una società che vendeva proprio questo tipo di addestramento, hanno rifinito con LoRA dieci modelli aperti da 2 a 7 miliardi di parametri su 31 compiti diversi, 310 modelli in tutto, e li hanno confrontati con GPT-4 di OpenAI, nella versione del giugno 2023, usato senza addestramento. Nel loro compito, 224 modelli su 310 hanno superato GPT-4. In media, su una scala da 0 a 1, i migliori modelli rifiniti arrivano a 0,756 e GPT-4 a 0,661.

Mezzo miliardo di parametri contro due grandi modelli del 2026. Nel giugno 2026 due ricercatori dell’Università Aristotele di Salonicco hanno addestrato modelli piccoli a riconoscere in un testo le relazioni fra persone, luoghi e organizzazioni: per esempio dove una persona è nata e dove abita. Il migliore sotto il miliardo di parametri, un Qwen2.5 da mezzo miliardo, sui testi generali ottiene 0,83, contro 0,69 di GPT-5.4 e 0,66 di Claude Sonnet 4.6, usati senza addestramento. I modelli piccoli erano compressi a 4 bit e giravano su una sola scheda grafica da PC.

Gli autori avvertono: il risultato «does not imply that SLMs are intrinsically stronger», non vuol dire che i modelli piccoli siano più forti in sé. Vuol dire che l’adattamento al compito conta più della taglia: anche un modello più vecchio, che non genera testo, addestrato sul compito supera tutti e due i grandi modelli.

Su quel compito, non in tutto

I compiti larghi. Nel lavoro di Predibase GPT-4 resta avanti in 6 compiti su 31, «particularly in broader, more complex domains such as Python coding and MMLU»: soprattutto nei campi più larghi e complessi, come scrivere programmi in Python e il test di cultura generale MMLU.
Le regole del confronto. In tutti e due gli studi i grandi modelli avevano istruzioni semplici e al massimo un esempio, e a Salonicco rispondevano senza ragionare prima: con più esempi o più ragionamento il distacco può ridursi.
I casi servono davvero. Senza esempi con la risposta giusta non si addestra niente: il risultato di Salonicco vale «when task-specific data are available», quando i dati del compito ci sono.

Perché conta per chi ha dati riservati

Per addestrare servono i vostri documenti e le vostre risposte giuste: il sapere dell’azienda. Con un modello a pesi aperti su una macchina vostra, quegli esempi non escono, e quello che il modello impara resta su quella macchina. Il vostro sapere è il vostro vantaggio, e non deve diventare materiale di addestramento per l’AI di altri.

Costa anche poco da far girare: Predibase serviva 25 modelli rifiniti, ognuno per un compito, da una sola scheda NVIDIA A100 da 80 GB. La versione la decidete voi, come abbiamo spiegato in che cosa sono i modelli a pesi aperti. La licenza del modello di partenza va letta comunque: che cosa permettono le licenze dei pesi aperti.

Come lo facciamo noi

Nel nostro progetto di lettura dei documenti, a leggere sono solo modelli a pesi aperti: modelli piccoli su una nostra workstation per il testo e le tabelle, un modello più grande per figure e disegni. Lì non abbiamo addestrato niente: abbiamo scelto i modelli e li abbiamo messi al lavoro su un compito solo, leggere manuali di macchine. L’11 ottobre 2026, su 1.174 pagine di dieci manuali pubblici di altri costruttori, mai visti prima, hanno ritrovato il 98,4% dei codici e dei valori in 50 pagine estratte a caso; i migliori programmi di lettura usati da soli si fermavano all’81,4% e al 67,8%. Non è un confronto con i grandi modelli generalisti, ma la lezione è la stessa: su un compito preciso vince chi ci è messo al lavoro.

Per i lavori larghi usiamo anche noi i grandi modelli: queste note le scriviamo con l’aiuto di un modello in cloud, su fonti pubbliche.

Che cosa fare prima di scegliere

Un compito solo, stretto e ripetuto, con una risposta giusta che una persona sa riconoscere.
Una raccolta di casi veri con la risposta giusta, divisa in due: una parte per addestrare, l’altra per misurare, che il modello non vede mai.
Sulla parte di prova misurate prima il grande modello generalista, poi quello addestrato: stessi casi, stesse regole.
Tenete i casi di prova: servono a rimisurare ogni volta che cambia il modello.

Se avete un lavoro che si ripete ogni giorno sui vostri documenti e volete sapere se un modello addestrato lo farebbe meglio, il passo è uno: scriveteci che lavoro è e quanti esempi avete già.

Scritto con l’aiuto dell’AI e verificato da CSIDIA.