La nostra infrastruttura
L’infrastruttura su cui il vostro sapere diventa un modello.
Oggi il valore non sta nel software, ma nel modello addestrato sul vostro scopo. Per addestrarlo, specializzarlo e farlo lavorare ogni giorno serve una potenza di calcolo adeguata. Noi la abbiamo, e sappiamo realizzarla e gestirla presso la vostra sede.
Che cosa abbiamo
I server e le workstation su cui lavoriamo ogni giorno.
Su queste macchine facciamo lavorare, addestriamo e misuriamo i modelli dei nostri progetti. Sono anche il riferimento di ciò che sappiamo realizzare per voi.
GB300
Un server NVIDIA GB300
Il centro della nostra potenza di calcolo. Qui lavora il modello grande, a pesi aperti.
2 × 96 GB
Una workstation con due NVIDIA RTX PRO 6000 Blackwell Max-Q
96 GB di memoria per scheda. Qui addestriamo e specializziamo i modelli; può far lavorare anche il modello grande.
180 miliardi
Il modello grande
A pesi aperti, circa 180 miliardi di parametri in tutto. Lo stesso modello lavora sul server e sulla workstation.
40
Richieste insieme, sul server
La capacità utile, misurata da noi: più lavori in parallelo sullo stesso modello.
Che cosa ci si fa
Addestrare, specializzare, far lavorare.
Su questa infrastruttura un modello a pesi aperti impara il vostro scopo e poi lavora per voi. Tre attività, a seconda di ciò che serve.
Addestrare
Un modello nuovo, quando serve
Quando nessun modello esistente è sufficiente, addestriamo reti nostre da zero sui vostri dati: per esempio per generare immagini di materiali alla misura vera.
Specializzare
Un modello aperto, rifinito su di voi
Prendiamo un modello a pesi aperti esistente e lo rifiniamo sui vostri dati (fine-tuning), oppure lo inseriamo in una procedura costruita sul vostro caso.
Far lavorare
Il modello al lavoro, ogni giorno
Lo mettiamo in servizio sulla nostra infrastruttura o sulla vostra e lo misuriamo sui vostri casi. Quando esce un modello aperto migliore, lo verifichiamo sui vostri casi prima di adottarlo.
Presso la vostra sede
Un’infrastruttura come la nostra, presso di voi.
Se volete il modello e i dati in azienda, realizziamo l’infrastruttura presso di voi, completa di tutto ciò che serve: dalla prima analisi dei carichi di lavoro alla gestione quotidiana.
-
Progettare
Partiamo dal vostro scopo e dai vostri carichi di lavoro: quali modelli, quante schede e quanta memoria, quanta energia e quanto raffreddamento servono.
-
Realizzare
Scegliamo e assembliamo le macchine, installiamo i modelli e li verifichiamo sui vostri casi prima della consegna.
-
Installare
Presso la vostra sede, insieme al vostro reparto IT: rete, alimentazione, raffreddamento, accessi e sicurezza.
-
Gestire
Aggiornamenti, controlli, modelli nuovi verificati prima di metterli in servizio. Dell’infrastruttura ci occupiamo noi: voi usate il modello.
Si può anche cominciare sulla nostra infrastruttura, con la prova sui vostri documenti, e passare alla vostra in un secondo momento.
Che cosa resta a voi
La conoscenza, i dati, le scelte, la decisione.
- La conoscenza. Quello che il modello impara dai vostri dati resta vostro: non diventa materiale di addestramento per l’AI di altri, e non lo pagate a consumo.
- I dati. Con un’infrastruttura vostra restano in azienda. Sulla nostra vi indichiamo sempre quale modello li legge e dove lavora.
- Le scelte, per iscritto. Quale modello, con quale licenza, perché, e le misure sui vostri casi. Pesi aperti non vuol dire licenza libera: ogni licenza la controlliamo prima di usare il modello.
- La decisione. L’AI prepara, una persona decide: la vostra.