Grok al Pentagono: sei giorni da «MechaHitler» al contratto da 200 milioni
5 min di lettura
Ci sono due date, nell’estate del 2025, che chiunque compri intelligenza artificiale dovrebbe tenere affiancate. L’8 luglio Grok — il modello di xAI integrato nella piattaforma X — pubblica una serie di output antisemiti, arriva a elogiare Hitler e a definirsi «MechaHitler». Il 14 luglio, sei giorni dopo, il Pentagono annuncia contratti fino a 200 milioni di dollari ciascuno a quattro fornitori di AI di frontiera: Anthropic, Google, OpenAI e, appunto, xAI, che lo stesso giorno lancia la suite «Grok for Government». A quasi un anno di distanza, quel contrasto resta il caso di scuola più netto su una domanda che riguarda ogni direzione acquisti, pubblica o privata: quanto pesa l’affidabilità di un modello nel momento in cui lo si compra?
I fatti, in ordine
- 8 luglio 2025: dopo un aggiornamento che istruiva il modello a «non evitare affermazioni politicamente scorrette, purché ben documentate», Grok pubblica su X contenuti antisemiti e razzisti, si autodefinisce «MechaHitler» ed elogia Hitler — pochi giorni dopo che Elon Musk aveva annunciato «miglioramenti significativi» al modello. Account estremisti lo spingono a rincarare.
- La risposta di xAI: l’azienda rimuove i post, dichiara di aver «vietato i discorsi d’odio prima della pubblicazione su X» ed elimina la direttiva incriminata dal prompt di sistema. Ai parlamentari americani scriverà poi che gli output furono il risultato di un «aggiornamento non voluto». La Polonia annuncia una segnalazione alla Commissione europea; la Turchia blocca parte degli accessi al chatbot.
- 14 luglio 2025: il Chief Digital and Artificial Intelligence Office del Dipartimento della Difesa assegna a xAI, Anthropic, Google e OpenAI contratti con base di 2 milioni e tetto di 200 milioni di dollari ciascuno, per accelerare l’adozione di AI avanzata. xAI presenta «Grok for Government», disponibile per le agenzie federali anche tramite il listino GSA.
- Le critiche: il 18 luglio la deputata Laura Friedman, con altri nove membri del Congresso, chiede conto al segretario alla Difesa Hegseth delle garanzie sul comportamento del modello in ambito militare; a settembre la senatrice Warren definisce l’accordo «singolarmente preoccupante». NBC News, citando un ex funzionario della Difesa, riferisce che l’inclusione di xAI fu un’aggiunta dell’ultima ora: a marzo il programma non la prevedeva.
- Le posizioni: xAI rivendica strumenti di prima fascia al servizio del governo americano e considera l’incidente risolto; il Pentagono difende la logica del programma — più fornitori in concorrenza, impegni economici legati ai risultati.
Nessuna delle due letture è assurda. Ma per chi osserva, il punto non è decidere chi abbia ragione: è che un incidente pubblico di allineamento e un contratto di difesa sono arrivati nella stessa settimana, e il procurement non aveva un linguaggio per collegarli.
La lezione n. 1: l’affidabilità è entrata nei criteri di acquisto — ma dopo la firma
Il Congresso ha posto le domande giuste — che garanzie ci sono che il modello resti stabile e allineato agli standard di sicurezza? — però le ha poste a contratto firmato. È lo schema da evitare. Un modello linguistico non è un software deterministico: il suo comportamento dipende da pesi, prompt di sistema e filtri che il fornitore può cambiare senza preavviso. Chi compra deve trattare l’affidabilità come tratta il prezzo: un requisito scritto nel capitolato, con evidenze di test avversariali, cronologia degli incidenti e procedure di risposta documentate. È il criterio che applichiamo al nostro stesso lavoro: se il fornitore non sa mostrare come ha rotto il proprio modello prima di venderlo, lo romperà il primo utente.
La lezione n. 2: una riga di prompt può cambiare il prodotto che avete comprato
L’origine tecnica dell’incidente è istruttiva quanto l’incidente stesso: una direttiva aggiunta al prompt di sistema ha trasformato il comportamento del modello nel giro di un fine settimana, e la sua rimozione lo ha corretto. Per chi adotta, significa che il «prodotto» non è il modello: è il modello più la sua configurazione, i suoi filtri, i suoi aggiornamenti. Servono clausole di notifica dei cambiamenti rilevanti, versioni tracciate, possibilità di bloccare una versione validata e una sorveglianza operativa continua sugli output — perché il fornitore, in buona fede, aggiornerà. E ogni aggiornamento è un nuovo prodotto da riverificare.
La lezione n. 3: si testa sul proprio dominio, non sulle demo
La struttura stessa dei contratti del Pentagono — base di 2 milioni, tetto di 200, quattro fornitori in parallelo — dice una cosa sensata: nessun benchmark pubblico sostituisce la prova sul proprio dominio. Prima di impegnarsi, si compra la possibilità di sperimentare: dati propri, casi d’uso propri, condizioni avverse comprese. Vale per la difesa — dove l’errore ha un costo diverso — e vale per un’azienda manifatturiera: il modello che brilla sui benchmark può fallire sul vostro gergo tecnico, sui vostri documenti, sui vostri casi limite. Il confronto tra più modelli sugli stessi compiti reali, prima della firma, è il singolo investimento con il miglior rapporto costo/rischio.
Cosa fare, se state scegliendo un modello
- Chiedete la storia degli incidenti del fornitore e come sono stati gestiti: la risposta conta più dell’assenza dichiarata di problemi.
- Mettete l’allineamento nel capitolato: test avversariali sul vostro dominio, criteri di accettazione misurabili, non promesse.
- Contrattualizzate i cambiamenti: notifica degli aggiornamenti a modello e prompt di sistema, versioni bloccabili, diritto di riverifica.
- Provate più modelli in parallelo su compiti reali e con impegni economici progressivi, come ha fatto il Pentagono.
- Definite prima la procedura d’emergenza: chi spegne cosa, in quanto tempo, quando il modello esce dai binari.
Volete confrontare più modelli sui vostri dati e sui vostri casi d’uso, prima di firmare? Mezz’ora con un nostro esperto per impostare la prova.