Open weight non è open source, e la differenza conta

Da quando i modelli a pesi aperti («open weight») sono sempre più diffusi nelle scelte di sviluppatori e imprese, come raccontato in un precedente articolo, la parola open è tornata al centro delle decisioni tecnologiche. Il software open source, che abbiamo imparato a conoscere nella prima ondata del digitale, consegna il codice sorgente, cioè la possibilità di leggere, capire e ricostruire ciò che si esegue. Un modello open weight consegna il risultato finale di un processo che resta segreto, utilizzabile ma non ispezionabile. La distinzione può sembrare un dettaglio tecnico; determina invece, in concreto, cosa un'impresa può controllare del proprio stack tecnologico e cosa non controllerà mai. Vale la pena metterla a fuoco, perché su questa parola si stanno prendendo decisioni di architettura che dureranno anni.

Nel software tradizionale l'apertura ha un significato preciso da trent'anni. Il codice sorgente è la forma leggibile del programma, quella su cui un ingegnere può cercare un errore, verificare che non esistano comportamenti nascosti, modificare una funzione e aggiornare il tutto. Linux fa girare gran parte dei server del mondo proprio perché chiunque, banche centrali comprese, può ispezionare ogni riga di ciò che esegue. L'accesso completo al codice è trasparenza verificabile.

Un modello linguistico non è fatto di righe leggibili, è fatto di pesi, miliardi di numeri che codificano ciò che il modello ha imparato durante l'addestramento. Pubblicare i pesi, come fanno DeepSeek, Qwen o Llama, significa permettere a chiunque di scaricarli, eseguirli sulle proprie macchine e specializzarli sui propri dati con il fine-tuning. È un valore concreto, ma equivale a ricevere un programma già funzionante, non il codice sorgente. Nessun tecnico al mondo ha la possibilità di leggere quei numeri e di sapere cosa contengono.

Quello che manca è la ricetta. Chi pubblica i pesi quasi mai rende noti i dati di addestramento, quindi non si sa su quali testi il modello si è formato, con quali diritti e con quali squilibri. Anche il processo resta privato, quindi non è riproducibile né verificabile. Soprattutto, nessuno dichiara i vincoli inseriti by design nella fase di allineamento, le istruzioni su cosa il modello debba rifiutare, minimizzare o raccontare in un certo modo, che vengono cotte dentro i pesi e sopravvivono al download. L'impostazione by design più nota è quella sui temi sensibili per Pechino nei modelli cinesi, verificata dai ricercatori della Northeastern University eseguendo DeepSeek in locale, dove i rifiuti persistono anche dopo lo scarico; ed è soltanto la più visibile, perché nulla esclude che vincoli analoghi, meno riconoscibili, esistano anche nei modelli occidentali. La Open Source Initiative ha tracciato la linea nel 2024 stabilendo che senza informazioni su dati e processo un modello non può dirsi open source, e, applicando questo metro, non lo è quasi nessuno, nemmeno Llama di Meta o Gemma di Google.

Chiarito cosa non si ottiene, il giudizio onesto è che per un'impresa i pesi aperti restano un affare. I migliori modelli open weight offrono oggi, secondo gli indici comparativi indipendenti, attorno al 90% della qualità dei sistemi chiusi di frontiera a una frazione del costo, senza tariffe a token e senza che un byte dei propri dati lasci l'infrastruttura scelta. Una volta scaricati, i pesi non possono essere revocati, nessun cambio di licenza o chiusura del servizio può renderli indisponibili e il fine-tuning permette di specializzare il modello su documenti, terminologia e processi aziendali con risultati che i servizi chiusi, in assenza di dati di contesto specifici, faticano a eguagliare a parità di prezzo. I pesi scaricati costituiscono però una fotografia statica e non un abbonamento in evoluzione, perché il modello non migliora da solo. Quando esce la generazione successiva, l'aggiornamento consiste nello scaricare i nuovi pesi e rimontarli sulla stessa infrastruttura, ripetendo l'eventuale specializzazione sui propri dati.

Il prezzo si paga in complessità, perché servono macchine e competenze. I pesi scaricati sono un file di dati, inerte come un archivio e, per attivarli, serve un programma che li carichi sulle GPU ed esegua i calcoli, il cosiddetto motore di inferenza, di cui vLLM e Ollama sono gli esempi più diffusi, il giradischi per il disco. La quantizzazione è una compressione che salva i numeri del modello con meno precisione, come una foto a risoluzione ridotta, e lo fa girare su macchine più economiche perdendo pochissima qualità. L'API compatibile OpenAI costituisce l'ultimo connettore, essendo il formato di collegamento diventato lo standard del settore, che i motori di inferenza replicano in locale così che le applicazioni aziendali si colleghino al modello scaricato senza riscrivere nulla.

I passaggi fondamentali sono tre. Si scaricano i pesi da Hugging Face, li si serve con un motore di inferenza e si collegano le applicazioni aziendali. Per un prototipo basta il pomeriggio di un tecnico capace. Portarlo in produzione è un altro mestiere, fatto di monitoraggio, sicurezza e gestione dei picchi; i giganti da centinaia di miliardi di parametri come GLM-5.2 richiedono cluster multi-GPU e ingegneri dedicati.

I pesi aperti garantiscono disponibilità permanente, costi contenuti e controllo totale su dove gira il modello e dove transitano i dati, ma non danno trasparenza su cosa c'è dentro, e non la daranno mai. Per la maggior parte delle applicazioni aziendali è uno scambio conveniente, purché sia una scelta consapevole e il tema non passi sotto traccia. Chi adotta un modello open weight credendo di avere adottato software open source ha chiaro il pricing, non cosa sta acquistando.