La distillazione della conoscenza è diventata uno dei temi più discussi nel mondo dell’intelligenza artificiale, fino a entrare nel dibattito politico e sulla sicurezza nazionale negli Stati Uniti. Al centro della discussione c’è una tecnica che permette di trasferire le capacità di un modello AI grande e complesso a uno più piccolo, rendendolo più efficiente e meno costoso.
Il tema è tornato sotto i riflettori dopo il rapido successo di Kimi K3, il nuovo modello della cinese Moonshot AI, che secondo diversi osservatori ha mostrato prestazioni competitive con alcune delle migliori soluzioni commerciali sviluppate da società statunitensi come OpenAI e Anthropic.
AI: cos’è la distillazione della conoscenza
La distillazione consiste nell’utilizzare le risposte e le capacità di un modello “insegnante” più avanzato per addestrare un modello “studente” più piccolo. L’obiettivo è trasferire parte delle conoscenze e delle capacità del primo, mantenendo al tempo stesso un modello più leggero e meno oneroso da utilizzare.
La tecnica non è nuova: è stata introdotta nella ricerca sul machine learning già nel 2006 e successivamente sviluppata in modo significativo. Con la diffusione degli LLM, la distillazione è diventata particolarmente importante perché consente di trasferire funzionalità avanzate da modelli proprietari di grandi dimensioni a modelli più piccoli e accessibili.
Il vantaggio economico è evidente. I modelli più avanzati richiedono enormi quantità di potenza di calcolo e infrastrutture costose, mentre modelli più piccoli possono essere più veloci, meno onerosi e più facilmente utilizzabili anche su dispositivi locali o edge.
Distillazione AI: perché ora è diventata un caso politico
La questione è diventata particolarmente delicata con l'ascesa dei modelli open-weight cinesi. A differenza dei sistemi proprietari di molte aziende americane, questi modelli possono essere scaricati, modificati e utilizzati direttamente dagli sviluppatori. Secondo alcuni esponenti dell'amministrazione statunitense, la rapidità con cui Moonshot AI ha ridotto il divario con i principali modelli americani potrebbe essere legata proprio all'utilizzo della distillazione.
Il consigliere della Casa Bianca Michael Kratsios ha accusato pubblicamente Moonshot di aver distillato un modello di Anthropic, sostenendo che la società cinese avrebbe sviluppato sistemi per utilizzare su larga scala i modelli americani e aggirare i meccanismi di rilevamento.
L'accusa è particolarmente rilevante perché, in questo scenario, la distillazione non sarebbe più soltanto una tecnica di ottimizzazione dei modelli, ma potrebbe diventare uno strumento per accelerare il trasferimento di capacità tecnologiche tra aziende e Paesi.
Distillazione AI: una tecnica legittima o una forma di appropriazione?
È proprio questo il punto più controverso. La distillazione della conoscenza è una tecnica legittima e ampiamente utilizzata nello sviluppo dell'AI. NVIDIA, per esempio, l'ha impiegata nell'addestramento della propria famiglia di modelli Llama Nemotron.
Il problema nasce quando un modello proprietario viene utilizzato per generare grandi quantità di output destinati ad addestrare un sistema concorrente senza autorizzazione. In questo caso, secondo i critici, la tecnica potrebbe consentire a un'azienda di sfruttare indirettamente gli ingenti investimenti sostenuti da un'altra società per sviluppare il proprio modello.
Anthropic ha sostenuto di aver rilevato attività di distillazione su larga scala dei propri modelli da parte di alcune società cinesi, tra cui DeepSeek, Moonshot e MiniMax. Secondo la società, sarebbero stati utilizzati migliaia di account e milioni di interazioni per trasferire capacità dai suoi modelli a sistemi concorrenti. OpenAI e Anthropic vietano inoltre la distillazione nei rispettivi termini di servizio.
Il fronte opposto: attenzione a non frenare l'innovazione
Il dibattito, tuttavia, non è affatto univoco. Più di 20 società tecnologiche, tra cui NVIDIA, Microsoft, Meta e Palantir, hanno firmato una lettera indirizzata ai policymaker statunitensi per chiedere di evitare restrizioni premature sui modelli open-weight.
Secondo le aziende, limitare eccessivamente questa tecnologia potrebbe ridurre la concorrenza e spingere l'innovazione verso altri Paesi. La distillazione, sostengono, è una tecnica ampiamente utilizzata per migliorare, sviluppare e validare i modelli AI.
Il punto è anche economico: con i costi dell'intelligenza artificiale in forte crescita, la possibilità di ottenere prestazioni elevate utilizzando modelli più piccoli e meno costosi rappresenta un vantaggio competitivo sempre più importante.
USA e Cina: la sfida dell’AI passa anche dai costi
La distillazione si inserisce quindi in una partita più ampia. Da un lato, gli Stati Uniti cercano di proteggere la leadership tecnologica delle proprie aziende e la proprietà intellettuale sviluppata attraverso investimenti ingenti.
Dall'altro, la diffusione di modelli open-weight più economici potrebbe accelerare la democratizzazione dell'AI e ridurre il vantaggio dei grandi modelli proprietari. È proprio questa la contraddizione che Washington deve affrontare: proteggere il vantaggio competitivo delle società americane senza introdurre regole talmente restrittive da rallentare l'innovazione domestica.
La questione è destinata a diventare ancora più rilevante man mano che aumenteranno i costi per addestrare e utilizzare i modelli di frontiera. La distillazione permette infatti di trasferire capacità avanzate a modelli più compatti, una caratteristica particolarmente importante per ridurre i costi computazionali e portare l'AI su dispositivi e infrastrutture con risorse limitate.
Per questo, la vera sfida non sarà probabilmente stabilire se la distillazione sia positiva o negativa in assoluto, ma definire il confine tra un normale processo di compressione e ottimizzazione dei modelli e l'utilizzo non autorizzato delle capacità di un sistema proprietario.