La Cina scuote il mondo dell’AI con Kimi K2: fa impallidire ChatGPT 4

Moonshot AI, una start-up di Pechino sostenuta da giganti come Alibaba, ha recentemente presentato una novità che sta facendo molto parlare: Kimi K2. Si tratta di un modello di linguaggio di grandi dimensioni (LLM) a pesi aperti, dotato di ben mille miliardi di parametri. Questa cifra lo posiziona di diritto tra i più grandi modelli aperti disponibili sul mercato globale.

Ciò che rende Kimi K2 particolarmente interessante è la sua architettura “mixture-of-experts” (MoE). Immaginate una rete neurale non come un’unica entità monolitica, ma come un insieme di tante piccole “sotto-reti esperte”, ciascuna specializzata in un segmento specifico di dati o di compiti. Un livello di “gating” decide in tempo reale quale di queste “esperte” debba elaborare l’input, attivando solo una frazione dei parametri totali in un dato momento (precisamente 32 miliardi). Questo approccio si traduce in un’efficienza notevole, sia in fase di addestramento che di inferenza, riducendo significativamente la potenza di calcolo necessaria.

Questa efficienza non è solo una questione tecnica, ma si traduce in un risparmio economico tangibile. Kimi K2 offre una politica di prezzo a consumo davvero competitiva: circa 0,14 euro per milione di token in input e 2,30 euro per milione di token in output. Facendo un confronto, modelli di punta come GPT-4.1 di OpenAI costano 1,80 euro per milione di token in input e 7,30 euro per l’output, mentre Claude Opus 4 di Anthropic si attesta su prezzi ben più elevati, rispettivamente 13,70 euro e 68,50 euro. Per gli utenti che elaborano milioni di token al giorno, questi risparmi possono tradursi in migliaia di euro, posizionando Kimi K2 con un profilo di costo tipico dei modelli di fascia media, nonostante le sue impressionanti dimensioni.

I primi test su Kimi K2 rivelano prestazioni che eguagliano o superano quelle dei principali modelli proprietari in benchmark chiave per la programmazione e la matematica. Per esempio, su SWE-Bench Verified, un sottoinsieme del benchmark di ingegneria del software SWE-Bench convalidato da esseri umani, Kimi K2 ha ottenuto un punteggio del 65,8% contro il 54,6% di GPT-4.1. Questo benchmark include 500 compiti reali di correzione di bug su GitHub, che un modello di AI deve risolvere generando una patch che superi tutti i test unitari. Un punteggio del 65,8% per Kimi K2 significa che ha riparato automaticamente quasi due terzi di questi problemi. Su LiveCodeBench, un benchmark di codifica end-to-end, Kimi K2 ha raggiunto il 53,7% contro il 44,7% di GPT-4.1. Nel ragionamento matematico (MATH-500), ha toccato il 97,4%, superando leggermente il 92,4% di GPT-4.1.

Fondata nel 2023 da Yang Zhilin, laureato all’Università di Tsinghua, Moonshot ha inizialmente attirato l’attenzione con un chatbot in grado di gestire input estremamente lunghi per l’epoca. Kimi K2 estende questo lavoro con capacità di codifica più solide e una finestra di contesto fino a 128.000 token. Moonshot offre l’accesso a Kimi K2 tramite i suoi prodotti web e mobili e un’API.

È importante notare che, come Moonshot stessa ha riconosciuto, il modello presenta alcune limitazioni. Nei test interni, sono state identificate alcune carenze, in particolare nella gestione di compiti di ragionamento complessi o definizioni di strumenti poco chiare, che possono portare a un’eccessiva generazione di token o a chiamate di strumenti incomplete. Inoltre, le prestazioni potrebbero diminuire in alcune attività se l’uso degli strumenti è abilitato. Nel costruire progetti software completi, l’approccio “one-shot prompting” mostra un degrado delle prestazioni rispetto all’utilizzo di K2 all’interno di un framework agentico. Moonshot sta lavorando attivamente per affrontare questi problemi nelle prossime versioni e accoglie con favore ulteriori feedback.