L’approccio IBM ai modelli fondazionali
IBM Research posiziona la famiglia Granite come risposta alle esigenze specifiche dell’adozione aziendale dei modelli linguistici: tracciabilità dei dati di training, conformità a regolamenti settoriali, dimensioni contenute per deployment on-premise. Il primo rilascio significativo è Granite Code nel maggio 2024, una serie di modelli dedicati alla generazione di codice distribuiti sotto licenza Apache 2.0.
Il 21 ottobre 2024, IBM pubblica Granite 3.0, la prima generazione general-purpose completa della famiglia, anch’essa rilasciata sotto Apache 2.0 senza restrizioni aggiuntive. La gamma include modelli dense da 2B e 8B parametri e varianti Mixture-of-Experts con configurazioni 1B e 3B di parametri attivi, pensate per ridurre la latenza in scenari di inferenza distribuita.
Training mix e governance
Un tratto distintivo della famiglia Granite è la documentazione pubblica del training mix: IBM rende espliciti i dataset utilizzati, le proporzioni e i processi di filtraggio applicati per rimuovere contenuti non conformi. Questa trasparenza — allineata ai requisiti di diligenza previsti da regolamenti come l’EU AI Act — consente alle aziende adottanti di condurre una due diligence sui dati di origine e di rispondere a domande di audit sulla provenienza delle capacità del modello.
Il processo di training è accompagnato da filtri su sicurezza, contenuti protetti da copyright noti e materiale sensibile, con pipeline di data quality documentate in technical report pubblici.
Posizionamento enterprise
I modelli Granite sono progettati per essere competitivi nella fascia dei modelli compatti — il punto dimensionale più rilevante per deployment aziendali — piuttosto che per competere con i grandi modelli frontier. Le dimensioni 2B-8B consentono inferenza efficiente su singole GPU enterprise o, in casi mirati, su CPU moderne, mentre la licenza Apache 2.0 garantisce piena libertà d’uso, modifica e integrazione in prodotti commerciali. IBM integra i modelli Granite anche nella propria piattaforma watsonx, ma senza vincolare il loro utilizzo a quell’ecosistema.
Link: ibm.com/granite