Il gap tra ricerca e produzione
I team di data science nel 2018 affrontano un problema ricorrente: gli esperimenti di machine learning sono difficili da tracciare, riprodurre e portare in produzione. Un data scientist addestra decine di modelli variando iperparametri, dataset e algoritmi, annotando i risultati in fogli di calcolo o notebook. Quando un modello promettente deve passare in produzione, ricostruire esattamente le condizioni dell’esperimento — versione del codice, dati usati, parametri, ambiente — è spesso impossibile. MLflow, rilasciato da Databricks sotto licenza Apache 2.0, è tra i primi strumenti open source ad affrontare il ciclo di vita del machine learning come un problema ingegneristico strutturato.
Il progetto nasce dall’esperienza di Matei Zaharia — creatore di Apache Spark e co-fondatore di Databricks — che osserva lo stesso problema in decine di organizzazioni: team capaci di costruire modelli eccellenti ma incapaci di gestirli sistematicamente.
Experiment tracking
Il componente MLflow Tracking fornisce un’interfaccia standard per registrare ogni aspetto di un esperimento: parametri di input, metriche di valutazione, artefatti prodotti (modelli, grafici, dataset trasformati) e metadati come la versione del codice e l’ambiente di esecuzione. Le API sono disponibili per Python, R, Java e REST, e funzionano con qualsiasi framework — scikit-learn, TensorFlow, PyTorch, XGBoost.
Ogni esecuzione viene registrata con un identificativo unico e i risultati sono consultabili tramite una web UI che permette di confrontare esperimenti, filtrare per metriche e visualizzare l’evoluzione dei parametri. La registrazione è esplicita: lo sviluppatore aggiunge chiamate mlflow.log_param() e mlflow.log_metric() nel codice di addestramento.
Model packaging
MLflow Models definisce un formato standard per il packaging dei modelli di machine learning, indipendente dal framework usato per l’addestramento. Un modello impacchettato include il codice di inferenza, le dipendenze, i pesi e i metadati necessari per l’esecuzione. Il formato supporta molteplici “flavors” — un modello scikit-learn può essere servito come endpoint REST, caricato in Spark per inferenza batch o eseguito come funzione Python.
Model registry
Il Model Registry è un repository centralizzato che traccia le versioni dei modelli, gestisce le transizioni tra stadi (staging, production, archived) e mantiene la storia completa di ogni modello. Per i team che gestiscono decine di modelli in produzione, il registry trasforma un processo informale in un workflow controllato.
Link: mlflow.org