Una piattaforma LLMOps open
A maggio 2023 LangGenius, società fondata da Luyu Zhang con sedi a Suzhou e San Francisco, rilascia Dify, una piattaforma LLMOps open source pensata per la costruzione e l’operatività di applicazioni basate su modelli linguistici. Dify copre l’intero ciclo di vita: dallo sviluppo dell’applicazione alla sua messa in produzione, fino al monitoraggio e all’iterazione.
Studio visuale e quattro tipologie di app
L’elemento centrale di Dify è uno studio visuale che permette di costruire quattro tipologie di applicazione: chatbot conversazionali, workflow a nodi per orchestrazione deterministica, agent con accesso a tool esterni, e applicazioni RAG (Retrieval-Augmented Generation) con dataset vettoriali integrati.
Lo stack tecnologico è basato su Python per il backend e Next.js per l’interfaccia. Il progetto integra nativamente diversi modelli (OpenAI, Anthropic, Azure OpenAI, Hugging Face, modelli locali via Ollama) e diversi database vettoriali (Weaviate, Qdrant, Milvus, PGVector).
Licenza e restrizioni
Dify adotta una variante di Apache 2.0 con una clausola aggiuntiva che vieta esplicitamente il rebranding e l’offerta in modalità multi-tenant come servizio concorrente. La licenza non è quindi pienamente OSI-compliant: è un punto da valutare con attenzione nelle scelte di adozione commerciale, specie per service provider che rivendono piattaforme SaaS. Per uso interno aziendale e per self-hosting su infrastruttura propria, i termini restano molto permissivi.
Adozione e deployment
Entro il 2024 Dify supera le 50.000 GitHub star, diventando uno dei progetti LLMOps open più seguiti. È disponibile come SaaS cloud gestito da LangGenius o come deployment self-hosted (container Docker, Kubernetes Helm chart) per organizzazioni che richiedono pieno controllo sui dati e sui modelli utilizzati. La combinazione tra studio visuale a basso codice e architettura aperta lo posiziona come alternativa concreta alle piattaforme proprietarie del segmento.
Link: dify.ai