Prompt injection
Istruzioni nascoste in documenti, email o pagine web che il modello legge e scambia per comandi. È il primo rischio (LLM01) della OWASP Top 10 per le applicazioni LLM.
Prompt injection, permessi degli agenti, fuga di dati: mettiamo in sicurezza LLM e agenti AI prima e dopo il rilascio.

Un'applicazione con un LLM legge testo che non controlla: documenti, email, pagine web, risposte di altri sistemi. Un agente, in più, ha strumenti e permessi per agire. Per questo la sicurezza dei sistemi AI non si esaurisce nei controlli tradizionali: bisogna verificare cosa il modello può leggere, cosa può fare e cosa resta registrato.
Come riferimento usiamo la OWASP Top 10 for LLM Applications 2025 e la OWASP Top 10 for Agentic Applications, pubblicata a dicembre 2025.
Istruzioni nascoste in documenti, email o pagine web che il modello legge e scambia per comandi. È il primo rischio (LLM01) della OWASP Top 10 per le applicazioni LLM.
Dati personali, segreti aziendali o il prompt di sistema che finiscono nelle risposte o in servizi esterni.
Un agente con strumenti e permessi ampi può eseguire azioni che nessuno ha autorizzato: è l'«excessive agency» (LLM06) della OWASP Top 10 per le applicazioni LLM.
Dati di addestramento o componenti manipolati che alterano il comportamento del modello. Per i sistemi ad alto rischio l'AI Act chiede misure anche contro questi attacchi.
Testo generato dal modello e inserito senza verifiche in codice, query o comandi, con effetti sui sistemi a valle.
Cicli e richieste che crescono senza controllo, con costi e indisponibilità del servizio.
Per i sistemi ad alto rischio l'articolo 15 dell'AI Act chiede un livello adeguato di accuratezza, robustezza e cybersecurity, con misure contro avvelenamento dei dati e dei modelli, esempi avversari e attacchi alla riservatezza; con il Digital Omnibus questi obblighi si applicano dal 2 dicembre 2027 per i sistemi dell'allegato III e dal 2 agosto 2028 per quelli integrati nei prodotti. Progettiamo i controlli secondo il paradigma OISG, che associa una metrica a ogni pilastro. Per come costruiamo gli agenti, vedi Agentic AI.
È un attacco in cui un testo letto dal modello (un documento, un'email, una pagina web) contiene istruzioni che il modello esegue come se venissero dall'utente o dallo sviluppatore. Con gli agenti, che hanno strumenti e permessi, le conseguenze possono essere azioni reali.
No. I filtri sono euristici: un segnale utile, non una garanzia. Per questo li affianchiamo a permessi minimi per ogni strumento, policy sulle destinazioni in uscita, sandbox, approvazione umana delle azioni con impatto e audit trail.
Con un perimetro deciso prima: strumenti ammessi, permessi minimi, destinazioni consentite, budget e condizioni di uscita del ciclo. Le azioni con impatto restano proposte che una persona approva.
Sì. Valutiamo applicazioni basate su modelli commerciali e su LLM open weight eseguiti on-premise, insieme agli strumenti e ai dati a cui hanno accesso.
Compila il form: la tua richiesta arriva al team dedicato.