Che cos’è un System Prompt?
Il System Prompt è un’istruzione di livello superiore fornita dall’applicazione a un modello linguistico o a un agente di IA. Ne descrive il ruolo, gli obiettivi, il tono, le fonti consentite, i limiti e il formato atteso. Ha priorità rispetto a una normale richiesta dell’utente, ma non costituisce da solo una barriera di sicurezza. Un’istruzione efficace si basa su un processo concreto e su responsabilità chiare.
Ruolo, limiti ed escalation
Il prompt stabilisce cosa può fare l’agente, quando deve chiedere informazioni aggiuntive e quando deve affidare il caso a una persona. L’assistente di una clinica può spiegare informazioni organizzative, ma non formulare diagnosi. Un assistente agli acquisti consiglia prodotti da un catalogo approvato senza inventare prezzi, disponibilità o caratteristiche.
Fonti e strumenti
L’istruzione distingue le conoscenze del modello dai dati aziendali verificati e indica quando usare la ricerca, il CRM, il catalogo o il servizio ordini. Ogni strumento dispone delle sole autorizzazioni necessarie e i suoi risultati vengono validati. Una modifica critica, un pagamento o l’invio di un messaggio richiede un controllo separato.
Prompt injection e segreti
Il contenuto di un utente, di un sito o di un documento può includere istruzioni che tentano di modificare le regole. L’applicazione separa quindi le istruzioni dai dati, limita le autorizzazioni e non considera il testo restituito da uno strumento un comando attendibile. Chiavi API, password e segreti interni non devono essere inseriti nel prompt.
Versionamento e test
Ogni versione ha un autore, una data, un motivo della modifica e una serie di test. Si verificano domande comuni, dati incompleti, richieste contrastanti, più lingue, contenuti inappropriati, tentativi di fuga di dati e guasti degli strumenti. I risultati vengono misurati in termini di accuratezza, sicurezza, escalation e impatto sul cliente.
L’approccio di PAR HOUSE Agency
Progettiamo il System Prompt insieme all’architettura dell’agente, alla base di conoscenze, alle autorizzazioni e all’interfaccia. Manteniamo il tono del marchio, la correttezza delle informazioni e un passaggio fluido a una persona. L’istruzione non viene sincronizzata automaticamente come un testo di marketing, ma sottoposta a versionamento controllato e a nuove verifiche.
