Čo je System Prompt
System Prompt je nadradená inštrukcia aplikácie pre jazykový model alebo agenta AI. Opisuje jeho úlohu, ciele, tón, povolené zdroje, obmedzenia a očakávaný formát. Má vyššiu prioritu než bežná požiadavka používateľa, ale nie je samostatnou bezpečnostnou bariérou. Účinná inštrukcia vychádza z konkrétneho procesu a jasnej zodpovednosti.
Úloha, hranice a eskalácia
Prompt jasne určuje, čo agent smie urobiť, kedy má požiadať o doplnenie informácií a kedy odovzdať prípad človeku. Asistent kliniky môže vysvetliť organizačné informácie, ale nestanovuje diagnózu. Nákupný asistent odporúča produkty zo schváleného katalógu a nevymýšľa si cenu, dostupnosť ani vlastnosti.
Zdroje a nástroje
Inštrukcia odlišuje znalosti modelu od overených firemných údajov a opisuje, kedy použiť vyhľadávanie, CRM, katalóg alebo objednávkovú službu. Každý nástroj má iba nevyhnutné oprávnenia a jeho výsledok sa validuje. Kritická zmena, platba alebo odoslanie správy vyžaduje samostatnú kontrolu.
Prompt injection a tajomstvá
Obsah od používateľa, z webu alebo dokumentu môže obsahovať pokyn, ktorý sa pokúša zmeniť pravidlá. Aplikácia preto oddeľuje inštrukcie od údajov, obmedzuje oprávnenia a nepovažuje text z nástroja za dôveryhodný príkaz. Kľúče API, heslá a interné tajomstvá do promptu nepatria.
Verzovanie a testovanie
Každá verzia má autora, dátum, dôvod zmeny a súbor testov. Kontrolujú sa bežné otázky, neúplné údaje, protichodné požiadavky, viaceré jazyky, nevhodný obsah, pokusy o únik údajov a zlyhania nástrojov. Výsledok sa meria podľa presnosti, bezpečnosti, eskalácií a vplyvu na zákazníka.
Prístup PAR HOUSE Agency
System Prompt navrhujeme spolu s architektúrou agenta, znalostnou bázou, oprávneniami a rozhraním. Zachovávame tón značky, pravdivosť informácií a plynulé odovzdanie človeku. Inštrukcia sa automaticky nesynchronizuje ako marketingový text, ale riadene verzuje a opätovne overuje.
