Ce înseamnă Prompt de sistem
Promptul de sistem (system prompt) este un set de instrucțiuni pe care aplicația îl dă modelului înaintea mesajelor utilizatorului, de obicei fără ca utilizatorul să-l vadă. El stabilește cine este asistentul, ce are voie și ce nu are voie să facă, ce ton folosește și ce informații de fundal are.
Prin promptul de sistem, același model de limbaj poate deveni asistentul de suport al unei bănci, un profesor de matematică răbdător sau un asistent de programare. Mulți chatboți le permit și utilizatorilor să adauge instrucțiuni personalizate, care funcționează asemănător.
Modelele sunt antrenate să acorde promptului de sistem o prioritate mai mare decât mesajelor obișnuite. Prioritatea nu este însă absolută: prin jailbreak sau prompt injection, unii încearcă să facă modelul să-și ignore instrucțiunile.
Cum funcționează
În API-urile modelelor de limbaj, o conversație este o listă de mesaje cu roluri: system (la unii furnizori, developer), user și assistant. Mesajul de sistem este pus la început și trimis modelului la fiecare cerere, împreună cu restul conversației, ocupând o parte din fereastra de context.
Un prompt de sistem tipic conține rolul („Ești asistentul virtual al magazinului X”), regulile („Răspunde doar în română”, „Nu oferi sfaturi medicale”), informații utile (programul, politica de retur) și formatul răspunsurilor.
Pe înțelesul tuturor
Promptul de sistem seamănă cu instructajul primit de un angajat nou în prima zi: cum se prezintă clienților, ce poate promite, când cheamă un șef. Clientul nu vede instructajul, dar îi simte efectul în fiecare discuție.
Exemplu
O clinică veterinară din Constanța are un chatbot pe site. Promptul lui de sistem spune: „Ești asistentul clinicii. Răspunzi politicos, în română. Oferi informații despre program și programări. Nu pui diagnostice; pentru orice simptom recomanzi o consultație. În urgențe, dai numărul de telefon al clinicii.” Utilizatorul vede doar conversația, dar fiecare răspuns respectă aceste reguli.
De reținut
- Promptul de sistem stabilește rolul și regulile asistentului pentru întreaga conversație.
- Este scris de dezvoltator și, de obicei, nu este afișat utilizatorului.
- Nu este o barieră de securitate perfectă: nu pune în el secrete, precum parole sau chei API.
Nu confunda
- Prompt de sistem vs. promptul utilizatorului: promptul de sistem este același pentru toată aplicația; promptul utilizatorului este mesajul fiecărei persoane.
- Prompt de sistem vs. fine-tuning: promptul de sistem ghidează modelul prin text, fără să-l modifice; fine-tuning-ul schimbă parametrii modelului.
Termeni înrudiți
- Prompt: Textul (uneori și imaginile sau fișierele) pe care îl dai unui model AI ca să-i spui ce vrei să facă.
- Prompt engineering: Arta de a formula cererile pentru modelele AI astfel încât să obții răspunsuri cât mai corecte, utile și în formatul dorit.
- Chatbot: Program cu care poți conversa în scris sau vocal; azi, cei mai capabili chatboți sunt construiți pe modele lingvistice mari.
- Prompt injection: Atac prin care instrucțiuni ascunse într-un text (pagină web, e-mail, document) deturnează un model AI să facă altceva decât a cerut utilizatorul.
- Jailbreak: Încercarea de a păcăli un model AI să-și ignore regulile de siguranță și să dea răspunsuri pe care, în mod normal, le-ar refuza.
- Fereastră de context: Cantitatea maximă de text, măsurată în tokeni, pe care un model o ia în calcul deodată: instrucțiuni, conversație, documente și răspuns.