Activation Steering (sau Representation Engineering) controlează comportamentul unui LLM în timpul inferenței prin adăugarea unui vector de direcție direct în activările straturilor ascunse, fără a modifica ponderile modelului și fără a altera promptul.
# 1. Calculează vectorul mediu de diferență între activările pentru răspunsuri oneste vs necinstite:
# vector_onestitate = mean(activari_oneste) - mean(activari_necinstite)
# 2. În timpul generării pe un strat intermediar (ex: stratul 16):
def steer_hook(module, input, output):
# Adaugă direct vectorul de concept în starea ascunsă a tokenilor:
return output + 1.5 * vector_onestitate
# Înregistrează hook-ul în PyTorch:
layer16.register_forward_hook(steer_hook)
# Modelul va deveni considerabil mai transparent și mai puțin predispus la halucinații!Control granular: Permite reducerea halucinațiilor, a bias-urilor sau a agresivității la nivel mecanic intern.
Întrebări & Discuții: Activation Steering în LLM: Ingineria Reprezentărilor și Vectori de Comportament
Ai o întrebare despre Activation Steering în LLM: Ingineria Reprezentărilor și Vectori de Comportament sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.