Spre deosebire de Hard Prompting (cuvinte în limbaj natural), Soft Prompting adaugă un prefix de vectori continui antrenați prin gradient descent direct pe straturile de embedding.
Comparație conceptuală
# Hard prompt clasic (tokeni ficși din vocabular):
prompt_text = "Tradu textul următor în franceză: "
# Soft prompt (k vectori învățați în spațiul latent):
virtual_tokens = model.soft_prompt_embeddings(input_ids) # Matrice de dimensiune [k, d_model]
output = model.generate(inputs_embeds=torch.cat([virtual_tokens, user_embeds], dim=1))Permite adaptarea eficientă a unui model la mii de sarcini diferite păstrând greutățile înghețate.
Întrebări & Discuții: Soft Prompting și Optimizarea Tokenilor Virtuali în Spațiul de Embedding
Ai o întrebare despre Soft Prompting și Optimizarea Tokenilor Virtuali în Spațiul de Embedding sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.