Arhitectura Meta Llama 3 a introdus un format specific de antrenare cu tokeni unici de delimitare a antetelor:
<|begin_of_text|><|start_header_id|>system<|end_header_id|>
Ești un asistent AI util și concis.<|eot_id|><|start_header_id|>user<|end_header_id|>
Ce este Unsloth?<|eot_id|><|start_header_id|>assistant<|end_header_id|>
Unsloth este o bibliotecă open-source pentru fine-tuning rapid...<|eot_id|>
from unsloth.chat_templates import get_chat_template
tokenizer = get_chat_template(tokenizer, chat_template="llama-3")
Configurarea corectă a tokenului <|eot_id|> (End of Turn) este critică pentru a împiedica modelul să genereze monologuri nesfârșite după oferirea răspunsului.
Întrebări & Exemple practice:
Șablonul Oficial de Conversație Llama 3 & 3.1Ai o întrebare despre Șablonul Oficial de Conversație Llama 3 & 3.1 sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.