Șablonul Oficial de Conversație Llama 3 & 3.1 în Unsloth: Fine-Tuning LLM & Eficiență VRAM

Sintaxă & invocare
tokenizer = get_chat_template(tokenizer, chat_template="llama-3")

Arhitectura Meta Llama 3 a introdus un format specific de antrenare cu tokeni unici de delimitare a antetelor:

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

Ești un asistent AI util și concis.<|eot_id|><|start_header_id|>user<|end_header_id|>

Ce este Unsloth?<|eot_id|><|start_header_id|>assistant<|end_header_id|>

Unsloth este o bibliotecă open-source pentru fine-tuning rapid...<|eot_id|>
from unsloth.chat_templates import get_chat_template

tokenizer = get_chat_template(tokenizer, chat_template="llama-3")

Configurarea corectă a tokenului <|eot_id|> (End of Turn) este critică pentru a împiedica modelul să genereze monologuri nesfârșite după oferirea răspunsului.

Învață AI • Comunitate & Q&A

Întrebări & Exemple practice: Șablonul Oficial de Conversație Llama 3 & 3.1

Ai o întrebare despre Șablonul Oficial de Conversație Llama 3 & 3.1 sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!

🤖

Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!

Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.

Comunitate AI Adaugă o întrebare sau distribuie un cod / prompt

Moderare & Siguranță:

Pentru a menține calitatea și securitatea informațiilor, fiecare întrebare sau fragment de cod/prompt este analizat (manual sau prin moderare asistată de AI) înainte de publicare.