Filosofia Groq se bazează pe principiul: „Software-ul face planificarea grea, siliciul doar execută instrucțiuni pure”. Compilatorul Groq analizează graful modelului PyTorch sau ONNX și generează instrucțiuni foarte lungi (VLIW – Very Long Instruction Word).
Fiecare instrucțiune controlează concomitent citirea din SRAM, transferul pe magistrala de interconectare și calculul produsului scalar pe mii de unități ALU, garantând o utilizare a hardware-ului apropiată de 100% (Model FLOPs Utilization extrem de ridicat).
Întrebări & Exemple practice:
Paralelism la Nivel de Instrucțiune (VLIW) în Compilatorul GroqAi o întrebare despre Paralelism la Nivel de Instrucțiune (VLIW) în Compilatorul Groq sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.