Rețelele recurente LSTM (Long Short-Term Memory) și GRU (Gated Recurrent Unit) sunt proiectate special pentru a păstra informații pe secvențe lungi, prevenind dispariția gradientelor (Vanishing Gradients) întâlnită în RNN-urile clasice.
import torch
import torch.nn as nn
# batch_first=True -> forma intrării este (Batch, Seq_Len, Features)
lstm = nn.LSTM(input_size=64, hidden_size=128, num_layers=2, batch_first=True, bidirectional=True)
# Lot de 8 propoziții, fiecare având 20 de tokeni reprezentați prin vectori de 64
x = torch.randn(8, 20, 64)
# out conține stările ascunse pentru fiecare pas de timp
# (hn, cn) conțin starea ascunsă finală și celula de memorie
out, (hn, cn) = lstm(x)
print("Ieșire LSTM:", out.shape) # torch.Size([8, 20, 256]) datorită bidirectional=TrueDeși în NLP modelele bazate pe atenție (Transformers) domină, LSTM și GRU rămân esențiale în prognoza seriilor de timp financiare, IoT și procesarea semnalelor audio de latență redusă.
Întrebări & Exemple practice:
Modele Secvențiale Recurente: nn.LSTM și nn.GRU în PyTorchAi o întrebare despre Modele Secvențiale Recurente: nn.LSTM și nn.GRU în PyTorch sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.