torch.bmm(): Înmulțirea Matricială pe Loturi Tridimensionale în PyTorch & Deep Learning Practic

Funcția torch.bmm() (Batched Matrix Multiplication) realizează înmulțirea matricială exclusiv pe tensori 3D având aceeași dimensiune de lot (batch). Dacă primul tensor are forma (b, n, m) și al doilea are forma (b, m, p), rezultatul va avea forma (b, n, p).

Exemplu de apelare

import torch

batch_size = 16
Q = torch.randn(batch_size, 64, 128)
K_T = torch.randn(batch_size, 128, 64)

# Calculul scorurilor de atenție nescalate
scoruri = torch.bmm(Q, K_T)
print(scoruri.shape)  # torch.Size([16, 64, 64])

Spre deosebire de torch.matmul, bmm nu efectuează broadcasting, fiind optimizat direct la nivel de nuclee hardware BLAS.