Matryoshka Representation Learning (MRL): Truncarea Dinamică a Vectorilor în Baze de Date Vectoriale & Căutare Semantică

Tehnologia Matryoshka Representation Learning (MRL), inspirată de păpușile rusești imbricate, antrenează modelele de embeddings astfel încât primele dimensiuni ale vectorului (de exemplu, primele 64, 128 sau 256 de componente dintr-un total de 1536) să conțină cele mai importante informații semantice.

Modelele moderne precum text-embedding-3-small sau nomic-embed-text suportă MRL nativ. Aceasta permite decuparea vectorilor (vector slicing) direct în codul clientului:

import numpy as np

# Vector complet extras de la un model MRL (dimensiune 1536)
full_vector = np.random.randn(1536).astype(np.float32)

# Truncare la 256 de dimensiuni și re-normalizare
short_vector = full_vector[:256]
normalized_short = short_vector / np.linalg.norm(short_vector)

print("Dimensiune nouă:", len(normalized_short))
# Reducere de 6x a costului de stocare RAM în indexul vectorial!

Evaluările empirice arată că păstrarea a doar 256 de dimensiuni dintr-un vector de 1536 păstrează peste 98% din performanța de recall pe benchmark-urile standard MTEB.