Cuantizare Binară (BQ) și Distanța Hamming pentru Embeddings în Baze de Date Vectoriale & Căutare Semantică

Cuantizarea binară (Binary Quantization – BQ) reprezintă cel mai agresiv nivel de compresie vectorială: fiecare valoare în virgulă mobilă este redusă la un singur bit (1 dacă valoarea este pozitivă, 0 dacă este negativă). Aceasta produce o reducere de memorie de 32 de ori față de reprezentările FP32.

Calculul distanței se transformă dintr-un produs scalar lent într-o operație logică XOR urmată de numărarea biților activi (instrucțiunea hardware POPCNT pe procesoare x86):

import numpy as np

# Vector original float32
v = np.array([0.45, -0.21, 0.88, -0.05, 0.12], dtype=np.float32)

# Cuantizare binară: generare mască pe biți
bits = np.packbits(v > 0)
print("Octet comprimat:", bits)

# Distanța Hamming între două măști pe biți
def hamming_distance(b1, b2):
    return bin(np.bitwise_xor(b1, b2)).count('1')

Modelele moderne de embeddings (precum Cohere Embed v3 sau OpenAI text-embedding-3) sunt antrenate special pentru a-și păstra proprietățile semantice chiar și după binarizare completă.