Marcaj Digital (Watermarking) pentru Textele Generate de AI în LLMOps, Evaluare & Securitate AI

Tehnica de Watermarking (marcaj digital ascuns) alterează imperceptibil distribuția probabilităților de generare a tokenilor, astfel încât o entitate care deține cheia de verificare poate dovedi matematic că un anumit text a fost compus de un model AI, fără ca cititorul uman să observe vreo modificare în calitatea frazării.

Algoritmul împarte vocabularul la fiecare pas în două liste (Green List și Red List) pe baza hash-ului tokenilor anteriori, favorizând ușor selectarea tokenilor din lista verde:

# Algoritmul Kirchenbauer et al. pentru watermarking
import torch

def aplica_watermark_logits(logits, prev_token_id, green_bias=2.0):
    # Generare listă verde bazată pe hash-ul token-ului precedent
    seed = hash(prev_token_id) % (2**32)
    torch.manual_seed(seed)
    
    # 50% din vocabular devine 'Green List'
    masca_verde = torch.rand(logits.shape[-1]) > 0.5
    logits[masca_verde] += green_bias
    return logits

La analiză, un text cu un procent anormal de mare de tokeni „verzi” (scor z-score > 4.0) oferă o dovadă criptografică a originii sintetice.