Înregistrarea și Versionarea Ponderilor cu MLflow Model Registry în LLMOps, Evaluare & Securitate AI

Un Model Registry centralizat funcționează ca un depozit unic de adevăr pentru toate versiunile de modele antrenate sau ajustate fin în organizație. Acesta reține ponderile fizice, codul de preprocesare, mediul Conda/Docker și stadiul operațional:

from mlflow.tracking import MlflowClient

client = MlflowClient()

# Trecerea unei versiuni validate din Staging în Producție
client.transition_model_version_stage(
    name="AsistentJuridicLLM",
    version=3,
    stage="Production",
    archive_existing_versions=True  # Arhivează automat versiunea anterioară
)
print("Modelul v3 a fost promovat în producție.")

Microserviciul de inferență interoghează direct registrul după eticheta @Production, permițând lansări continue fără re-desfășurarea manuală a infrastructurii.