Formatul deschis ONNX (Open Neural Network Exchange) permite transferul modelelor antrenate în PyTorch către motoare de inferență optimizate cross-platform, precum ONNX Runtime, OpenVINO (Intel) sau TensorRT (NVIDIA).
import torch
model = MyClassifier().eval()
dummy_input = torch.randn(1, 3, 224, 224)
# Export cu axe dinamice pentru suport de batch variabil
torch.onnx.export(
model,
dummy_input,
"clasificator.onnx",
export_params=True,
opset_version=17,
input_names=["input"],
output_names=["output"],
dynamic_axes={
"input": {0: "batch_size"},
"output": {0: "batch_size"}
}
)
print("Model exportat cu succes în format ONNX.")Setarea dynamic_axes este esențială pentru a permite serverului de inferență să proceseze cereri cu număr dinamic de mostre fără re-exportare.
Întrebări & Exemple practice:
Exportul Modelelor în Format ONNX cu torch.onnx.exportAi o întrebare despre Exportul Modelelor în Format ONNX cu torch.onnx.export sau ai descoperit un truc, prompt sau fragment de cod util? Distribuie-l cu ceilalți membri ai comunității!
Fii primul care pune o întrebare sau distribuie un fragment de cod / prompt!
Nu au fost adăugate încă întrebări sau resurse pentru această pagină. Dacă ai testat un prompt sau ai un snippet util, adaugă-l mai jos pentru comunitate.