Clasa OpenAI în LlamaIndex: Conectarea la Modelele GPT-4o în LlamaIndex & Data RAG

Clasa OpenAI din pachetul llama-index-llms-openai este clientul oficial pentru rularea modelelor GPT-4o, GPT-4o-mini și o1 în LlamaIndex, suportând generare sincronă, asincronă, streaming și apelare de funcții (Tool Calling).

Exemplu de configurare

from llama_index.llms.openai import OpenAI
from llama_index.core import Settings

# Setarea ca model global în LlamaIndex
Settings.llm = OpenAI(model="gpt-4o", temperature=0.2, max_tokens=1024)

# Sau instanțiere locală
llm = OpenAI(model="gpt-4o-mini")
raspuns = llm.complete("Explică RAG într-o singură frază.")
print(raspuns.text)

Permite transmiterea de parametri specifici precum additional_kwargs={'seed': 42} pentru generare deterministă.