InferenceDetails interface

Detalles de una llamada de inferencia

Propiedades

endpoint

Punto de conexión de la llamada de inferencia

finishReasons

Matriz de motivos de finalización

inputTokens

Número de tokens de entrada usados

model

El nombre o identificador del modelo

operationName

Nombre o tipo de la operación para la inferencia

outputTokens

Número de tokens de salida generados

providerName

Nombre del proveedor (por ejemplo, openai, azure, antropónico)

thoughtProcess

El proceso de pensamiento usado por el agente

Detalles de las propiedades

endpoint

Punto de conexión de la llamada de inferencia

endpoint?: ServiceEndpoint

Valor de propiedad

finishReasons

Matriz de motivos de finalización

finishReasons?: string[]

Valor de propiedad

string[]

inputTokens

Número de tokens de entrada usados

inputTokens?: number

Valor de propiedad

number

model

El nombre o identificador del modelo

model: string

Valor de propiedad

string

operationName

Nombre o tipo de la operación para la inferencia

operationName: InferenceOperationType

Valor de propiedad

outputTokens

Número de tokens de salida generados

outputTokens?: number

Valor de propiedad

number

providerName

Nombre del proveedor (por ejemplo, openai, azure, antropónico)

providerName?: string

Valor de propiedad

string

thoughtProcess

El proceso de pensamiento usado por el agente

thoughtProcess?: string

Valor de propiedad

string