Uso de LLMs
Esta página describe la pestaña LLMs — la vista detallada de costos de APIs de modelos de lenguaje en AI/R Watch.
La pestaña LLMs proporciona un desglose de los costos de APIs de modelos de lenguaje. Está diseñada para ayudar a los equipos a entender qué proveedores de nube y modelos están generando los mayores gastos, rastrear el consumo de tokens a lo largo del tiempo e identificar tendencias mes a mes.
Tarjetas de Visión General
En la parte superior de la pestaña LLMs, tres tarjetas de resumen proporcionan una lectura rápida del período:
| Tarjeta | Descripción |
|---|---|
| Gasto Bruto en el Período | Gasto total de APIs LLM antes de créditos, para el período seleccionado |
| Nube Líder | El proveedor de nube con mayor gasto neto |
| Modelo Líder | El modelo de lenguaje con mayor gasto neto |
Sub-pestañas
La pestaña LLMs está dividida en dos sub-pestañas: Nubes y Modelos. Use la barra de pestañas debajo de las tarjetas de visión general para alternar entre ellas.
Nubes
La sub-pestaña Nubes muestra los gastos detallados por proveedor de nube.
Tarjetas de Resumen
| Tarjeta | Descripción |
|---|---|
| Gasto Neto en el Período | Gasto neto total en todos los proveedores de nube |
| Nube Líder | Proveedor de nube con mayor gasto neto |
| Nubes Monitoreadas | Número de proveedores de nube distintos con gasto registrado |
Gráfico de Tendencia de Nubes
Un gráfico de barras de serie temporal muestra el gasto neto mensual de los principales proveedores de nube a lo largo del período seleccionado. Cada serie está codificada por color por proveedor. Los meses proyectados (cuando el mes actual está incompleto) se muestran con relleno más claro y prefijo ~ en la etiqueta del mes.
Distribución de Nubes
Un gráfico de rosca muestra la participación de cada proveedor de nube en el gasto total de LLMs en el período. Al pasar el cursor sobre un segmento, se muestran el nombre del proveedor y su valor absoluto.
Tabla de Detalles de Nubes
La tabla de detalles lista todos los proveedores de nube con gasto en el período:
| Columna | Descripción |
|---|---|
| Nube | Nombre del proveedor de nube |
| Columnas mensuales | Gasto neto por mes; meses proyectados mostrados con prefijo ~ |
| Costo Bruto (USD) | Gasto bruto total en el período |
| Modelos | Número máximo de modelos distintos utilizados en cualquier mes |
| MoM | Variación porcentual mes a mes |
Modelos
La sub-pestaña Modelos muestra los gastos detallados por modelo de lenguaje individual.
Tarjetas de Resumen
| Tarjeta | Descripción |
|---|---|
| Gasto Neto en el Período | Gasto neto total en todos los modelos |
| Modelo Líder | Modelo con mayor gasto neto |
| Modelos Monitoreados | Número de modelos distintos con gasto registrado |
Gráfico de Tendencia de Modelos
Un gráfico de barras de serie temporal muestra el gasto neto mensual de los principales modelos. Cada etiqueta de serie incluye el nombre del proveedor y el nombre del modelo. Los meses proyectados se muestran con relleno más claro.
Distribución de Modelos
Un gráfico de rosca muestra la participación de cada modelo en el gasto total de LLMs en el período.
Volumen de Tokens
Cuando los datos de tokens están disponibles, la sub-pestaña Modelos también muestra una sección de Volumen de Tokens:
Tarjetas de Resumen de Tokens
| Tarjeta | Descripción |
|---|---|
| Tokens en el Período | Total de tokens consumidos en todos los modelos en el período |
| Tokens de Entrada en el Último Mes | Tokens de entrada del mes más reciente con datos |
| Tokens de Salida en el Último Mes | Tokens de salida del mes más reciente con datos |
Gráfico de Tendencia de Tokens
Un gráfico de barras de serie temporal muestra el desglose mensual de tokens Total, Entrada y Salida. Esto ayuda a identificar si el consumo de tokens de entrada o salida está impulsando el crecimiento de costos.
Los datos de volumen de tokens son capturados por la capa de observabilidad. Si su organización no configuró el rastreo de tokens, esta sección no se mostrará.
Tabla de Detalles de Modelos
La tabla de detalles lista todos los modelos con gasto en el período:
| Columna | Descripción |
|---|---|
| Modelo | Nombre del modelo de lenguaje |
| Proveedor | Proveedor de nube o proveedor de API |
| Columnas mensuales | Gasto neto por mes; meses proyectados mostrados con prefijo ~ |
| Costo Bruto (USD) | Gasto bruto total en el período |
| MoM | Variación porcentual mes a mes |
Aviso de Datos Parciales
Si la vista detallada de LLMs no está completamente accesible para la organización actual, aparece un banner de aviso en la parte superior de la pestaña:
La vista detallada de LLMs puede no estar accesible con la configuración de acceso a datos actual. Los gráficos de proveedores de nube permanecen disponibles, pero los datos de nivel de modelo pueden aparecer vacíos hasta que se otorguen los permisos apropiados.
Contacte al administrador de la plataforma si ve este aviso y espera tener acceso a los datos de nivel de modelo.
Próximos Pasos
Para analizar costos por producto, vertical y métricas de uso, acceda a Costo por Herramienta. Para regresar a la visión general consolidada, consulte Vista Ejecutiva.