Uso de LLMs
Esta página descreve a aba LLMs — a visão detalhada de custos de APIs de modelos de linguagem no AI/R Watch.
A aba LLMs fornece um detalhamento dos custos de APIs de modelos de linguagem. Ela foi projetada para ajudar as equipes a entender quais provedores de nuvem e modelos estão gerando os maiores gastos, acompanhar o consumo de tokens ao longo do tempo e identificar tendências mês a mês.
Cartões de Visão Geral
No topo da aba LLMs, três cartões de resumo fornecem uma leitura rápida do período:
| Cartão | Descrição |
|---|---|
| Gasto Bruto no Período | Gasto total de APIs LLM antes dos créditos, para o período selecionado |
| Nuvem Líder | O provedor de nuvem com maior gasto líquido |
| Modelo Líder | O modelo de linguagem com maior gasto líquido |
Sub-abas
A aba LLMs é dividida em duas sub-abas: Nuvens e Modelos. Use a barra de abas abaixo dos cartões de visão geral para alternar entre elas.
Nuvens
A sub-aba Nuvens mostra os gastos detalhados por provedor de nuvem.
Cartões de Resumo
| Cartão | Descrição |
|---|---|
| Gasto Líquido no Período | Gasto líquido total em todos os provedores de nuvem |
| Nuvem Líder | Provedor de nuvem com maior gasto líquido |
| Nuvens Monitoradas | Número de provedores de nuvem distintos com gasto registrado |
Gráfico de Tendência de Nuvens
Um gráfico de barras de série temporal mostra o gasto líquido mensal dos principais provedores de nuvem ao longo do período selecionado. Cada série é codificada por cor por provedor. Os meses projetados (quando o mês atual está incompleto) são exibidos com preenchimento mais claro e prefixo ~ no rótulo do mês.
Distribuição de Nuvens
Um gráfico de rosca mostra a participação de cada provedor de nuvem no gasto total de LLMs no período. Ao passar o cursor sobre um segmento, são exibidos o nome do provedor e seu valor absoluto.
Tabela de Detalhes de Nuvens
A tabela de detalhes lista todos os provedores de nuvem com gasto no período:
| Coluna | Descrição |
|---|---|
| Nuvem | Nome do provedor de nuvem |
| Colunas mensais | Gasto líquido por mês; meses projetados exibidos com prefixo ~ |
| Custo Bruto (USD) | Gasto bruto total no período |
| Modelos | Número máximo de modelos distintos utilizados em qualquer mês |
| MoM | Variação percentual mês a mês |
Modelos
A sub-aba Modelos mostra os gastos detalhados por modelo de linguagem individual.
Cartões de Resumo
| Cartão | Descrição |
|---|---|
| Gasto Líquido no Período | Gasto líquido total em todos os modelos |
| Modelo Líder | Modelo com maior gasto líquido |
| Modelos Monitorados | Número de modelos distintos com gasto registrado |
Gráfico de Tendência de Modelos
Um gráfico de barras de série temporal mostra o gasto líquido mensal dos principais modelos. Cada rótulo de série inclui o nome do provedor e o nome do modelo. Os meses projetados são exibidos com preenchimento mais claro.
Distribuição de Modelos
Um gráfico de rosca mostra a participação de cada modelo no gasto total de LLMs no período.
Volume de Tokens
Quando os dados de tokens estão disponíveis, a sub-aba Modelos também exibe uma seção de Volume de Tokens:
Cartões de Resumo de Tokens
| Cartão | Descrição |
|---|---|
| Tokens no Período | Total de tokens consumidos em todos os modelos no período |
| Tokens de Entrada no Último Mês | Tokens de entrada do mês mais recente com dados |
| Tokens de Saída no Último Mês | Tokens de saída do mês mais recente com dados |
Gráfico de Tendência de Tokens
Um gráfico de barras de série temporal mostra o detalhamento mensal de tokens Total, Entrada e Saída. Isso ajuda a identificar se o consumo de tokens de entrada ou saída está impulsionando o crescimento de custos.
Os dados de volume de tokens são capturados pela camada de observabilidade. Se sua organização não configurou o rastreamento de tokens, esta seção não será exibida.
Tabela de Detalhes de Modelos
A tabela de detalhes lista todos os modelos com gasto no período:
| Coluna | Descrição |
|---|---|
| Modelo | Nome do modelo de linguagem |
| Provedor | Provedor de nuvem ou provedor de API |
| Colunas mensais | Gasto líquido por mês; meses projetados exibidos com prefixo ~ |
| Custo Bruto (USD) | Gasto bruto total no período |
| MoM | Variação percentual mês a mês |
Aviso de Dados Parciais
Se a visão detalhada de LLMs não estiver totalmente acessível para a organização atual, um banner de aviso aparece no topo da aba:
A visão detalhada de LLMs pode não estar acessível com a configuração de acesso a dados atual. Os gráficos de provedores de nuvem permanecem disponíveis, mas os dados de nível de modelo podem aparecer vazios até que as permissões apropriadas sejam concedidas.
Entre em contato com o administrador da plataforma se você vir este aviso e esperar ter acesso aos dados de nível de modelo.
Próximos Passos
Para analisar custos por produto, vertical e métricas de uso, acesse Custo por Ferramenta. Para retornar à visão geral consolidada, consulte Visão Executiva.