Bifrost
Cada requisição de LLM, atribuída a um time.
O Bifrost da Maxim AI estima o custo de cada chamada de LLM feita pelo seu gateway. Nosso exportador open source envia tudo para o Cloud Intelligence™ por provedor, modelo, chave virtual, time e cliente, ao lado da sua fatura de nuvem.
Exportador open source · Sem conteúdo de prompts · Visível em cerca de 15 minutos
Bifrost · October
o que importamos
Dados do Bifrost, nas dimensões que você já usa.
Cada requisição do gateway é mapeada para provedor, serviço e SKU no Cloud Analytics, além dos labels do Bifrost para modelo, chave virtual, time, cliente, feature, unidade de negócio e projeto. Os custos são estimativas para showback.
Bifrostanthropicclaude-sonnet-4-20250514o que você pode fazer com isso
Dos logs do gateway a uma decisão
Custo por chave virtual
Segmente o gasto estimado por chave virtual, time, cliente, feature ou modelo.
Taxa de erro
Requisições com falha são exportadas com custo zero, mantendo as taxas de erro nos relatórios.
Custo de input vs. output
Custo de input e de output, lado a lado, no gateway 2.0.0 e versões posteriores.
GenAI Intelligence
Bifrost ao lado dos seus outros provedores de IA em um único dashboard.
Orçamentos e alertas
Limites para o gasto do gateway antes que as faturas dos provedores cheguem.
Alocações
Atribua o gasto estimado com LLMs a times e clientes, a partir dos labels do Bifrost.
no ar em minutos
Conecte o Bifrost em três passos
Crie um token de API.
No seu perfil do Cloud Intelligence™, com o escopo DataHubAdmin. Exibido apenas uma vez.
Execute o exportador.
Um container ao lado do seu gateway, via Docker, Helm, docker-compose ou binário.
Relatórios em minutos.
Execute uma vez para validar. Os dados aparecem no Cloud Analytics em cerca de 15 minutos.
Open source, Apache-2.0. O exportador nunca lê o conteúdo de prompts ou respostas.
Comece grátisFrequently asked
questions
Como a integração com o Bifrost se conecta?
Você executa o bifrost-datahub-exporter, que é open source, ao lado do seu gateway auto-hospedado. Ele consulta a API de logs do gateway e envia os eventos para a nossa API do DataHub, então não precisamos de nenhum acesso de rede ao seu ambiente e as credenciais do gateway ficam dentro da sua rede.
O que eu preciso para começar?
Um gateway Bifrost na versão 2.0.0 ou posterior com logging habilitado, uma assinatura do DataHub incluída no seu plano e um token de API com o escopo DataHubAdmin. Gateways mais antigos funcionam em modo best-effort, sem a separação entre custo de input e de output.
Esse é o custo faturado dos meus LLMs?
Não. O Bifrost não fatura nada, então esses valores são estimativas baseadas no catálogo de preços de modelos dele, usadas para atribuição e showback. Seu gasto oficial continua chegando pelos feeds de faturamento do provedor e da nuvem, por isso não some o dataset do Bifrost aos totais da fatura.
Com que frequência os dados são atualizados? Posso importar o histórico?
O exportador consulta os dados a cada cinco minutos por padrão, e os eventos aparecem no Cloud Analytics cerca de 15 minutos após o envio. Defina BACKFILL_DAYS na primeira execução para importar o histórico, limitado pela retenção de logs do seu Bifrost e pela janela de dois anos do DataHub.
Quais dimensões e labels estão disponíveis?
O serviço é o provedor upstream e o SKU é o modelo. Os labels adicionam chave virtual, time, cliente e feature, além de unidade de negócio e projeto quando o seu plano do Bifrost os preenche. Requisições com falha são exportadas com custo zero, marcadas como erros.
Como o Bifrost aparece junto dos meus outros provedores?
O Bifrost aparece como um provedor próprio no Cloud Analytics e no dashboard do GenAI Intelligence, ao lado dos demais provedores de GenAI compatíveis. Cada evento carrega um label cost_basis: estimated, para que você possa mantê-lo separado do gasto faturado.
Conecte o Bifrost. Saiba quem gera cada chamada de LLM.
Exportador open source. Sem conteúdo de prompts. Dados em minutos.