Consumo
Como funciona o consumo de créditos?
Cada interação com a IA consome créditos, e a quantidade usada depende do tamanho da solicitação e da tecnologia envolvida.
Como os créditos são calculados?
O consumo de créditos depende da quantidade de tokens processados e do tipo de tecnologia utilizada.
A fórmula é simples:
- Tokens processados × (Multiplicador do Modelo de IA + Multiplicador da Busca Semântica).
- Modelos de IA Generativa (responsáveis por criar respostas) têm multiplicadores diferentes:
GPT-4o-mini (2), O3-mini (7), O1-mini (7), GPT-4o (17), O1 (100). - Modelos de Busca Semântica (que localizam informações) também influenciam no consumo:
AI-Search-v1 (1), AI-Search-v2 (2).
Exemplo prático:
Imagine que sua consulta gere 4.000 tokens e você esteja usando os modelos GPT-4o-mini + AI-Search-v1.
- O multiplicador do GPT-4o-mini é 2.
- O multiplicador do AI-Search-v1 é 1.
- Somamos: 2 + 1 = 3.
- Multiplicamos pelo número de tokens: 4.000 × 3 = 12.000 créditos consumidos.
Se você tem um saldo de 54 milhões de créditos, isso permitiria aproximadamente 4.500 mil requisições nesse cenário.
Com essas informações há possibilidade de monitorar e otimizar o consumo de tokens, além de solicitar recomendações personalizadas da equipe de suporte da Nama para melhorar o desempenho dos modelos.
Essas recomendações podem incluir desde a alteração do componente de Busca (AI-Search) ou do LLM utilizado em um modelo específico da sua conta até ajustes na quantidade de chunks processados em cada pergunta.
Qualquer dúvida, entre em contato com nosso time através do [email protected].
Updated 11 days ago