O Nama AI Search permite o uso do Histórico para manter o contexto da conversa!
Este recurso é essencial para criar interações mais coerentes e naturais, especialmente em diálogos complexos ou prolongados.

Ao realizar uma pergunta complementar, a IA utiliza o contexto da busca anterior para gerar uma resposta completa. Isso enriquece a resposta e mantém a coerência do diálogo! ✨

Consumo de Tokens

Ao utilizar o histórico cada interação adicionada ao histórico aumenta a quantidade de textos na requisição. Além disso, a resposta da API pode ser mais detalhada para manter a coerência com o histórico.
Como consequência, ocorre um aumento do consumo de tokens.

Gerenciar o Consumo de Tokens

Uma das formas de melhor gerenciar o consumo de tokens é limitar o tamanho do histórico, incluindo apenas as interações mais recentes e relevantes. Interações antigas ou menos importantes devem ser removidas.

A API para trazer o histórico é uma poderosa ferramenta para manter o contexto da conversa e deve ser usada com cuidado para evitar o aumento excessivo do consumo de tokens.

Implementar práticas de limitação do histórico podem ajudar a manter os custos sob controle enquanto oferece interações coerentes e relevantes. 😉