Como utilizar o endpoint para criar presets de configuração para modelos de linguagem.

Presets permitem padronizar e personalizar o comportamento de um modelo, garantindo consistência em aplicações que utilizam a API.


Descrição dos Campos do JSON

Campos Gerais

  • active (boolean): Indica se o preset está ativo. Use true para ativar e false para desativar.
    • Exemplo: true
  • name (string): Nome descritivo do preset. Deve ser único por projeto.
    • Exemplo: "exemplo de preset"
  • open_ai_model (string): Nome do modelo da OpenAI a ser utilizado.
    • Exemplo: "gpt-4o-mini"

Parâmetros de Geração

Os parâmetros abaixo ajustam como o modelo responde:

  • temperature (float): Controla a criatividade das respostas.
    • Valores baixos (ex.: 0.0) tornam as respostas mais determinísticas.
    • Valores altos (ex.: 1.0) aumentam a criatividade e variabilidade.
    • Exemplo: 0
  • maximum_length (integer): Limita o comprimento máximo das respostas em tokens.
    • Use 0 ou omita para aplicar o limite padrão do modelo.
    • Exemplo: 0
  • top_p (float): Define o limite de amostragem cumulativa (nucleus sampling).
    • Valores baixos restringem as opções a tokens de alta probabilidade.
    • Exemplo: 0
  • frequency_penalty (float): Penaliza repetições na geração de texto.
    • Use 0 para desativar ou valores positivos para aumentar a penalidade.
    • Exemplo: 0
  • presence_penalty (float): Penaliza a inclusão de termos já mencionados, incentivando novos tópicos.
    • Exemplo: 0

Prompts

  • template_prompt (string): Estrutura da pergunta a ser respondida pelo modelo, com placeholders dinâmicos.
    • Exemplo: "{QUESTION}"
  • template_system_prompt (string): Instruções detalhadas para guiar o comportamento do modelo.
    • Inclui variáveis como {LANGUAGE} e {TONE} para personalização dinâmica.
    • Exemplo:
"Você é um assistente prestativo.\nResponda apenas com informações verificadas:\n- [<DOCUMENT>] \"{CONTENT_NAME1}\": [<CONTEXT>] \"{CONTEXT1}\";\n..."

Configurações de Linguagem e Tom

  • tone (string): Define o tom de voz da resposta.
    • Exemplo: "Comercial especializado"
  • language (string): Define o idioma da resposta.
    • Exemplo: "Português"

Campos Gerenciados pela API

Os campos abaixo são preenchidos automaticamente pela API, não sendo necessário fornecê-los:

  • type: Sempre definido como "CHAT".
  • backend: Sempre definido como "CHATGPT".
  • model: Padrão definido como "models/text-bison".

Outros Campos

  • rerank (boolean): (ANOTAÇÃO INTERNA: VALIDAR MELHOR DESCRIÇÃO PARA O RERANK).
    • Exemplo: false
  • project (integer): Identificador do projeto ao qual o preset será vinculado.
    • Exemplo: 123
  • generative_preset_config (integer): Identificador da configuração de preset.
  • (ANOTAÇÃO INTERNA: generative_preset_config precisa ser verificado como funciona o uso desse novo campo pois ele possui alguns campos iguais presentes no preset.)
    • Exemplo: 1

Boas Práticas

  1. Definir Prompts Claros: Inclua apenas as informações necessárias nos prompts.
  2. Testar Configurações: Experimente diferentes valores para equilibrar criatividade e precisão.
  3. Reutilizar Configurações: Crie presets reutilizáveis para diferentes cenários e tipos de respostas.
Language
Click Try It! to start a request and see the response here!