Modelo
Escolha o LLM que processa um template de IDP: o LLM embarcado do Roberty ou uma conexão externa com OpenAI, Anthropic ou Google Gemini.
Modelo
A seção Modelo das configurações define qual LLM processa o template. Todas as etapas de LLM do pipeline usam esse mesmo modelo:
- a identificação;
- o OCR com LLM, na extração;
- as etapas de LLM do pós-processamento.
Não há como escolher um modelo diferente para uma etapa específica. As alterações são salvas automaticamente no rascunho e chegam à produção quando você publica uma versão. Veja Versões.
As etapas de LLM precisam do recurso de IA generativa habilitado no workspace. Se elas aparecerem bloqueadas, entre em contato com o seu gerente de contas para habilitar o recurso.
Provedor
| Opção | Descrição |
|---|---|
| LLM embarcado do Roberty | O padrão. Pronto para usar, sem configuração. |
| Conexão externa | Usa a sua própria conta na OpenAI, na Anthropic ou no Google, por meio de uma conexão do workspace. |
Conexão externa
Com Conexão externa, escolha:
| Campo | Descrição |
|---|---|
| Serviço | OpenAI, Anthropic ou Google Gemini. Trocar o serviço limpa a conexão e o modelo escolhidos. |
| Conexão | Uma conexão do workspace com o serviço escolhido. Trocar a conexão limpa o modelo escolhido. O link Gerenciar conexões do workspace abre as conexões do workspace em outra aba. |
| Modelo | Um dos modelos disponíveis para a conexão, listados a partir da própria conta, com busca. Quando o provedor informa, a janela de contexto aparece ao lado do nome. |
As conexões são criadas nas configurações do workspace, só por administradores. Veja Conexões, e as páginas de OpenAI, Anthropic e Gemini.
Parâmetros do modelo
Com uma conexão externa, você também ajusta como o modelo gera as respostas:
| Parâmetro | Faixa | Descrição |
|---|---|---|
| Temperatura | 0 a 2 | Mais alto, mais criativo; mais baixo, mais previsível. |
| Top P | 0 a 1 | Alternativa à temperatura para controlar a variação das respostas. |
| Máximo de tokens | 1 a 32.000 | O tamanho máximo de cada resposta do modelo. |
Quando a temperatura e o Top P estão definidos, vale a temperatura e o Top P é ignorado. A identificação usa sempre temperatura 0, qualquer que seja o valor configurado aqui.
Templates importados
Ao importar um template, a conexão do modelo padrão é conferida como as demais: se ela não existir no workspace, escolha outra na importação ou depois, nesta seção. Veja Geral.