Pular para o conteúdo principal
Os Modelos de IA são o “cérebro” de um agente, responsáveis por interpretar linguagem, gerar respostas e raciocinar sobre o contexto fornecido. Um modelo pode ser um LLM como GPT, Gemini ou Sabia, mas também pode ser um modelo especializado menor, como um classificador, tradutor ou um detector de sentimento. Ambos os grupos estão presentes no Orkeia. No Orkeia, temos SLM’s internas e LLM’s externas ja pré configuradas para uso. É importante ressaltar que os modelos internos NÃO requerem chave de api, pois o Orkeia arca com os custos. Ja os modelos externos requerem chave de api proprietária.

​
Como os agentes usam Modelos

Os agentes de IA, no caso do orkeia, podem chamar seus modelos de diversas formas, como através da entrada do usuário, isto é, o prompt ou dados são enviados ao modelo e através de agendamentos via api.
No final das contas, ambos enviam o prompt ou dados para o modelo, mas é importante deixar claro que o Orkeia faz isso de forma agendada, via api ou via interação manual com o usuário.

​
Boas práticas

  • Escolha de provedor: É importante entender as características de cada modelo e de seus provedores antes de usar, o Orkeia também oferece uma ferramenta de escolha automática, para que você não tenha que se preocupar com isso.
  • Configuração do modelo: parâmetros como temperatura, max tokens e contexto podem afetar drasticamente o comportamento, então é sempre bom validar e testar qual é o melhor cenário para o seu projeto.
  • Habilitação por setor: defina em quais áreas de negócio podem usar diferentes tipos de modelo. É importante pensar no custo x benefício da liberação de um modelo para determinado setor.

​
Interface de Modelos de IA do Orkeia

O Orkeia permite, via API, que passemos modelos de IA para nossos agentes, abaixo temos um exemplo de interface: 
export interface AI {
  id?: string;
  name: string;
  sectors: string[];
  description: string;
  enabled: boolean;
  provider: Provider;
  model: Model;
  apikey?: string;
}

​
Exemplo de JSON de Modelo de IA no Orkeia

{
  "id": "ai_gpt4_orkeia",
  "name": "GPT-4 Orkeia",
  "sectors": ["engineering", "support", "research"],
  "description": "Modelo GPT-4 da OpenAI configurado para tarefas de raciocínio avançado, suporte multilíngue e geração de texto coerente.",
  "enabled": true,
  "provider": "OpenAI",
  "model": "gpt-4-0613",
  "apikey": "${{ secrets.OPENAI_API_KEY }}"
}