Está cada vez mais comum e necessário utilizar Inteligência Artificial (IA) no nosso dia a dia para tarefas cotidianas ou para apoiar no desenvolvimento de código. A melhor forma de utilizar um agente é por meio de aplicações desktop. O problema é saber qual modelo utilizar para qual tarefa, além de contratos diferentes com provedores diferentes e fluxos de trabalho não integrados, especialmente caso sejam utilizadas aplicações diferentes.

É possível utilizar vários modelos de provedores diferentes em uma mesma aplicação com a API do GenAI de Oracle Cloud Infrastructure (OCI). Mantendo contexto entre os modelos e unificando a cobrança em um lugar só, para facilitar a governança e a metrificação de uso por modelo.

Para esse tutorial é utilizado o Cursor como ambiente desktop. Também pode-se utilizar qualquer aplicação desktop que permita a customização de URL/API Key, inclusive o Codex da OpenAI, ou o Roo Code (Extensão do Visual Studio Code).

Passo a Passo:

Passo 1: Instalar o Cursor

O aplicativo desktop do cursor está disponível em: https://cursor.com/

Após o download e instalação é possível seguir com o passo a passo de configuração (passos 2-9).

Passo 2: Abrir configurações

Após logar no cursor com as credenciais da sua conta, entre na tela de configuração:

Passo 3: Abrir models

Em seguida, abra a aba “models”

Passo 4: Abrir API Keys

Abra a aba “API Keys” no final da página:

Passo 5: Criar uma API Key

Logue na sua console de OCI, navegue até API Keys dentro do serviço Generative AI e gere suas chaves de API. Essa chave tem que ser gerada na mesma região da qual os modelos serão consumidos.

Passo 6: Copiar API Key

Por padrão a interface gera duas chaves ao mesmo tempo, copie uma das chaves.

Passo 7: Retorne ao Cursor

Ative as opções de “override” em OpenAI.

Passo 8: Colar API Key

No campo “API Key” cole a chave que você copiou de OCI.

Passo 9: Escrever URL

No campo “Base URL” escreva a URL correspondente à sua região em nuvem da qual os modelos serão consumidos.

https://inference.generativeai.<region>.oci.oraclecloud.com/openai/v1

No caso de São Paulo, a região é sa-saopaulo-1, a URL será:

https://inference.generativeai.sa-saopaulo-1.oci.oraclecloud.com/openai/v1

A lista de modelos disponível é a mesma lista de modelos disponíveis na região escolhida. A escolha da região é movida por regulações locais e decisões de negócio. Confira a lista de modelos disponíveis por região em: https://docs.oracle.com/iaas/Content/generative-ai/model-endpoint-regions.htm.

Finalizando

Agora com os modelos disponíveis no seu ambiente de desenvolvimento, você pode utilizar modelos diferentes e trocar conforme as suas especificações de uso e preferência. O consumo dos modelos será cobrado via créditos universais ou de acordo com o contrato firmado e sua utilização pode ser conferida na aba de monitoramento de Oracle Cloud Infrastructure (OCI).

Governança, Soberania e Segurança em um só lugar.