Está cada vez mais comum e necessário utilizar Inteligência Artificial (IA) no nosso dia a dia para tarefas cotidianas ou para apoiar no desenvolvimento de código. A melhor forma de utilizar um agente é por meio de aplicações desktop. O problema é saber qual modelo utilizar para qual tarefa, além de contratos diferentes com provedores diferentes e fluxos de trabalho não integrados, especialmente caso sejam utilizadas aplicações diferentes.
É possível utilizar vários modelos de provedores diferentes em uma mesma aplicação com a API do GenAI de Oracle Cloud Infrastructure (OCI). Mantendo contexto entre os modelos e unificando a cobrança em um lugar só, para facilitar a governança e a metrificação de uso por modelo.
Para esse tutorial é utilizado o Cursor como ambiente desktop. Também pode-se utilizar qualquer aplicação desktop que permita a customização de URL/API Key, inclusive o Codex da OpenAI, ou o Roo Code (Extensão do Visual Studio Code).
Passo a Passo:
Passo 1: Instalar o Cursor
O aplicativo desktop do cursor está disponível em: https://cursor.com/
Após o download e instalação é possível seguir com o passo a passo de configuração (passos 2-9).
Passo 2: Abrir configurações
Após logar no cursor com as credenciais da sua conta, entre na tela de configuração:

Passo 3: Abrir models
Em seguida, abra a aba “models”

Passo 4: Abrir API Keys
Abra a aba “API Keys” no final da página:

Passo 5: Criar uma API Key
Logue na sua console de OCI, navegue até API Keys dentro do serviço Generative AI e gere suas chaves de API. Essa chave tem que ser gerada na mesma região da qual os modelos serão consumidos.

Passo 6: Copiar API Key
Por padrão a interface gera duas chaves ao mesmo tempo, copie uma das chaves.

Passo 7: Retorne ao Cursor
Ative as opções de “override” em OpenAI.

Passo 8: Colar API Key
No campo “API Key” cole a chave que você copiou de OCI.

Passo 9: Escrever URL
No campo “Base URL” escreva a URL correspondente à sua região em nuvem da qual os modelos serão consumidos.
https://inference.generativeai.<region>.oci.oraclecloud.com/openai/v1
No caso de São Paulo, a região é sa-saopaulo-1, a URL será:
https://inference.generativeai.sa-saopaulo-1.oci.oraclecloud.com/openai/v1

A lista de modelos disponível é a mesma lista de modelos disponíveis na região escolhida. A escolha da região é movida por regulações locais e decisões de negócio. Confira a lista de modelos disponíveis por região em: https://docs.oracle.com/iaas/Content/generative-ai/model-endpoint-regions.htm.
Finalizando
Agora com os modelos disponíveis no seu ambiente de desenvolvimento, você pode utilizar modelos diferentes e trocar conforme as suas especificações de uso e preferência. O consumo dos modelos será cobrado via créditos universais ou de acordo com o contrato firmado e sua utilização pode ser conferida na aba de monitoramento de Oracle Cloud Infrastructure (OCI).
Governança, Soberania e Segurança em um só lugar.
