LLM Collie + Gateway Collie
Quando escolher: sua equipe quer Inteligência Artificial gerenciada pela Collie sem operar Gateway, mensageria ou banco de dados. Os MeshAgents podem iniciar conexões HTTPS para os endereços da Collie.
Cenários
Compare os modelos SaaS e Full pela localização da LLM, do Gateway e dos demais componentes. Assim, sua equipe instala apenas o que o cenário exige.
Os sete cenários se dividem entre dois modelos. Cada opção apresenta a distribuição dos componentes, a indicação de uso e o diagrama correspondente.
Inteligência Artificial gerenciada pela Collie. No seu ambiente, apenas o MeshAgent.
Ver detalhes → SaaS 1.2Os MeshAgents consultam o Gateway na sua rede. Para uma prova de conceito imediata, use o cenário 1.1.
Ver detalhes → SaaS 1.3Operação pelo Cockpit, com aprovação humana e inferência desligada por política. Não há uso de LLM.
Ver detalhes → SaaS 1.4Gateway interno e LLM na VPC. A implantação segue a mesma condição técnica do cenário 1.2.
Ver detalhes → Full 2Instalação completa no cliente, com inferência por um endereço gerenciado pela Collie.
Ver detalhes → Full 3Governança local sem inferência por modelo. A AI Policy permanece desligada.
Ver detalhes → Full 4Ollama, vLLM ou API na sua VPC — modelo sob o seu controle.
Ver detalhes →Compare os cenários lado a lado. Os números na primeira coluna levam aos detalhes de cada opção.
| Cenário | No cliente | Na Collie | LLM | Melhor quando |
|---|---|---|---|---|
| 1.1 | MeshAgent | CP + Gateway + Inteligência Artificial | Collie | Inteligência Artificial gerenciada; apenas o MeshAgent no cliente |
| 1.2 | MeshAgent + Gateway | CP + Inteligência Artificial | Collie | Consulta dos MeshAgents ao Gateway na rede do cliente |
| 1.3 | MeshAgent | CP + Gateway; AI Policy bloqueada | Nenhuma | Operação com aprovação humana, sem inferência por LLM |
| 1.4 | MeshAgent + Gateway (± LLM) | CP (+ Policy/Router) | Própria / terceiro | LLM interna ou BYO; Gateway interno |
| 2 | Instalação Full → LLM Collie | Só LLM | Collie | Instalação local completa com Inteligência Artificial gerenciada |
| 3 | Instalação Full sem inferência | — | Nenhuma | Governança local sem caminho de LLM |
| 4 | Instalação Full + LLM própria ou local | — | Própria / terceiro | Ollama, vLLM ou API na sua VPC |
A Collie opera Cockpit, Control Plane, banco de dados, mensageria, Evidence Processor e os recursos de Inteligência Artificial contratados. No seu ambiente ficam o MeshAgent e, nos cenários 1.2 e 1.4, o Gateway.
Quando escolher: sua equipe quer Inteligência Artificial gerenciada pela Collie sem operar Gateway, mensageria ou banco de dados. Os MeshAgents podem iniciar conexões HTTPS para os endereços da Collie.
Quando escolher: sua equipe quer usar a LLM Collie, mas os MeshAgents devem consultar um Gateway dentro da rede do cliente por requisitos de conformidade, latência ou segurança. O cliente opera o Gateway; o plano de controle e os recursos de Inteligência Artificial ficam na Collie.
Implantação prevista. Os pacotes atuais mantêm o Gateway junto ao Control Plane. Até existir um pacote exclusivo para o Gateway, use o cenário 1.2 como referência de arquitetura e valide o desenho com a Collie. Para uma prova de conceito imediata, o cenário suportado é o 1.1.
Quando escolher: a equipe usa o Cockpit para incidentes, coleta de dados e remediação com aprovação humana, mas não quer ou não pode usar uma LLM. É o cenário SaaS sem inferência.
Quando escolher: dados sensíveis exigem uma LLM interna, como Ollama ou vLLM, ou uma API de terceiro dentro da VPC. O Gateway fica no ambiente do cliente; o Control Plane e o Cockpit permanecem no SaaS da Collie.
Mesma condição técnica do cenário 1.2. A separação entre Gateway e Control Plane faz parte do desenho previsto; os pacotes atuais ainda executam os dois componentes juntos. Para uma prova de conceito imediata, use o cenário 1.1. A implantação do 1.4 exige validar com a Collie a conexão e o endereço da LLM.
No modelo Full, Cockpit, Control Plane, banco de dados, mensageria, Gateway, MeshAgents e, conforme o cenário, AI Policy, AI Router e LLM são executados no ambiente do cliente.
Quando escolher: sua organização precisa executar todos os componentes no centro de dados ou na nuvem, com governança local, mas prefere usar uma LLM gerenciada pela Collie. A política de rede permite saída controlada apenas para a inferência.
Quando escolher: sua equipe precisa do OpsMesh completo no ambiente local, com Cockpit, MeshAgents e remediação aprovada por uma pessoa, mas sem conversas ou recomendações geradas por LLM. Não há Ollama nem adaptadores de nuvem.
Quando escolher: sua organização quer a instalação Full e o modelo sob o próprio controle. A política pode restringir a inferência ao ambiente local ou autorizar provedores externos específicos.
| Cenário | Saída do MeshAgent | Entrada no cliente |
|---|---|---|
| 1.1 / 1.3 | HTTPS → Control Plane e Gateway Collie | Nenhuma conexão de entrada no MeshAgent |
| 1.2 / 1.4 | HTTPS → CP Collie; consulta ao Gateway local | Gateway acessível pelo MeshAgent; sincronização entre CP e Gateway conforme o contrato Collie |
| 2 / 3 / 4 | HTTPS → Gateway e CP locais | TLS nos serviços do CP conforme topologia |
Depois do cenário, escolha a topologia: Docker, Kubernetes ou máquinas virtuais. O cenário define quais componentes instalar; a topologia define como executá-los.
Na conversa técnica, cruzamos requisitos de conformidade, rede e política de LLM com esta matriz.