[Artigo] Por que as LLMs são apenas o começo – e quem orquestra tudo é quem realmente ganha o jogo

Marcos Bonas é Vice-Presidente de Engenharia, Arquitetura, Marketing e Vendas para o Brasil e Estados Unidos na Zup Innovation

Nos últimos anos, modelos de linguagem de grande porte ou large language models (LLMs) deixaram de ser apenas uma curiosidade acadêmica para se transformarem em tecnologia de base, acessível e integrada ao dia a dia de inúmeras empresas. Esse avanço explosivo tornou as LLMs cada vez mais “commodities” — afinal, há uma infinidade de opções (open source e proprietárias) competindo para oferecer processamento de linguagem natural altamente sofisticado. Mas agora, o verdadeiro diferencial não está simplesmente em qual LLM se adota, e sim em como se orquestra todo um ecossistema de modelos, agentes, segurança e governança para resolver problemas complexos de forma realmente confiável.

Hoje, vivemos um momento em que empresas como OpenAI, Google, Microsoft, Anthropic e muitas outras oferecem APIs acessíveis e bem documentadas para uso de LLMs. Sem falar nas iniciativas de código aberto que florescem em ritmo acelerado, como a família de modelos LLaMA – modelo de linguagem da Meta – e seus derivados. O resultado? Mais diversidade, redução de custos e “mais do mesmo” na briga pelo poder de processamento, velocidade e acurácia.

Para muitas aplicações, vale pegar o modelo que estiver mais à mão — mas isso não garante segurança de dados ou uma governança detalhada. Pior: em setores sensíveis, como saúde, finanças ou indústria, há requisitos rígidos sobre criptografia em trânsito e repouso, anonimização de informações confidenciais, classificação de conteúdo, sanitização de prompts e gestão de placeholders. É nesse ponto que o “mix de soluções” entra em cena.

Se cada LLM fosse capaz de resolver tudo com a mesma profundidade e precisão, seria ótimo, mas não é a realidade. Surgem cada vez mais Modelos de Linguagem Especializados ou Small Language Models (SLMs), treinados para atuar em domínios específicos: direito, medicina, engenharia, marketing, etc. E aí vem a pergunta: por que usar apenas uma LLM genérica se é possível lançar mão de diversos modelos, cada qual com sua especialidade, e ainda encaixar camadas extras de segurança, anonimização e conformidade?

Porém, a ideia não é substituir totalmente as LLMs de mercado, mas sim integrar diversas LLMs e SLMs, combiná-las de forma inteligente e gerenciar tudo de maneira unificada. Dá para imaginar um orquestrador que decide, em tempo real, qual modelo atende melhor a cada subtarefa, garantindo que dados críticos sejam tratados de forma segura e compatível com a LGPD ou qualquer outra regulamentação equivalente.

Além de combinar várias LLMs e SLMs, há outro movimento ganhando força: o uso de multi-agentes de IA. Ao invés de ter um único modelo que tenta resolver de tudo um pouco, sistemas multi-agentes permitem distribuir tarefas entre diferentes “especialistas virtuais”. Por exemplo, um agente voltado à análise de texto legal, outro para otimização de códigos em linguagens de programação, outro para triagem de dados numéricos em planilhas, etc. Cada agente pode até se apoiar em um modelo distinto, trazendo ainda mais possibilidades de integração.

Em plataformas como a StackSpot AI, esses agentes poderão ser orquestrados em fluxos customizados para cada cenário de negócios, sempre com logs detalhados, checagem de permissões e camadas de segurança.

É uma abordagem flexível e escalável, que se encaixa bem no mundo real das grandes empresas.

A segurança no centro de tudo

Falar de AI sem abordar segurança é ignorar a (dura) realidade das vulnerabilidades de dados. Qualquer vazamento de informação confidencial é um pesadelo, e não adianta ter um modelo excelente se ele não for confiável. Daí a importância de recursos como: Criptografia em trânsito e repouso para garantir que informações críticas sejam protegidas tanto durante o envio das requisições quanto no armazenamento; Anonimização e pseudonimização para remover ou mascarar dados sensíveis para que apenas o necessário seja exposto; Classificação de dados para etiquetar e categorizar informações de acordo com níveis de sigilo, aplicando políticas de acesso adequadas; Sanitização de prompts para impedir que prompts mal formatados ou maliciosos vazem dados privados ou resultem em comportamentos indesejados dos modelos. Placeholders inteligentes para substituir termos sensíveis por placeholders controlados, mantendo o contexto, mas preservando informações críticas.

Esses elementos são cruciais quando se fala em “multicloud”, “multi-LLM” ou “multi-agente”. Se a plataforma não tiver um sistema de governança sólido, que gerencie logs, autorizações, versões de modelos e dados, o caos toma conta rapidamente.

É importante lembrar, entretanto, que a governança é a arte de não perder o controle. Não basta integrar modelos e adicionar camadas de segurança; é preciso ter governança, o que engloba desde rastreabilidade de quem fez cada requisição até controles de acesso granulares. Isso tudo associado a um sistema que permita configurar políticas de compliance, auditoria e monitoramento contínuo. O desafio não é pequeno, mas é o único caminho seguro para adoção massiva de IA em setores críticos e regidos por normas rígidas (bancos, seguradoras, hospitais, entre outros).

O diferencial real: orquestrar bem é mandar no jogo

A tendência é clara: LLMs estão se tornando um recurso abundante e cada vez mais padronizado, ao passo que quem desenvolve estratégias para integrá-las, gerenciá-las e protegê-las ganha o verdadeiro diferencial competitivo. Em um futuro não muito distante, veremos mais iniciativas surgindo para lidar com a crescente complexidade de uso de múltiplos modelos — mas a questão é quem efetivamente terá experiência real de mercado e robustez técnica para entregar essa orquestração de maneira confiável.

Para empresas que atuam em áreas altamente reguladas ou lidam com dados sensíveis, não há mais a possibilidade de escolher apenas “a LLM com maior hype” e achar que o trabalho está feito. O futuro (e o presente) é formado por uma mescla de diversas LLMs e SLMs integradas de forma orquestrada e transparente, com camadas de segurança e governança robustas.

Entrar nesse mundo requer conhecimento técnico, parceiros confiáveis e uma mentalidade aberta para experimentar o que cada modelo pode oferecer de melhor. Afinal, por que ficar amarrado a uma única LLM quando se pode ter um repertório inteiro de modelos, cada um na sua especialidade, e ainda garantir proteção e governança completas para os seus dados?

No fim, é a capacidade de orquestração — e não apenas a escolha de um modelo x ou y — que fará a diferença. E é assim que transformamos a IA em uma verdadeira vantagem competitiva, e não em apenas mais um recurso de prateleira.

*Marcos Bonas é Vice-Presidente de Engenharia, Arquitetura, Marketing e Vendas para o Brasil e Estados Unidos na Zup Innovation – empresa de tecnologia do Itaú Unibanco. Soma mais de 8 anos na companhia, sendo os últimos 3 dedicados a co-construção e implementação de produtos técnicos e projetos de transformação digital junto ao Itaú Unibanco. Com uma carreira de mais de 20 anos de experiência em tecnologia, liderou projetos estratégicos, inovação em software, gestão e escalabilidade de produtos em grandes empresas nacionais e multinacionais. Bonas é graduado em  Análise e Desenvolvimento de Sistemas pela Fundação Paulista de Tecnologia e Educação, pós-graduado em Gerência de Sistemas pelo Mackenzie, Gestão de Pessoas pelo IBMEC e Gestão de Produto e Marketing de Serviços pela ESPM.