Cloud FinOps Sênior – Foco em IA/LLMs

Estamos em busca de um/uma Cloud FinOps Engineer com foco em IA/LLM para se juntar à nossa equipe. Quem ocupar essa posição trabalhará em estreita colaboração com as equipes de desenvolvimento, operações, dados/ML e finanças, garantindo a otimização de custos e a eficiência na utilização dos recursos em cloud — incluindo a nova frente de workloads de IA generativa e consumo de LLMs.

Além das responsabilidades tradicionais de FinOps (governança de custos, tagging, commitments, rightsizing), esta posição terá um papel central na construção e operação da governança de custos da plataforma de IA: pilotar o gateway de LLM (LiteLLM), estruturar o modelo de chargeback baseado em tokens e garantir visibilidade de custo por time, aplicação e caso de uso. Sua rotina envolverá análise técnica, recomendação de soluções e busca contínua por oportunidades de otimização, tanto na infraestrutura cloud clássica quanto no consumo de modelos de IA.

Como será seu dia a dia?

• Analisar e otimizar a utilização dos recursos de cloud, garantindo eficiência e redução de custos;
• Colaborar com os times de desenvolvimento, operações, dados/ML e finanças na implementação de práticas de FinOps e governança de custos;
• Monitorar, analisar e gerenciar custos e orçamentos de projetos em ambientes cloud;
• Implantar e administrar ferramentas de FinOps para acompanhamento e otimização de consumo;
• Garantir a aplicação de boas práticas de tagging e governança dos recursos em cloud;
• Desenvolver e implementar políticas e estratégias de gerenciamento de custos;
• Identificar oportunidades de melhoria na arquitetura e utilização dos serviços cloud;
• Operar e evoluir gateways de LLM, como LiteLLM, realizando gestão de chaves, roteamento de modelos, limites de consumo e budgets;
• Estruturar modelos de chargeback/showback para consumo de IA, considerando custos por token, aplicação, squad e caso de uso;
• Definir métricas de unit economics de IA, analisando custo por requisição, usuário e funcionalidade;
• Otimizar custos de inferência de modelos de IA considerando custo, latência e qualidade;
• Implementar alertas, guardrails e controles de consumo para workloads de IA;
• Apoiar iniciativas de observabilidade de uso e custo de LLMs integrando ferramentas como Langfuse ou similares.

Para cumprir esse desafio, você precisa dominar:

• Experiência sólida em FinOps e gestão de custos em ambientes cloud;
• Conhecimento profundo das principais plataformas cloud: AWS, Azure e GCP;
• Experiência com arquitetura cloud e análise de custos associados aos serviços utilizados;
• Conhecimento em Kubernetes e tecnologias de orquestração de containers;
• Experiência com ferramentas de análise, monitoramento e gerenciamento de custos cloud;
• Conhecimento em automação de infraestrutura utilizando Infrastructure as Code;
• Familiaridade com linguagens de script, como Shell Script e Python;
• Capacidade de atuar de forma colaborativa com times técnicos e áreas de negócio.

Você irá se destacar se:

• Possuir experiência com gateways de LLM, como LiteLLM ou soluções similares;
• Possuir conhecimento em modelos de chargeback/showback baseados em consumo de tokens;
• Conhecer serviços de IA gerenciada, como Amazon Bedrock, Vertex AI e Azure OpenAI;
• Possuir experiência com ferramentas de observabilidade de LLM, como Langfuse ou equivalentes;
• Ter conhecimento sobre unit economics aplicado a produtos e soluções de Inteligência Artificial;
• Ter experiência com otimização de custos de inferência e consumo de modelos generativos.

 

• Contratação: CLT
• Modelo de Trabalho: Remoto
• Horário: das 9h às 12h e das 13h às 18h.
• Etapas do Processo: Composto por 3 a 4 etapas, com um tempo médio de até 03 dias úteis entre uma etapa e outra.
• Meios de Comunicação: Utilizamos E-mail e WhatsApp. Certifique-se de que essas informações estejam corretas no momento de inscrição para evitar falhas na comunicação.