Pular para o conteúdo
fernando.moretes.com
BlogEstudosCursosE-booksOpen SourcePodcasts
Loading…
Fernando Azevedo

Arquiteto de TI Especialista

Arquitetura, AWS, IA em produção, sistemas financeiros e FinOps, escritos a partir do que foi operado, com os números.

  • LinkedIn
  • GitHub
  • E-mail

Conteúdo

  • Blog
  • Estudos de arquitetura
  • Cursos
  • E-books
  • Open Source
  • Podcasts
  • Assuntos
  • Trilhas

Ferramentas

  • Well-Architected self-check
  • Arquitetura deste site
  • Números públicos
  • Histórico de estudo

Sobre

  • Comunidade
  • IA Builder
  • Perfil
  • Currículo (CV)
  • Trabalhe comigo
  • Media kit
  • RSS do blog
  • RSS dos estudos
  • Artigos narrados (podcast)
  • llms.txt
  • Termos, privacidade e uso de IA

(c) 2026 Fernando Francisco Azevedo

Assuntos/GPU

Agentes de IA em produção

GPU

5 conteúdos publicados sobre este assunto: artigos, estudos de arquitetura e guias de repositório.

Artigos· 2

IA & AgentesCluster de GPU compartilhado no HyperPod: três desenhos e quando cada um valeA AWS publicou uma arquitetura de referência para vários times dividirem um único cluster SageMaker HyperPod EKS, com IAM Identity Center, um domínio SageMaker por time, namespaces e Task Governance. Comparo esse desenho com um cluster por time e com namespaces sem governança, olhando para o que quebra em produção e para quem paga a GPU ociosa.Abrir IA & AgentesTreino e inferência na mesma GPU: quatro formas de partilhar 10 mil aceleradoresO China Merchants Bank venceu o CNCF End User Case Study Contest ao colocar treino, fine-tuning e inferência num único plano de controle Kubernetes sobre quase 10 mil aceleradores heterogêneos: utilização média de 35% para mais de 60% e custo por milhão de tokens cortado em mais de 60%. Analiso o que faz esse número acontecer, fila com quota, autoscaling por métrica, virtualização de GPU e cache de dados, e comparo quatro formas de reproduzi-lo na AWS, com a matriz de decisão que eu usaria num banco.Abrir

Estudos de arquitetura· 3

Decisão (ADR)GPU Fracionada no ECS: Decisão de Arquitetura para Inferência de IAO Amazon ECS agora suporta agendamento de GPU fracionada em instâncias EC2 G6f, permitindo partições de até 1/8 de uma GPU NVIDIA L4 com 3 GB de memória. Para plataformas de inferência de IA em escala financeira, isso muda fundamentalmente o cálculo de custo e densidade de workload. Este ADR documenta o contexto, as opções consideradas, a decisão e as consequências operacionais reais.Abrir Decisão (ADR)ADR: LLM Auto-Hospedado (EKS + vLLM) vs API Gerenciada (Bedrock)Este ADR avalia a decisão entre hospedar modelos de linguagem em infraestrutura própria com EKS e vLLM versus consumir modelos via Amazon Bedrock. A análise cobre custo por token, carga operacional de MLOps, cold start, residência de dados e ponto de break-even por volume de tokens.Abrir PlaybookPlaybook: Onde Rodar IA na AWS: Lambda vs Fargate vs ECS/EKS (GPU)Escolher o compute errado para workloads de IA na AWS é o erro mais caro que equipes cometem ao escalar de protótipo para produção. Este playbook mapeia Lambda, Fargate, ECS/EKS+GPU e Bedrock contra os eixos que realmente importam, duração, GPU, padrão de tráfego e custo por token, e entrega uma árvore de decisão acionável para cada cenário.Abrir