Visão Geral

O curso Generative AI Application Deployment and Monitoring oferece uma jornada prática e abrangente para profissionais que desejam aprender como implantar, gerenciar e monitorar aplicações baseadas em modelos de IA generativa, com foco em LLMs (Large Language Models). Exploraremos os fundamentos da implantação de modelos, métodos modernos de entrega (batch e real-time), além de práticas essenciais de observabilidade e LLMOps, garantindo robustez, desempenho e escalabilidade em sistemas de IA generativa.

Objetivo

Após realizar este Curso Generative AI Application Deployment and Monitoring, você será capaz de:

• Compreender e aplicar métodos de implantação de modelos generativos
• Utilizar workflows de inferência em batch e em tempo real
• Servir e gerenciar LLMs com ferramentas como Databricks Model Serving
• Implantar pipelines de IA com monitoramento e testes A/B
• Aplicar conceitos de LLMOps para manutenção e governança de sistemas de IA generativa

Publico Alvo

• Engenheiros de Machine Learning
• Engenheiros de Dados
• Cientistas de Dados
• Profissionais de DevOps com foco em IA
• Arquitetos de soluções baseadas em IA
• Desenvolvedores interessados em IA generativa aplicada

Pre-Requisitos

• Conhecimento básico de Machine Learning e modelos de IA generativa
• Experiência com Python e APIs REST
• Familiaridade com ambientes como Databricks, AWS, Azure ou GCP (desejável)
• Noções de MLOps e ferramentas de CI/CD (desejável)

Conteúdo Programatico

Módulo 1 – Fundamentos da Implantação de Modelos

1. Introdução à implantação de aplicações de IA
2. Fundamentos da gestão de modelos e versionamento
3. Visão geral dos métodos de implantação (batch, real-time, pipelines)
4. Ciclo de vida da entrega de modelos em produção

Módulo 2 – Implantação em Lote (Batch Deployment)

1. Introdução à inferência em lote
2. Casos de uso e limitações
3. Workflow de inferência em lote com SLMs (Self-learning Models)
4. Automação de execuções com notebooks e pipelines

Módulo 3 – Implantação em Tempo Real (Real-Time Deployment)

1. Conceitos de model serving em tempo real
2. Servindo modelos treinados no Databricks
3. Integração com APIs REST para inferência em tempo real
4. Servindo modelos externos com Databricks Model Serving
5. Implantação de cadeias LLM (LLM Chains) usando LangChain ou similares
6. Estratégias de implantação com testes A/B e rollback

Módulo 4 – Monitoramento de Sistemas de IA Generativa

1. Introdução ao monitoramento de aplicações de IA
2. Métricas chave: latência, acurácia, deriva de dados, consumo de recursos
3. Monitoramento de pipelines com MLflow e Databricks
4. Observabilidade em cadeias RAG (Retrieval-Augmented Generation)
5. Monitoramento contínuo e alertas automatizados

Módulo 5 – Conceitos de LLMOps

1. Introdução ao MLOps tradicional
2. Diferenças entre MLOps e LLMOps
3. Desafios exclusivos na entrega e operação de LLMs
4. Estratégias de automação e governança para LLMs
5. Gerenciamento de experimentos, reuso e rastreabilidade
6. Ferramentas e práticas recomendadas em LLMOps