Visão Geral

Este curso Generative AI Engineering ensina os participantes como integrar LLMs (Large Language Models) em suas aplicações de IA. Além disso, os participantes aprendem como garantir que seus aplicativos sejam seguros e privados.

Objetivo

Após realizar este curso Generative AI Engineering, com êxito você será capaz de:

• Implemente várias arquiteturas de IA generativa, como Autoencoders Variacionais (VAE), Redes Adversariais Generativas (GAN) e Transformadores
• Ajuste modelos de IA generativa para obter desempenho ideal em tarefas específicas
• Crie modelos de IA generativos usando técnicas de pré-treinamento e ajuste fino
• Avalie o desempenho de modelos de IA generativa usando métricas de avaliação padrão
• Projetar e desenvolver aplicações de IA generativa usando engenharia imediata e outras técnicas
• Proteja aplicativos de IA generativa contra riscos de segurança, como vazamentos de privacidade de dados e uso malicioso de IA
• Explore as direções futuras dos produtos de IA generativa e do desenvolvimento de modelos

Pre-Requisitos

• Todos os alunos devem ter ampla experiência em desenvolvimento em Python e compreender os conceitos principais de dados e nuvem

Materiais

Conteúdo Programatico

Introduction to Generative AI

1. Generative AI’s Roots in Machine Learning
2. Understanding Generative models
3. Contrasting Generative and Discriminative Models
4. The original LLM models – from BERT to GPT
5. Current Cloud- and Offline-Based LLM’s

Generative AI Architecture

1. Variational Autoencoders (VAE)
2. Generative Adversarial Networks (GAN)
3. Reinforcement Learning from Human Feedback (RLHF)
4. Transformers
5. Generative Pre-Trained Transformers (GPT)

Tuning Generative AI Models

1. Building Generative AI Models
2. How Pre-Training Works
3. Data Preparation and Preprocessing
4. Fine Tuning Generative AI Models
5. Formatting Data for LLM Fine Tuning
6. Fine Tuning GPT
7. Transfer learning Techniques

Evaluation and Optimization of Generative AI Models

1. Evaluating model performance
2. Common evaluation metrics for generative AI models

Building Generative AI Applications (part 1)

1. Application Design Building Blocks
2. Use Cases of LLM Based Applications
3. Prompt Engineering Basics
4. Prompt Templates
5. RAG with Llama Index

Case Studies and Real-World Applications

1. Generative AI for Text
2. Generative AI for Media
3. Generative AI for Code

Building Generative AI Applications (part 2)

1. Customizing with Prompt Engineering
2. Advanced Prompt Types
3. Customizing with RAG
4. Customizing with SYSTEM/CONTEXT Arguments and Prompt Templates
5. Customizing with Fine Tuning
6. Design Considerations and Tradeoffs for Customizing
7. Tying It Together with LangChain

ChatBots

1. Chat Bot Basics
2. Building LLM-Based Chat Bots

Security

1. Security Risks with Generative AI
2. Secure Software Development
3. Connectivity
4. Exploitation of AI Systems (Jailbreaks)
5. Infrastructure Concerns
6. System Vulnerabilities
7. Data Privacy and Leaks
8. Malicious Use of AI
9. Obscuring Data for Privacy and Security
10. Best Practices for Security with Generative AI in Enterprises

Future Directions in Generative AI Products and Model Development

1. Best Practices, Limitations, other Considerations
2. Future of Work
3. Future Evolution of Gen AI