Visão Geral

Este curso aborda os aspectos de segurança relacionados à Inteligência Artificial Generativa, capacitando profissionais a identificar, avaliar e mitigar riscos associados ao desenvolvimento, implantação e uso de sistemas baseados em Large Language Models (LLMs) e outras tecnologias generativas. O participante aprenderá sobre ameaças emergentes, proteção de dados, segurança de modelos, segurança de aplicações de IA, governança e práticas de defesa para ambientes corporativos que utilizam IA Generativa.

Objetivo

Após realizar este curso, você será capaz de:

• Compreender os riscos de segurança associados à IA Generativa
• Identificar ameaças específicas contra modelos, aplicações e usuários de IA
• Implementar controles de proteção para sistemas baseados em LLMs e modelos generativos
• Proteger dados sensíveis durante o uso e treinamento de sistemas de IA
• Aplicar práticas de segurança, governança e conformidade em projetos de IA Generativa
• Desenvolver estratégias de defesa para ambientes corporativos que utilizam IA

Publico Alvo

• Profissionais de Segurança da Informação
• Arquitetos de Segurança
• Engenheiros de Segurança e DevSecOps
• Desenvolvedores de aplicações com IA
• Profissionais de Governança, Risco e Compliance (GRC)
• Líderes responsáveis por iniciativas corporativas de IA

Pre-Requisitos

• Conhecimentos básicos de segurança da informação
• Familiaridade com conceitos de Inteligência Artificial e IA Generativa
• Noções de arquitetura de aplicações e infraestrutura corporativa

Conteúdo Programatico

Module 1: Introduction to Generative AI Security

1. Overview of Generative AI technologies
2. Security implications of AI adoption
3. Threat landscape for AI systems
4. Enterprise AI security challenges
5. Security principles for AI environments
6. AI risk management fundamentals

Module 2: Foundations of AI and LLM Security

1. Architecture of Generative AI systems
2. Large Language Models security considerations
3. Model lifecycle security
4. Trust boundaries in AI systems
5. AI attack surface analysis
6. Security design principles

Module 3: Threat Modeling for Generative AI

1. AI threat modeling methodologies
2. Identifying attack vectors
3. Adversarial threat scenarios
4. Business risk assessment
5. Security control mapping
6. Risk prioritization techniques

Module 4: Prompt Injection and Input-Based Attacks

1. Prompt injection fundamentals
2. Direct and indirect prompt injection attacks
3. Prompt manipulation techniques
4. Jailbreaking concepts
5. Input validation strategies
6. Mitigation and defense mechanisms

Module 5: Data Security and Privacy Protection

1. Data leakage risks
2. Sensitive data exposure prevention
3. Data classification strategies
4. Privacy-by-design principles
5. Secure handling of enterprise data
6. Regulatory compliance considerations

Module 6: Secure Development of AI Applications

1. Secure AI application architecture
2. API security fundamentals
3. Authentication and authorization controls
4. Secure prompt management
5. Output validation techniques
6. Secure software development lifecycle

Module 7: Model Security and Integrity

1. Model poisoning concepts
2. Training data security
3. Supply chain risks
4. Model integrity validation
5. Secure model deployment
6. Trustworthy AI practices

Module 8: Security Monitoring and Incident Response

1. Monitoring AI systems
2. Logging and observability
3. Detecting AI-related threats
4. Security event analysis
5. Incident response planning
6. AI-specific response procedures

Module 9: Governance, Risk and Compliance

1. AI governance frameworks
2. Security policy development
3. Regulatory and legal considerations
4. Compliance requirements
5. Risk management integration
6. Audit and accountability practices

Module 10: Third-Party AI and Vendor Security

1. Assessing AI providers
2. Vendor risk management
3. Cloud AI security considerations
4. Contractual security requirements
5. Third-party monitoring practices
6. Supply chain governance

Module 11: Emerging Threats and Future Security Challenges

1. Autonomous AI risks
2. Agentic AI security considerations
3. Multi-agent security challenges
4. Emerging attack techniques
5. Future security trends
6. Building resilient AI ecosystems

Module 12: Practical Labs and Security Scenarios

1. AI threat modeling workshop
2. Prompt injection simulations
3. Secure AI application design exercises
4. Data protection implementation labs
5. Governance and compliance case studies
6. Final Generative AI security assessment project