Visão Geral

Este curso aborda princípios, práticas e frameworks para garantir segurança, governança e uso responsável de agentes autônomos baseados em IA e LLMs. O foco está no controle de autonomia, mitigação de riscos, auditoria, conformidade regulatória e proteção de dados em sistemas com agentes inteligentes operando de forma independente ou orquestrada.

Objetivo

Após realizar este curso, você será capaz de:

• Compreender os riscos associados a agentes autônomos
• Definir limites de autonomia e controle operacional
• Implementar mecanismos de segurança em agentes
• Projetar modelos de governança para agentes inteligentes
• Garantir conformidade regulatória e auditabilidade
• Avaliar boas práticas para uso responsável de agentes

Publico Alvo

• Desenvolvedores de IA e automação
• Arquitetos de sistemas inteligentes
• Profissionais de segurança da informação
• Gestores de tecnologia e governança
• Profissionais de compliance, risco e auditoria

Pre-Requisitos

• Fundamentos de agentes autônomos
• Noções de IA e LLMs
• Conhecimentos básicos de segurança da informação
• Familiaridade com sistemas corporativos e APIs

Conteúdo Programatico

Module 1 – Introduction to Agent Security and Governance

1. Autonomous agents risk landscape
2. Why governance matters
3. Trust, control and accountability
4. Lessons from traditional system governance

Module 2 – Threat Models for Autonomous Agents

1. Prompt injection and manipulation
2. Data leakage and privacy risks
3. Unauthorized tool usage
4. Supply chain and dependency risks

Module 3 – Security Architecture for Agents

1. Secure agent design principles
2. Isolation and sandboxing
3. Authentication and authorization
4. Secure API and tool access

Module 4 – Governance Models and Policies

1. Agent governance frameworks
2. Policy-driven agents
3. Role-based and rule-based control
4. Decision boundaries and approvals

Module 5 – Monitoring, Logging and Auditability

1. Agent observability concepts
2. Logging decisions and actions
3. Traceability and explainability
4. Incident detection and response

Module 6 – Data Protection and Compliance

1. Data handling in autonomous agents
2. LGPD and privacy considerations
3. Data minimization and retention
4. Secure memory and knowledge storage

Module 7 – Human-in-the-Loop and Control Mechanisms

1. Approval workflows
2. Escalation and override strategies
3. Kill switches and fail-safe mechanisms
4. Balancing autonomy and supervision

Module 8 – Ethics, Responsibility and Future Trends

1. Ethical risks of autonomous systems
2. Bias, fairness and accountability
3. Responsible AI practices
4. Future regulation of autonomous agents