Visão Geral

As empresas precisam executar diariamente tarefas relacionadas ao idioma, como classificação de texto, geração de conteúdo, análise de sentimento e suporte por chat ao cliente. Grandes modelos de linguagem podem automatizar essas tarefas, permitindo que as empresas aprimorem as operações, reduzam custos e aumentem a produtividade. Neste curso, você irá além do uso de LLMs pré-treinados prontos para uso e aprenderá uma variedade de técnicas para personalizar com eficiência LLMs pré-treinados para seus casos de uso específicos, sem se envolver no processo computacionalmente intensivo e caro de pré-treinar seu próprio modelo ou ajustar os pesos internos de um modelo. 

Objetivo

Após concluir este Curso Efficient Large Language Model (LLM) Customization Training, você será capaz de:

• Use engenharia imediata para melhorar o desempenho de LLMs pré-treinados
• Aplique diversas técnicas de ajuste fino com dados limitados para realizar tarefas específicas aos seus casos de uso
• Use um único modelo pré-treinado para executar várias tarefas personalizadas
• Aproveite a estrutura NeMo para personalizar modelos como GPT, LLaMA-2 e Falcon com facilidade

Pre-Requisitos

• Experiência profissional com a linguagem de programação Python
• Familiaridade com tópicos fundamentais de aprendizagem profunda, como arquitetura de modelo, treinamento e inferência
• Familiaridade com uma estrutura moderna de aprendizado profundo baseada em Python (preferencialmente PyTorch)
• Familiaridade em trabalhar com LLMs pré-treinados prontos para uso

Materiais

Conteúdo Programatico

• Introduction
• Engineering Effective Prompts
• Customized Prompt Learning
• Parameter-Efficient Fine-Tuning (PEFT) and Supervised Fine-Tuning (SFT)
• Assessment and Q&A