Visão Geral

A IA conversacional é a tecnologia que alimenta mensagens automatizadas e aplicativos habilitados para fala, e seus aplicativos são usados ​​em diversos setores para melhorar a experiência geral do cliente e a eficiência do atendimento ao cliente. Os pipelines de IA conversacional são complexos e caros para desenvolver do zero. Neste Curso Building Conversational AI Applications Training, você aprenderá como criar serviços de IA conversacional, os desenvolvedores podem criar serviços de IA personalizados baseados em linguagem para assistentes virtuais inteligentes, agentes virtuais de atendimento ao cliente, transcrição em tempo real, diarização multiusuário, chatbots e muito mais. 

Neste workshop, você aprenderá como construir e implantar rapidamente um pipeline de IA conversacional, incluindo transcrição, PNL e fala. Você explorará modelos de reconhecimento automático de fala (ASR) e conversão de texto em fala (TTS) e sua personalização detalhadamente com a estrutura NVIDIA NeMo e aprenderá como implantar os modelos com Riva. Por fim, você explorará o desempenho de implantação em nível de produção e as considerações de dimensionamento dos serviços Riva com gráficos Helm e clusters Kubernetes.

Objetivo

Após concluir este Curso Building Conversational AI Applications Training, você será capaz de:

• Como personalizar e implantar modelos ASR e TTS no Riva.
• Como construir e implantar um pipeline de IA conversacional de ponta a ponta, incluindo modelos ASR, PNL e TTS, no Riva.
• Como implantar um aplicativo de IA conversacional em nível de produção com um gráfico Helm para dimensionamento em clusters Kubernetes.

Pre-Requisitos

• Experiência básica em programação Python
• Compreensão fundamental de uma estrutura de aprendizagem profunda, como TensorFlow, PyTorch ou Keras
• Compreensão básica de redes neurais

Materiais

Conteúdo Programatico

• Introduction
• Introduction to Conversational AI

• 1. Explore the conversational AI landscape and gain a deeper understanding of the key components of ASR pipelines.
  2. Work through an ASR model example from audio to spectrogram to text.
  3. Explore decoders, customizations, and additional models, including inverse text normalization (ITN), punctuation and capitalization, and language identification.
  4. Deploy Riva ASR.
• Customized Conversational AI Pipelines

• 1. Explore the key components of the TTS pipeline and full pipeline customizations.
  2. Explore the spectrogram generator model and the vocoder model.
  3. Work with text normalization and grapheme to phoneme (G2P) conversion to customize pronunciations.
  4. Deploy a full ASR-NLP-TTS custom pipeline in Riva.
• Inference and Deployment Challenges

• 1. Explore challenges related to performance, optimization, and scaling in production deployment of conversational AI applications.
  2. Gain an understanding of the inference deployment process.
  3. Analyze non-functional requirements and their implications.
  4. Use a Helm chart to deploy a conversational AI application with a Kubernetes cluster.
• Final Review