Visão Geral

Curso Natural Language Processing with TensorFlow. TensorFlow é uma biblioteca de software de código aberto para computação numérica usando gráficos de fluxo de dados. SyntaxNet é uma estrutura de processamento de linguagem natural de rede neural para TensorFlow.

Word2Vec é usado para aprender representações vetoriais de palavras, chamadas "word embeddings". Word2vec é um modelo preditivo particularmente eficiente em termos computacionais para aprender incorporações de palavras a partir de texto bruto. Ele vem em dois sabores, o modelo Continuous Bag-of-Words (CBOW) e o modelo Skip-Gram. Usados ​​em conjunto, SyntaxNet e Word2Vec permitem aos usuários gerar modelos de incorporação aprendida a partir de entrada de linguagem natural.

Objetivo

Ao participar do Curso Natural Language Processing with TensorFlow, os participantes aprenderão a:

• Entenda a estrutura e os mecanismos de implantação do TensorFlow
• Executar tarefas e configuração de instalação/ambiente de produção/arquitetura
• Avalie a qualidade do código, execute depuração e monitoramento
• Implemente produção avançada, como modelos de treinamento, incorporação de termos, construção de gráficos e registro

Publico Alvo

• Este Curso Natural Language Processing with TensorFlow, é direcionado a desenvolvedores e engenheiros que pretendem trabalhar com modelos SyntaxNet e Word2Vec em seus gráficos TensorFlow.

Pre-Requisitos

• Conhecimento prático do Tensorflow

Materiais

Conteúdo Programatico

Getting Started

1. Setup and Installation

TensorFlow Basics

1. Creation, Initializing, Saving, and Restoring TensorFlow variables
2. Feeding, Reading and Preloading TensorFlow Data
3. How to use TensorFlow infrastructure to train models at scale
4. Visualizing and Evaluating models with TensorBoard

TensorFlow Mechanics 101

1. Prepare the Data
   1. Download
   2. Inputs and Placeholders
2. Build the Graph
   1. Inference
   2. Loss
   3. Training
3. Train the Model
   1. The Graph
   2. The Session
   3. Train Loop
4. Evaluate the Model
   1. Build the Eval Graph
   2. Eval Output

Advanced Usage

1. Threading and Queues
2. Distributed TensorFlow
3. Writing Documentation and Sharing your Model
4. Customizing Data Readers
5. Using GPUs
6. Manipulating TensorFlow Model Files

TensorFlow Serving

1. Introduction
2. Basic Serving Tutorial
3. Advanced Serving Tutorial
4. Serving Inception Model Tutorial

Getting Started with SyntaxNet

1. Parsing from Standard Input
2. Annotating a Corpus
3. Configuring the Python Scripts

Building an NLP Pipeline with SyntaxNet

1. Obtaining Data
2. Part-of-Speech Tagging
3. Training the SyntaxNet POS Tagger
4. Preprocessing with the Tagger
5. Dependency Parsing: Transition-Based Parsing
6. Training a Parser Step 1: Local Pretraining
7. Training a Parser Step 2: Global Training

Vector Representations of Words

1. Motivation: Why Learn word embeddings?
2. Scaling up with Noise-Contrastive Training
3. The Skip-gram Model
4. Building the Graph
5. Training the Model
6. Visualizing the Learned Embeddings
7. Evaluating Embeddings: Analogical Reasoning
8. Optimizing the Implementation