遞迴神經網路與自然語言處理(開放選修4)

遞迴神經網路與自然語言處理

台中分校搶先首發!您可選擇連續十六周的技術領袖培訓班完整課程,也可配合時間或原有知識選修課程,讓學習更有彈性。


➤ 關於台中分校第六期技術領袖培訓班

台中分校第六期技術領袖培訓班主要是以十六週的課程規畫,進行人工智慧技術人才的密集培訓。同時,學校也將技術班課程分為機器學習(ML)深度學習(DL)卷積神經網路(CNN)遞迴神經網路(RNN)+自然語言處理(NLP)共四門選修課。您可選擇一次上完十六周的完整課程,也可配合時間或原有知識選擇課程選修。


➤ 課程說明

課程時間:2020/10/16 至 2020/10/31 止,共 3 週;每週五、六的早上九點半到下午六點半

上課人數:為維護教學品質,每班人數以 100 人為限

上課地點:台中市西區民權路 239 號 17F-A (台灣人工智慧學校台中分校)

課程價格:$12,000

報名方式:採網路報名,請於報名截止日前上網填寫報名資料。上傳或繳交資料不齊或不符規定者,視同未完成報名。


➤ 關於課程

遞迴神經網路作為深度神經網路的分支,適合處理時間相關的問題,而人類跟時間最有關的應用就是自然語言,這門課程將帶您深入淺出的了解遞迴神經網路與自然語言處理的相關理論並且手把手帶學員進行實作。

本課程會先從遞迴神經網路的概念與種類開始介紹,解釋LSTM,GRU,並且用不同的實例,讓學員能輕鬆設計遞迴神經網路。之後會進行自然語言處理的教學,包括文字探勘、詞嵌入、詞向量,最後會解說自然語言處理的幾個重要模型,包括Transformers以及BERT.

除此之外,除了教學本身,課程還會介紹企業的實際案例,並且邀請業界與學界人士來校,進行業界實務的分享,以及學術專題的演講,讓學員能除了掌握知識的深度,也能拓展應用的廣度。


➤ 課程安排

週別課程內容作業
第一週

RNN理論及進階實作講解

  • RNN概念簡介、RNN之應用、RNN Cell的運作
  • 實現簡單RNN、RNN學習模式、RNN種類(LSTM, GRU)
  • 利用Tensorflow實作不同的RNN
  • 基礎實例講解 (MNIST)
  • 進階實例講解 (Stock Prediction, RNN vs. CNN,IMDB 情意分析)
  • seq2seq架構說明與程式範例
  • Attention概念與實例講解
回家作業
第二週

NLP 基礎:文字探勘

  • Meaning Presentation & Corpus Based
  • 文字探勘 : 前處裡與特徵工程
  • NLP技巧:Word Embedding

  • Word2Vector, Negative Sampling, GloVe
  • Word2vector實作, Document2vector實作
  • NLP技巧:Sequence Encoding

  • Representations of Data, Neural Network, Attention Basic
  • 實例講解 (RNN Text Classification)
回家作業
第三週

NLP模型: Transformer

  • Self Attention, Multi-head Attention, Transformer
  • Transformer實作
  • NLP模型: BERT

  • Contextualized Word Embeddings: background, ELMo, BERT
  • BERT實作: Fine-tune on GLUE and PPT
測驗


➤ 適合對象

  • 本課程是觀念與技術並重的進階課程。
  • 本課程為自然語言處理的基礎課程,具程式背景,有撰寫爬蟲經驗者較能進入狀況,但非必要。
  • 學員們需自備筆電,並且依照課前通知安裝好所需的環境與套件。


  • 主辦單位: 財團法人科技生態發展公益基金會
  • 執行單位: 財團法人人工智慧科技基金會
  • 協辦單位:
    中央研究院資訊科學研究所、中央研究院資訊科技創新研究中心
  • 贊助企業:
    台塑企業、奇美實業、英業達集團、義隆電子、聯發科技、友達光電