(0) 循環神經網路(RNN)與長短期記憶網路(LSTM ) 結構與原理
(1) 課程簡介
在AI時代進行式當中，循環神經網路(Recurrent neural network, RNN)是現代時序性問題的類神經網路的基礎架構，本次課程將重頭介紹簡易的時間序列問題的基本知識，以及詳細講解循環神經網的計算流程，介紹一些經典的RNN模型，例如於最近獲頒IEEE CIS 2021 獎的LSTM和GRU，並實際演練RNN的計算過程。我們希望透過介紹循環神經網路的理論基礎並拆解其內部構造，尤其是往往令人費解的BPTT隨時間反向傳播，讓參與的會眾能了解現代深度學習系統的黑盒內部原理，使技術本身自由，藉此將AI技術開放出去，讓大眾能夠重新設計自己的循環神經網路模型，達到創新的目標。
(2) 課程章節與閱讀材料
Session 1: RNN 基本結構介紹
Session 2: BPTT隨時間反向傳播 理論推導
Session 3: LSTM結構
Session 4: GRU結構
*建議閱讀論文:
-
S. Hochreiter and J. Schmidhuber. Long short-term memory. Neural Computation, 9(8):1735–1780, 1997.
-
^ A. Graves, M. Liwicki, S. Fernandez, R. Bertolami, H. Bunke, J. Schmidhuber. A Novel Connectionist System for Improved Unconstrained Handwriting
(3) 講師簡介: 蔡尚宏(業師)
(4) 目標對象：有聽過機器學習但想要入門的年輕夥伴。
(5) 課程時間：2020年 11月28日 週六 下午01:30～4:30
(6) 課程地點：TAF空總創新基地社會創新實驗中心 (台北市大安區仁愛路三段55號) 208教室 (二樓 )
(7) 人數限制：50 人
(8) 參與費用：免費，因為資源有限，尤其是平均20頁的講義,基於環保愛地球的心, 如果缺席並未告知，將記名取消再次參與的資格，謝謝。
(9) 攜帶物品 : 筆記本、筆 (練習推導公式用) 、筆電、Python 開發環境 (實驗用)。
(10) 為了品質與課程延續性，本次課程的授課講義仍舊是與前幾堂課的活動所撰寫與編排類似，建議前幾堂有參加過的夥伴，可以攜帶講義來做個對比歐!
(11) 誌謝：在此特別感謝-社會創新實驗中心(行政院新創基地 )提供支持，有興趣的朋友可以
幫忙他們點個讚，回饋一下 https://www.facebook.com/SocialInnovationLabTW/ ，讓台灣新創資源能夠永續發展。
