國立中興大學教學大綱
課程名稱 (中) 自然語言處理之深度學習專論(6133)
(Eng.) Special Topics on Deep Learning for Natural Language Processing
開課單位 資管系
課程類別 選修 學分 3 授課教師 英家慶
選課單位 資管系 / 碩士班 授課使用語言 中文 英文/EMI 開課學期 1122
課程簡述 隨著深度學習在自然語言處理上的快速進展,相當多的巨型語言模型(Large Language Model)被提出,如 BERT、XLNet、GPT-4 等。本課程將專注於介紹時下最新穎的巨型語言模型以及深度學習在自然語言處理上的相關應用,並應用這些巨型語言模型於目前自然語言處理的研究議題。
先修課程名稱
課程含自主學習 Y
課程與核心能力關聯配比(%) 課程目標之教學方法與評量方法
課程目標 核心能力 配比(%) 教學方法 評量方法
讓學生了解時下最新穎的巨型語言模型以,並應用這些巨型語言模型於目前自然語言處理的研究議題。
專題探討/製作
討論
講授
口頭報告
實作
授課內容(單元名稱與內容、習作/每週授課、考試進度-共18週)
週次 授課內容
第1週 課程簡介
第2週 Recurrent Neural Networks (RNN) (採非同步遠距教學) (作業1)
第3週 RNN-based Sequence-to-sequence Model (1) (採非同步遠距教學)
第4週 RNN-based Sequence-to-sequence Model (2) (採非同步遠距教學)
第5週 RNN-based Sequence-to-sequence Model (3) (採非同步遠距教學) (作業2)
第6週 BERTology (1) (採非同步遠距教學)
第7週 4/4兒童節
第8週 BERTology (2) (採非同步遠距教學)(作業3)
第9週 BERTology (3) (採非同步遠距教學)(作業4)
第10週 Paper Presentation (1)
第11週 Paper Presentation (2)
第12週 Paper Presentation (3)
第13週 Paper Presentation (4)
第14週 GPTology(1)
第15週 GPTology(2)(作業5)
第16週 自主學習:Term Project 實作
1. Term Project的形式為參與教育部舉辦之AI Cup競賽
2. 競賽網站會提供該題目的一些相關知識的教學影片
3. 競賽網站:https://www.aicup.tw/
第17週 自主學習:Term Project 實作
1. Term Project的形式為參與教育部舉辦之AI Cup競賽
2. 競賽網站會提供該題目的一些相關知識的教學影片
3. 競賽網站:https://www.aicup.tw/
第18週 Term Project Demo
學習評量方式
作業: 30%
Paper presentation: 30%
Term Project: 40%
教科書&參考書目(書名、作者、書局、代理商、說明)

課程教材(教師個人網址請列在本校內之網址)
ilearning
課程輔導時間
Mon. 14:00 ~ 16:00
聯合國全球永續發展目標
提供體驗課程:N
請尊重智慧財產權及性別平等意識,不得非法影印他人著作。
更新日期 西元年/月/日:2024/02/22 13:04:08 列印日期 西元年/月/日:2024 / 5 / 05
MyTB教科書訂購平台:http://www.mytb.com.tw/