大型語言模型實作進階班 (LLM-B) 招生簡章

🚀辦公室流程自動化結合大語言模型，讓您的工作更輕鬆、更高效💪👍🤝

課程大綱

立即報名-B班

A+B 班一起報名

課程簡介

基於上百家企業需求想要用大型語言模型建置企業內部的「企業大腦」，因各企業的資料有機敏性與獨特性，無法使用公開的大型語言模型。此外微調及部署大型語言模型服務有一定的門檻在，不論是在設備上、資料處理上、技術上等。

台灣人工智慧學校深知大型語言模型在當今 AI 領域的重要性，因此特別開設此課程。本課程旨在讓學員不只理解大型語言模型的基本原理，更透過上機實作教學和專題實作導引，熟練地將這些技術應用於實際問題中，開發出具有價值的 AI 應用。我們期望，透過這樣的完整培訓，能為未來的 AI 領域孕育更多的專業人才，共同推進這一革命性技術的進步。

課程目標

1. 學習 4 大課程主題與方法：
   1. 理解大型語言模型
   2. 微調大型語言模型
   3. 實作問答機器人
   4. 大型語言模型部署
2. 上機實作熟悉大語言模型的技術能力。
3. 主題性的專題實作，培養專案實作的能力。

課程效益

1. 能創建企業聊天機器人：
   1. 設計和開發能夠理解並回應企業內部查詢的聊天機器人。
   2. 實現機器人與公司數據庫的集成，以提供實時的查詢回應。
   3. 進行機器人效能測試並根據反饋進行優化。
2. 能可微調開源大型語言模型：
   1. 選擇適合的開源大型語言模型並進行微調，以符合公司特定的需求和應用場景。
   2. 收集和整理適用於微調開源大型語言模型的業務相關數據集。
   3. 評估微調後的大型語言模型效能並進行必要的調整。
3. 能部署地端大型語言模型程式：
   1. 架設和配置必要的部署架構，以在地端環境中運行大型語言模型。
   2. 確保模型部署的安全性和效能，包括資料保護和效能優化。
   3. 進行系統測試並解決任何出現的技術問題。

課前準備

1. 建議課前請有先備知識例如：Transformer, GPT, fine-tuning, Hallucinations 等。以下為參考閱讀文獻：
   1. Attention Is All You Need
   2. Improving Language Understanding by Generative Pre-Training
   3. Language Models are Unsupervised Multitask Learners
   4. Language models are few-shot learners
   5. Training language models to follow instructions with human feedback
   6. LLaMA: Open and Efficient Foundation Language Models
   7. Llama 2: Open Foundation and Fine-Tuned Chat Models
2. 課程有專題實作與呈現，建議準備網頁或PDF問答資料(網頁示例)用於微調大型語言模型。
3. 專題實作為分組進行，每組會配置含有 GPU 伺服器。
4. 請學員自備筆電，以便課程學習與小組專題實作。
5. 請先註冊 kaggle (https://www.kaggle.com/) 並通過手機認證

修業日期

2023 年 12 月 9 日 ( 六 ) ， 12 月 16 日 ( 六 ) ， 12 月 23 日 ( 六 ) ， 12 月 29 日 ( 五 ) 共 4 週。

上課方式

實體課程，上課時間為 9:00-17:00 ( 提供午餐 ) ，課程時數 28 小時。

上課地點

中研院人文館 第二會議室 ( R2 ) | 台北市南港區研究院路2段128號

招生人數

105名 (得不足額錄取)

招生對象

具有 AI 基本知識的技術研發人員與主管 (具備 Python 程式能力)。

入學條件

• 本校 技術領袖班 / 專題實作班 結業之校友 (需於報名時上傳結業證書以供查核)
• 通過本班的入學考試

以上兩項滿足一項即可入學

學費標準

每人新台幣 40,000 元。

校友優惠專享

每人新台幣 36,000 元。

本校各班別結業之校友，於報名時附上學員編號，經查核後得享有校友優惠。

團報優惠專享 (5人)

每人新台幣 32,000 元。

套餐優惠專享

同時報名大型語言模型實作初階班 (LLM-A) + 大型語言模型實作進階班 (LLM-B)每人新台幣 44,000 元。

初階班+進階班 線上報名：https://neti.cc/ba1D2ZY

有關初階班+進階班課程退費辦法：

• 於當期課程開課日前 7 日內提出退費申請者( 2023/11/18 以前)，應退還當期開班約定繳納費用總額百分之九十。
• 於當期課程開課日後且未達全期三分之一期間內提出退費申請者( 2023/11/26～2023/12/01 )，應退還當期開班約定繳納費用總額百分之五十。
• 於當期課程開課期間已達全期三分之一以上提出退費申請者 ( 2023/12/02以後 )，所收取之當期開班約定繳納費用得全數不予退還。

報名方式

本招生採網路報名，請於報名截止日 2023 年 11 月 16 日前 (含 11/16 當日) 上網填寫報名資料。請完整填寫報名表，以利完成審核程序。

入學考試

考試時間分：2023 年 11 月 18 日 週六 14:00~15:10
考試範圍為程式設計，透過線上考試確認應試者的基本能力。程式設計以 Python 作為答題的程式語言，線上考試的形式包括選擇題 (語法相關約10題) 與程式撰寫 (演算法相關約3題)。

放榜

放榜日期於 11 月 22 日 週三 17:00 後寄發錄取通知

公布方式：以電子郵件與簡訊寄發錄取通知。

放榜後，考生應主動查詢，獲知錄取後如期辦理註冊，避免因系統擋信或漏信而影響註冊。
逾期未註冊者，不得以未接獲通知為由要求補救措施。

錄取通知及註冊繳費

1. 報名後會收到一封報名登記確認信，待通過入學考試後，會再寄一封電子郵件到報名時所留的信箱通知錄取，請點選信件中的連結網址以完成報名及註冊繳費程序。
2. 獲錄取者需於收到錄取通知後 2 天內 完成註冊繳費。請於規定時間內辦理註冊及繳費，繳費方式可選擇線上金流 (刷卡) 或非線上金流 (轉帳)，若選擇非線上金流，系統會產生一組虛擬帳號，請務必在繳費期限內完成匯款繳費。繳費後才算完成報名程序。
3. 未依規定辦理或逾期未註冊者，取消入學資格，事後不得以任何理由要求補註冊。

注意事項

1. 請務必於報名前詳閱本項招生簡章規定，避免日後因報名資格不符致被取消報考或影響錄取。
2. 上網登錄報名資料之通訊地址、電話號碼及電子郵件地址應正確，否則無法通知而致延誤考試及其他重要事項，其後果需自行負責。
3. 錄取者如發現所繳資料有偽造、變造、假借、冒用、剽竊、內容不實、塗改等情事，未入學者取消錄取資格，已入學者開除學籍，並應負法律責任，且不發給任何有關學業之證明，如係在本校結業後始發覺者，除勒令撤銷其結業證書外，並公告取消其結業資格。
4. 請詳閱課程資訊相關規定，學校保有修改、變更簡章及相關規定之權利。
5. 請詳閱並同意保密暨權益歸屬同意書。

日期	時程表
2023 / 11 / 18	入學考試
2023 / 11 / 22	入學考放榜
2023 / 11 / 27	錄取生註冊繳費截止日
2023 / 12 / 09	課程開始
2023 / 12 / 29	課程結束

退費辦法

退費時間	學費退還金額
於當期課程開課日前 7 日內提出退費申請者 ( 2023/12/02以前 )	應退還當期開班約定繳納費用總額百分之九十。
於當期課程開課當日至開課日後 7 日內提出退費申請者 ( 2023/12/09～2023/12/15 )	應退還當期開班約定繳納費用總額百分之五十。
於當期課程開課期間已達全期二分之一以上提出退費申請者 ( 2023/12/16 ~ )	所收取之當期開班約定繳納費用得全數不予退還。

備註:本表所稱「開課日」、「全期二分之一」等日期，皆以本校當期課程行事曆規定之日期為判斷依據。

課程資訊

課程名稱	大型語言模型實作進階班 (LLM-B)
課程時數	4週共 28 小時
上課方式	實體課程
上課地點	中研院人文館 第二會議室 ( R2 ) | 台北市南港區研究院路2段128號
適合對象	具有 AI 基本知識的技術研發人員與主管 (具備 Python 程式能力)
入學條件	本校 技術領袖班 / 專題實作班 結業之校友 (需於報名時上傳結業證書以供查核) 通過本班的入學考試 以上兩項滿足一項即可入學
課程目標	學習 4 大課程主題與方法： 理解大型語言模型 實作大型語言模型 實作問答機器人 大型語言模型部署 上機實作熟悉大語言模型的技術能力。 主題性的專題實作，培養專案實作的能力。
課程內容	環境介紹、帳號設定 (1 小時) 理論知識 (3 小時) LLM 簡介 (3 小時)：專門領域教授 上機習作 (12 小時) 文字資料 (2 小時)：助教/AIA 工程師 微調大型語言模型 (6 小時)：助教/AIA 工程師 問答機器人 (2 小時)：助教/AIA 工程師 部署大型語言模型(2 小時)：助教/AIA 工程師 專題實作 (4 週，時數 8 小時) 專題實作引導 (4 小時)：助教/AIA 工程師 專題成果分享 (4 小時)：助教/AIA 工程師 專題演講 專題演講：3場專門領域教授、業界實務經驗專家 技術班全域班第三期 LLM 優秀專題成果於課中分享