大型語言模型實作高階班 (第五期) 招生簡章

大型語言模型實作進階班

🚀透過上機實作教學和專題實作導引，熟練地將這些技術應用於實際問題中，開發出具有價值的 AI 應用。💪👍🤝

課程大綱
立即報名
課程簡介

基於上百家企業需求想要用大型語言模型建置企業內部的「企業大腦」，因各企業的資料有機敏性與獨特性，無法使用公開的大型語言模型。此外微調及部署大型語言模型服務有一定的門檻在，不論是在設備上、資料處理上、技術上等。

台灣人工智慧學校深知大型語言模型在當今 AI 領域的重要性，因此特別開設此課程。本課程旨在讓學員不只理解大型語言模型的基本原理，更透過上機實作教學和專題實作導引，熟練地將這些技術應用於實際問題中，開發出具有價值的 AI 應用。我們期望，透過這樣的完整培訓，能為未來的 AI 領域孕育更多的專業人才，共同推進這一革命性技術的進步。

課程成果
圖：學員專題成果，地端檢索增強生成 (Retrieval-Augmented Generation, RAG) 串接資料庫進行資料檢索。
課程資訊
修業日期 2025 年 2 月 15 日、 2 月 22 日、3 月 8 日、3 月 15 日，每週六，共 4 週。
上課方式 實體課程，上課時間為 9:00 - 17:30 ( 提供午餐 ) ，4 週共 30小時。
上課地點 台灣人工智慧學校台北總校 | 新板金融大樓
地址：新北市板橋區中山路一段141號 14 樓
適合對象
  1. 具有 AI 基本知識的技術研發人員與主管 (具備 Python 程式能力)
  2. 本課程涵蓋程式實作及模型微調，授課將運用 LangChain 和 Huggingface 等工具包。學員需具備 Python 語言能力和機器學習基礎知識，無須參加入學考試。請先行評估個人程度再行報名。
課程目標
  1. 學習 4 大課程主題與方法：
    1. 理解大型語言模型
    2. 實作大型語言模型
    3. 實作問答機器人
    4. 大型語言模型部署
  2. 上機實作熟悉大語言模型的技術能力。
  3. 主題性的專題實作，培養專案實作的能力。
課程內容
  1. 理論知識 (3 小時)
    1. LLM 簡介 (3 小時)：專門領域教授
  2. 上機習作 (14 小時)
    1. 文字資料 (3.5 小時)：助教/AIA 工程師
    2. 微調大型語言模型 (7 小時)：助教/AIA 工程師
    3. 架設生成式 AI 平台 (0.5 小時)：助教/AIA 工程師
    4. 問答機器人 (3 小時)：助教/AIA 工程師
  3. 專題實作 (4 週，時數 5 小時)
    1. 專題實作引導 (4 小時)：助教/AIA 工程師
    2. 專題成果分享 (1 小時)：助教/AIA 工程師
  4. 專題演講 (8 小時)
    1. 專題演講：2場專門領域教授、業界實務經驗專家
    2. 生成式 AI 平台
    3. 大型語言模型實作進階班優秀專題成果於課中分享
課程效益
  1. 能創建企業聊天機器人：
    1. 設計和開發能夠理解並回應企業內部查詢的聊天機器人。
    2. 實現機器人與公司資料庫的集成，以提供即時的查詢回應。
    3. 進行機器人效能測試並根據反饋進行優化。
  2. 能可微調開源大型語言模型：
    1. 選擇適合的開源大型語言模型並進行微調，以符合公司特定的需求和應用場景。
    2. 收集和整理適用於微調開源大型語言模型的業務相關資料集。
    3. 評估微調後的大型語言模型效能並進行必要的調整。
  3. 能部署地端大型語言模型程式：
    1. 架設和配置必要的部署架構，以在地端環境中運行大型語言模型。
    2. 確保模型部署的安全性和效能，包括資料保護和效能優化。
    3. 進行系統測試並解決任何出現的技術問題。
學費標準
  1. 一般報名費用: 40,000 元
  2. 優惠方案:
    1. 校友優惠(32,000元/人)：本校校友，報名時填寫學號。
    2. 團體優惠(32,000元/人，三人以上)：報名時需一起完成線上報名，並由報名窗口發送郵件至 hi@aiacademy.tw 林小姐確認審核。
    3. 初階班校友優惠(29,000元)：初階班結業，報名時填寫學號。
報名方式 本招生採網路報名，請於報名截止日 2025 年 2 月 3 日前 (含 2/3 當日) 上網填寫報名資料。請完整填寫報名表，以利完成審核程序。
註冊繳費
  1. 報名後會先收到一封【報名登記確認信】，待通過學校審核，系統會再寄發【報名及註冊的登記已可進行下一步報名作業】信件通知，請點選信件中的連結網址以完成報名及註冊繳費程序。
  2. 獲錄取者需於收到錄取通知後 3 天內 完成註冊繳費。請於規定時間內辦理註冊及繳費，繳費方式可選擇線上金流 (刷卡) 或非線上金流 (轉帳)，若選擇非線上金流，系統會產生一組虛擬帳號，請務必在繳費期限內完成匯款繳費。繳費後才算完成報名程序。
  3. 未依規定辦理或逾期未註冊者，取消入學資格，事後不得以任何理由要求補註冊。
課前準備
  1. 建議課前請有先備知識例如：Transformer, GPT, fine-tuning, Hallucinations 等。 以下為參考閱讀文獻：
    1. Attention Is All You Need
    2. Improving Language Understanding by Generative Pre-Training
    3. Language Models are Unsupervised Multitask Learners
    4. Language models are few-shot learners
    5. Training language models to follow instructions with human feedback
    6. LLaMA: Open and Efficient Foundation Language Models
    7. Llama 2: Open Foundation and Fine-Tuned Chat Models
    8. The Llama3 Herd of Models
  2. 課程有專題實作與呈現，建議準備網頁或PDF問答資料(網頁示例)用於微調大型語言模型。
  3. 請學員自備筆電，以便課程學習與小組專題實作。( 記憶體至少 16 GB 以上 )
  4. 上課環境使用 Google Colab
  5. 請先安裝 Docker 軟體
前幾期小組成果發表主題
營養師 AI 助手 交通貓貓機器人 保險 AI
經營資料分析與趨勢預測 ISO 27001 問答機器人 智慧型農業供應鏈系統
標快手!自由雙手 智慧探索公司智識庫 疾藥綜合系統
課程照片
Photo 1 Photo 2 Photo 3 Photo 4
課程大綱
週次 課程大綱 教學內容
第一週 人工智慧到大型語言模型概論
  • 人工智慧與 LLM 概論
  • LLM 的道德議題、限制與風險
  • 相關實例分享
生成式 AI 平台 架設生成式 AI 平台
LangChain 概述
  • LangChain 介紹及應用
  • 基本 LangChain 套件使用
第二週 資料處理及連接
  • Data Connection
LangChain 使用及應用
  • Agent
  • Memory
  • Callback
企業案例應用 + 題目及解析
  • LangChain 實例解析
  • 使用 LangChain 實作相關企業案例
LangChain 與 RAG
  • 檢索增強 (Retrieval Augmented Generation, RAG) 介紹
  • 使用 Langchain 實現 RAG
第三週 LLM 開源模型微調方式
  • 介紹開源 LLM 模型
  • 微調開源 LLM 模型
訓練效能框架與應用
  • PEFT (LoRA, QLoRA, PEFT) 參數微調方法
  • LLM 應用 (RAG & multimodal)
第四週 生成式 AI 產業應用
  • 智慧對話
  • 全面性的資訊服務
  • 相關實例分享
成果發表
注意事項
  1. 請務必於報名前詳閱本項招生簡章規定，避免日後因報名資格不符致被取消報考或影響錄取。
  2. 學員註冊繳費後若因各種原因無法繼續課程，得依本校退費辦法進行退費，恕不提供補課與延期。
  3. 上網登錄報名資料之通訊地址、電話號碼及電子郵件地址應正確，否則無法通知而致延誤考試及其他重要事項，其後果需自行負責。
  4. 錄取者如發現所繳資料有偽造、變造、假借、冒用、剽竊、內容不實、塗改等情事，未入學者取消錄取資格，已入學者開除學籍，並應負法律責任，且不發給任何有關學業之證明，如係在本校結業後始發覺者，除勒令撤銷其結業證書外，並公告取消其結業資格。
  5. 請詳閱課程資訊相關規定，學校保有修改、變更簡章及相關規定之權利。
  6. 請詳閱並同意
    1. 個資聲明
    2. 保密暨權益歸屬同意書
退費辦法
退費時間 學費退還金額
於當期課程開課日前15日 (含) 提出退費申請者
( ~2025/02/03 )		 全額退還已繳費用。
於當期課程開課日前 14 至當期課程開課當日開始前提出退費申請者
( 2025/02/03～2025/02/14 )		 應退還當期開班約定繳納費用總額百分之九十。
於當期課程開課當日起，且未達全期三分之一期間內提出退費申請者
( 2025/02/15～2025/02/24 )		 應退還當期開班約定繳納費用總額百分之五十。
於當期課程開課期間已達(含)全期三分之一以上提出退費申請者
( 2025/02/25～ )		 所收取之當期開班約定繳納費用得全數不予退還。
備註：本表所稱「開課日」、「全期三分之一」等日期，皆以本校當期課程行事曆規定之日期為判斷依據。
課程大綱 立即報名
  • 主辦暨執行單位:
    財團法人台灣人工智慧學校基金會
  • 協辦單位:
    中央研究院資訊科學研究所、中央研究院資訊科技創新研究中心
  • 捐助企業:
    台塑企業、奇美實業、英業達集團、義隆電子、聯發科技、友達光電、新光人壽-新壽管理維護