大型語言模型實作進階班 (第四期) 招生簡章

大型語言模型實作初階班

🚀透過上機實作教學和專題實作導引,熟練地將這些技術應用於實際問題中,開發出具有價值的 AI 應用。💪👍🤝

課程簡介

基於上百家企業需求想要用大型語言模型建置企業內部的「企業大腦」,因各企業的資料有機敏性與獨特性,無法使用公開的大型語言模型。此外微調及部署大型語言模型服務有一定的門檻在,不論是在設備上、資料處理上、技術上等。

台灣人工智慧學校深知大型語言模型在當今 AI 領域的重要性,因此特別開設此課程。本課程旨在讓學員不只理解大型語言模型的基本原理,更透過上機實作教學和專題實作導引,熟練地將這些技術應用於實際問題中,開發出具有價值的 AI 應用。我們期望,透過這樣的完整培訓,能為未來的 AI 領域孕育更多的專業人才,共同推進這一革命性技術的進步。

課程成果
圖:學員專題成果,地端檢索增強生成 (Retrieval-Augmented Generation, RAG) 串接資料庫進行資料檢索。
課程資訊
修業日期2024 年 8 月 03 日 , 8 月 10 日, 8 月 17 日 , 8 月 24 日 每週六,共 4 週。
上課方式實體課程,上課時間為 9:00 - 17:30 ( 提供午餐 ) ,4週共 30小時。
上課地點台灣人工智慧學校台北總校 | 新板金融大樓
地址:新北市板橋區中山路一段141號 14 樓
適合對象
  1. 具有 AI 基本知識的技術研發人員與主管 (具備 Python 程式能力)
  2. 本課程涵蓋程式實作及模型微調,授課將運用 LangChain 和 Huggingface 等工具包。學員需具備 Python 語言能力和機器學習基礎知識,無須參加入學考試。請先行評估個人程度再行報名。
課程目標
  1. 學習 4 大課程主題與方法:
    1. 理解大型語言模型
    2. 實作大型語言模型
    3. 實作問答機器人
    4. 大型語言模型部署
  2. 上機實作熟悉大語言模型的技術能力。
  3. 主題性的專題實作,培養專案實作的能力。
課程內容
  1. 理論知識 (3 小時)
    1. LLM 簡介 (3 小時):專門領域教授
  2. 上機習作 (14 小時)
    1. 文字資料 (3 小時):助教/AIA 工程師
    2. 微調大型語言模型 (7 小時):助教/AIA 工程師
    3. 架設生成式 AI 平台 (1 小時):助教/AIA 工程師
    4. 問答機器人 (3 小時):助教/AIA 工程師
  3. 專題實作 (4 週,時數 5 小時)
    1. 專題實作引導 (4 小時):助教/AIA 工程師
    2. 專題成果分享 (1 小時):助教/AIA 工程師
  4. 專題演講 (8 小時)
    1. 專題演講:2場專門領域教授、業界實務經驗專家
    2. 生成式 AI 平台
    3. 大型語言模型實作進階班優秀專題成果於課中分享
課程效益
  1. 能創建企業聊天機器人:
    1. 設計和開發能夠理解並回應企業內部查詢的聊天機器人。
    2. 實現機器人與公司資料庫的集成,以提供即時的查詢回應。
    3. 進行機器人效能測試並根據反饋進行優化。
  2. 能可微調開源大型語言模型:
    1. 選擇適合的開源大型語言模型並進行微調,以符合公司特定的需求和應用場景。
    2. 收集和整理適用於微調開源大型語言模型的業務相關資料集。
    3. 評估微調後的大型語言模型效能並進行必要的調整。
  3. 能部署地端大型語言模型程式:
    1. 架設和配置必要的部署架構,以在地端環境中運行大型語言模型。
    2. 確保模型部署的安全性和效能,包括資料保護和效能優化。
    3. 進行系統測試並解決任何出現的技術問題。
學費標準
  1. 一般報名費用: 40,000 元
  2. 優惠方案:
    1. 校友優惠(32,000元/人):本校校友,報名時填寫學號。
    2. 團體優惠(32,000元/人,三人以上):報名時需一起完成線上報名,並由報名窗口發送郵件至 hi@aiacademy.tw 林小姐確認審核。
    3. 初階班校友優惠(29,000元):初階班結業,報名時填寫學號。
報名方式本招生採網路報名,請於報名截止日 2024 年 07 月 22 日前 (含 07/22 當日) 上網填寫報名資料。請完整填寫報名表,以利完成審核程序。
註冊繳費
  1. 報名後會先收到一封【報名登記確認信】,待通過學校審核,系統會再寄發【報名及註冊的登記已可進行下一步報名作業】信件通知,請點選信件中的連結網址以完成報名及註冊繳費程序。
  2. 獲錄取者需於收到錄取通知後 3 天內 完成註冊繳費。請於規定時間內辦理註冊及繳費,繳費方式可選擇線上金流 (刷卡) 或非線上金流 (轉帳),若選擇非線上金流,系統會產生一組虛擬帳號,請務必在繳費期限內完成匯款繳費。繳費後才算完成報名程序。
  3. 未依規定辦理或逾期未註冊者,取消入學資格,事後不得以任何理由要求補註冊。
課前準備
  1. 建議課前請有先備知識例如:Transformer, GPT, fine-tuning, Hallucinations 等。以下為參考閱讀文獻:
    1. Attention Is All You Need
    2. Improving Language Understanding by Generative Pre-Training
    3. Language Models are Unsupervised Multitask Learners
    4. Language models are few-shotlearners
    5. Training language models tofollow instructions with human feedback
    6. LLaMA: Open and Efficient Foundation Language Models
    7. Llama 2: Open Foundation andFine-Tuned Chat Models
  2. 課程有專題實作與呈現,建議準備網頁或PDF問答資料(網頁示例)用於微調大型語言模型。
  3. 請學員自備筆電,以便課程學習與小組專題實作。( 記憶體至少16 GB 以上 )
  4. 上課環境使用 Google Colab
  5. 請先安裝 Docker 軟體
前幾期小組成果發表主題
營養師 AI 助手交通貓貓機器人保險 AI
經營資料分析與趨勢預測ISO 27001 問答機器人智慧型農業供應鏈系統
標快手!自由雙手智慧探索公司智識庫疾藥綜合系統
課程照片
Photo 1Photo 2Photo 3Photo 4
課程大綱
週次課程大綱教學內容
第一週人工智慧到大型語言模型概論
  • 人工智慧與 LLM 概論
  • LLM 的道德議題、限制與風險
  • 相關實例分享
生成式 AI 平台架設生成式 AI 平台
LangChain 概述
  • LangChain 介紹及應用
  • 基本 LangChain 套件使用
第二週資料處理及連接
  • Data Connection
LangChain 使用及應用
  • Agent
  • Memory
  • Callback
企業案例應用 + 題目及解析
  • LangChain 實例解析
  • 使用 LangChain 實作相關企業案例
LangChain 與 RAG
  • 檢索增強 (Retrieval Augmented Generation, RAG) 介紹
  • 使用 Langchain 實現 RAG
第三週LLM 開源模型微調方式
  • 介紹開源 LLM 模型
  • 微調開源 LLM 模型
訓練效能框架與應用
  • PEFT (LoRA, QLoRA, PEFT) 參數微調方法
  • LLM 應用 (RAG & multimodal)
第四週生成式 AI 產業應用
  • 智慧對話
  • 全面性的資訊服務
  • 相關實例分享
成果發表
注意事項
  1. 請務必於報名前詳閱本項招生簡章規定,避免日後因報名資格不符致被取消報考或影響錄取。
  2. 上網登錄報名資料之通訊地址、電話號碼及電子郵件地址應正確,否則無法通知而致延誤考試及其他重要事項,其後果需自行負責。
  3. 錄取者如發現所繳資料有偽造、變造、假借、冒用、剽竊、內容不實、塗改等情事,未入學者取消錄取資格,已入學者開除學籍,並應負法律責任,且不發給任何有關學業之證明,如係在本校結業後始發覺者,除勒令撤銷其結業證書外,並公告取消其結業資格。
  4. 請詳閱課程資訊相關規定,學校保有修改、變更簡章及相關規定之權利。
  5. 請詳閱並同意保密暨權益歸屬同意書。
退費辦法
退費時間學費退還金額
於當期課程開課日前15日 (含) 以前提出退費申請者
( ~ 2024/07/20)
全額退還已繳費用。
於當期課程開課日前 14 至當期課程開課當日開始前提出退費申請者
( 2024/07/21 ~ 2024/08/02 )
應退還當期開班約定繳納費用總額百分之九十。
於當期課程開課當日起,且未達全期三分之一期間內提出退費申請者
( 2024/08/03 ~ 2024/08/09 )
應退還當期開班約定繳納費用總額百分之五十。
於當期課程開課期間已達(含)全期三分之一以上提出退費申請者
( 2024/08/10 ~ )
所收取之當期開班約定繳納費用得全數不予退還。
備註:本表所稱「開課日」、「全期三分之一」等日期,皆以本校當期課程行事曆規定之日期為判斷依據。