大型語言模型實作初階班 (LLM-A) 課程大綱

  • 首頁
  • 大型語言模型實作初階班 (LLM-A) 課程大綱

每週課程內容大綱

週別課程主題內容大綱
第一週大型語言模型 (LLM) 初探
  • 了解 LLM 的基本概念、原理、發展和應用
  • 學習 LLM 的使用時機和方法
  • 掌握 LLM 的訓練條件和流程
  • 認識 LLM 的利弊和未來趨勢
  • ChatGPT、Bing、Claude等 LLM 的功能統整
ChatGPT 高效問答術 (Prompt engineering)
  • 讓 ChatGPT 角色扮演,得到更高品質的回應
    • Role based prompt
  • 用模板和例子指導 ChatGPT,讓它執行你的任務
    • Custom Instructions Framework
  • 用多個提示讓 ChatGPT 做更深的推理
    • Few shot prompting
    • Chain of Thought prompt(思維鏈推理)
    • Chaining Prompts(多個提示鏈)
    • Tree-of Thought
  • 實用瀏覽器擴充套件 (Browser Extensions)
ChatGPT 流程自動化
  • 自動化工作流程概念介紹
  • 自動化工具平台介紹
  • (專案1) 辦公室流程自動化實作-1
ChatGPT 應用程式介面
  • (專案2) 辦公室流程自動化實作-2
  • (專案3) 建立自己的 AI 知識助理
分組專題實作討論
  • 專題輔助工具建置網站
第二週探索 LLM 的運作原理
  • 相關深度學習技術簡介
  • 相關模型架構簡介
    (Transformer,BERT,GPT)
  • 常用文本處理技術簡介
    (Tokenization、Word Embedding)
  • 文本相似度計算與應用
  • 向量資料庫功能簡介
  • 遷移學習概念介紹
  • LLM 的微調時機、三種微調方式簡介
    開源 LLM 模型介紹 & 雲端聊天機器人體驗
    • 各式開源 LLM 模型特點介紹
    • 模型託管平台 Hugging Face介紹
    • 雲端聊天機器人體驗
      (Taiwan LLM ChatUI + LLM Stack)
    • 開源 LLM 模型選取與下載
    • 檢索增強生成原理簡介
      (Retrieval-Augmented Generation, RAG)
    運用 LLM 互動式介面工具
    • 雲端使用 LLM 模型開發客服機器人並實作 RAG (Chatbase、Openchat)
    • 在本機端使用 LM Studio 與 LLM 模型對話
    • 在本機端安裝 LLM Stack 並實作 RAG
    • 將特定情境下的聊天機器人發佈為網頁 APP
    分組專實作討論與成果發表
    • 客服機器人嵌入個人網站
    • 小組實作成果分享
    • 主辦暨執行單位:
      財團法人台灣人工智慧學校基金會
    • 協辦單位:
      中央研究院資訊科學研究所、中央研究院資訊科技創新研究中心
    • 捐助企業:
      台塑企業、奇美實業、英業達集團、義隆電子、聯發科技、友達光電、新光人壽-新壽管理維護