跳到主要內容

野生的 本地 LLM 出現了!

給醫學生的本地 LLM 與 fine-tuning 闖關教室。共 19 關、約 16 小時。每關結尾有小測驗,不需註冊、不存檔,想從哪關開始都可以。

全程只用合成資料,每個實作都附 Mac 版與 Colab 版。

世界地圖

序章:實習生宿舍

準備好電腦與帳號,並先學會病歷資料的守門規則。

  1. LV.01 裝備檢查站 BOSS:終端機黑盒史萊姆 約 60 分鐘 測驗 4 題
  2. LV.02 PHI 結界 BOSS:複製貼上幽靈 約 30 分鐘 測驗 4 題

Token 平原

搞懂 LLM 怎麼運作,並在自己的電腦上跑起第一個模型。

  1. LV.03 AI 家族譜:規則、ML、DL 到 LLM BOSS:萬能 AI 幻影 約 40 分鐘 測驗 5 題
  2. LV.04 文字接龍與 Token BOSS:自信幻覺史萊姆 約 35 分鐘 測驗 4 題
  3. LV.05 注意力與工作記憶 BOSS:長病歷健忘症魔像 約 40 分鐘 測驗 4 題
  4. LV.06 模型圖鑑與量化 BOSS:記憶體爆表肥大症 約 45 分鐘 測驗 5 題
  5. LV.07 召喚本地模型 BOSS:環境變數迷宮守衛 約 60 分鐘 測驗 4 題
  6. LV.08 本地診間:不訓練也能做的事 BOSS:格式不服從症候群 約 60 分鐘 測驗 4 題

LoRA 鍛造火山

做合成病歷、訓練 LoRA、評估並匯出,打造病歷守門人。

  1. LV.09 岔路口:Prompt、RAG、Fine-tune、規則 BOSS:萬靈丹推銷員 約 30 分鐘 測驗 5 題
  2. LV.10 合成病歷工坊 BOSS:偽病人製造機失控 約 75 分鐘 測驗 5 題
  3. LV.11 資料煉成所 BOSS:資料洩漏寄生蟲 約 45 分鐘 測驗 4 題
  4. LV.12 秩之神殿:LoRA 與 QLoRA BOSS:全參數巨人 約 45 分鐘 測驗 4 題
  5. LV.13 初次鍛造 BOSS:考古題背誦魔 約 90 分鐘 測驗 5 題
  6. LV.14 試煉場:評估 BOSS:漏網之 PHI 約 60 分鐘 測驗 5 題
  7. LV.15 歸鄉之門:匯出與部署 BOSS:格式轉換九頭蛇 約 60 分鐘 測驗 5 題
  8. LV.16 分科遠征:結構化抽取、SOAP 與衛教口吻 BOSS:醫學術語過敏原 約 75 分鐘 測驗 4 題

倫理高塔

法規、什麼時候不該用 LLM,以及真實案例的檢視。

  1. LV.17 法規塔:本地不等於合法 BOSS:「反正沒上網」詭辯龍 約 45 分鐘 測驗 5 題
  2. LV.18 反指標沼澤:什麼時候不該用 LLM BOSS:鐵鎚看什麼都像釘子 約 40 分鐘 測驗 4 題
  3. LV.19 結業殿:真實案例與進階路線 BOSS:新聞稿浮誇獸 約 45 分鐘 測驗 4 題