生成式 AI 應用

學習路徑

1. 01
   生成式 AI 應用的組成

   模型、提示詞、API、資料與工具的組成關係

   Interaction 15 minute(s)
2. 02
   Token 與費用

   斷詞、上下文長度與費用估算

   Interaction實作 20 minute(s)
3. 03
   注意力機制的直覺

   以 numpy 計算：字與字之間的注意力權重

   Interaction實作 25 minute(s)
4. 04
   溫度與抽樣

   真實的候選機率、temperature 與 top_p

   Interaction實作 20 minute(s)
5. 05
   提示詞的結構

   任務、脈絡、格式與限制對回答的影響

   Interaction實作 25 minute(s)
6. 06
   Few-shot 與逐步推理

   範例、步驟拆解及其適用限制

   Interaction實作 20 minute(s)
7. 07
   Chat API

   messages、角色與回應物件；對話記憶由程式維護

   Interaction實作 25 minute(s)
8. 08
   串流與錯誤處理

   逐字顯示、被截斷的回答、逾時與重試

   Interaction實作 25 minute(s)
9. 09
   結構化輸出

   JSON 模式、Schema 與模型回答的驗證

   Interaction實作 25 minute(s)
10. 10
    Embedding 與語意相似度

    文字向量化與餘弦相似度比較

    Interaction實作 25 minute(s)
11. 11
    向量搜尋

    以 numpy 實作暴力搜尋與 top-k，並與關鍵字搜尋比較

    Interaction實作 25 minute(s)
12. 12
    文件切塊

    切塊大小、重疊與對檢索的影響

    Interaction實作 25 minute(s)
13. 13
    從頭實作 RAG

    檢索、提示詞組合、回答與引用的無框架實作

    Interaction實作 30 minute(s)
14. 14
    評估 RAG

    recall@k、查無資料的處理、引用查核

    Interaction實作 25 minute(s)
15. 15
    工具呼叫

    tool_calls 的來回流程、參數驗證與錯誤回傳

    Interaction實作 30 minute(s)
16. 16
    Agent 迴圈

    Agent 的自行實作：結果判讀、下一步決策與停止條件

    Interaction實作 30 minute(s)
17. 17
    MCP 與權限

    工具的連接方式與 Agent 的權限範圍

    Interaction實作 25 minute(s)
18. 18
    提示詞注入與資料外洩

    資料中隱藏的指令與防線配置

    Interaction實作 30 minute(s)
19. 19
    對照 LangChain

    自行實作流程與框架寫法的差異

    Interaction實作 20 minute(s)
20. 20
    用測試集評估應用

    測試集、評分規則與改版前後比較

    Interaction實作 25 minute(s)
21. 21
    專題：課程問答助手

    檢索、工具、拒答與評估的整合應用

    Interaction實作 40 minute(s)