C1:脈絡工程能力
Shopify CEO Tobi Lutke 說:「比起『提示工程』,我更喜歡『脈絡工程』這個詞。它更好地描述了核心技能:為任務提供所有脈絡的藝術,讓 LLM 有可能解決它。」Andrej Karpathy 將 LLM 的脈絡視窗比喻為 RAM,是有限的工作記憶體,需要謹慎決定放什麼進去。
Transformer 架構需計算每對 token 之間的關係,複雜度為 n 平方。脈絡越長,模型會出現「脈絡腐化」(context rot),因為注意力分散在更多 token 上,導致準確度下降。模型能保持高品質輸出的有效脈絡視窗,往往遠小於官方宣稱的 token 上限。
原則
- 所有角色必須 (MUST) 發展脈絡工程能力,維護供 AI 消費的乾淨脈絡,避免雜訊與不相關資訊。
只放入與手邊任務相關的資訊。脈絡工程的意義在於選擇「不放什麼」與選擇「放什麼」同樣重要。以清楚的層級與一致的格式組織脈絡。同一份程式碼庫不應該出現多種針對同一件事的不同做法。移除過時資訊並確保與程式碼同步。不一致的慣例會產生雜訊,降低 AI 輸出品質。