
Context Engineering 這個詞最近在 AI 技術圈被提出,包括 Tobi Lütke (Shopify CEO)、大神 Andrej Karpathy、Harrison Chase (LangChain 創辦人) 、Jerry Liu (Llamaindex 創辦人)、Simon Willison 等大大都在討論+1。過去大家熟知的是 Prompt Engineering,但現在發現這詞已經不夠涵蓋目前大家在做的事情,而且更多人誤認為這只是撰寫靜態的提示詞而已,而忽略了背後所需要的工程技術。技術社群需要一個新術語能更廣泛統稱所有 Context 的動態管理,包括 System/User prompt、RAG、Memory、Tool Calling、結構化輸出、Agent、Multi-Agents 等等。
什麼是 Context Engineering?
開發 AI 應用需要建構一個系統,動態根據當前任務和狀態,提供正確的資訊和工具給 LLM 大模型,讓它有足夠的條件完成任務,這就叫做 Context Engineering 上下文工程。
Tobi Lütke (Shopify CEO) 說:「我真的喜歡 context engineering 這個詞勝過 prompt engineering。它更好地描述了核心技能: 提供所有上下文讓 LLM 能合理解決任務的藝術。」
LangChain 在 “The rise of “context engineering” 文章中說:「Context engineering 是建構動態系統,以正確的格式提供正確的資訊和工具,使 LLM 能夠合理地完成任務。」
Andrej Karpathy 說: 「LLM 就像新型作業系統,模型是 CPU,而 Context window 就是 RAM。Context engineering 是精巧地把對的資訊在對的時機塞進 context window 的微妙藝術與科學。」
閱讀全文〈什麼是 Context Engineering 上下文工程?〉