ihower { blogging }

Anthropic 最近才釋出了他們在 2025/5/22 開發者大會的完整影片，當時的重頭戲是 Claude 4 模型發布。其中有兩場關於 prompting 教學的演講內容很不錯，這兩場演講從基礎 Prompt 到針對的 Agent 的 prompting ，展現了 prompt engineering 的不同層次，推薦大家一看。以下是我的解讀整理。

第一場: Prompting 101

OpenAI 於 2025/8/7 推出 GPT-5，包括 ChatGPT 和 API 都同時上線，這裡針對 AI 開發者快速解惑與整理重點。

ChatGPT != API 平台的模型

首先，ChatGPT App 的模型與 API 平台上的模型，並非一一對應，這點常讓開發者搞混。讓我說清楚。在 ChatGPT App 裡，其實是一個系統，包含:

1. GPT-5 模型 (這沒有 thinking)
2. GPT-5 Thinking 模型
3. 內部的 Router 路由模型，會依據用戶問題動態切換不同模型與推理程度

看了一場 Augment Code (也是一家做 AI IDE 的廠商) 來講 “Agentic 檢索” 對比 “傳統 RAG 檢索” 的演講，蠻有啟發的。
在 AI Coding 領域，簡單的工具正在擊敗複雜的 RAG 系統。

AI Coding 的演進歷程

AI Coding 的演進是這樣:

• 2023: Code completion 補全時代，例如 Github Copilot
• 2024: 出現側欄 chatbot 來寫這個檔案的 code
• 2025: 進到 Agent 時代，例如 Claude Code 可以跨多個檔案寫 code

隨著每次演進，IDE 底層檢索的複雜度越來越高。我們知道 LLM 需要正確的 context 才能良好運作(也就是 context engineering)，因為需要設計一套檢索系統，找出當下模型所需要參考的程式碼。
像 code completion 只需要超低延遲的簡單檢索即可，chatbot 時代需要理解更複雜的抽象問題，而 agent 就必須理解整個專案的許多不同部分。

他們對 AI Coding 領域的驚人發現是: 簡單的工具就夠了，Augment 團隊在 SWE-Bench 拿下第一名，論文中寫道:「我們探索了新增各種基於嵌入的檢索工具，但發現對於 SWE-Bench 任務來說，這並不是瓶頸。用 grep 和 find 工具就足夠了」。

近期很夯的 Claude Code、OpenAI Codex、Gemini CLI 也通通沒有用 embedding 模型來做檢索。
程式碼檢索為什麼 grep/find 就夠用? 因為程式碼有很多高訊號的關鍵字詞彙，這些結構化的關鍵字讓 grep 搜尋變得非常有效。

最近看了幾篇討論 AI 產品經理和 AI 專案管理的內容，最有感的是這句話:「傳統軟體開發是確定性的，但 AI 開發本質上是應用研究」，這根本性的差異改變了一切。

為什麼傳統路線圖 (Product Roadmap) 會失敗？

傳統 PM 會說「我們 9/21 要發布這個 AI 功能」，但問題是：你怎麼為還沒被發現的東西制定 Roadmap？這就像在地圖還沒畫出來的時候就規劃路線一樣荒謬。

AI 開發更像科學研究：

• 進度不是線性的（可能好幾週沒進展，然後突然有突破）
• 成功不是保證的（有時數學本身就不支持你的產品目標）
• 關鍵指標是學習速度，而非開發速度

舉個例子：你想做一個「減少模型幻覺」的功能。在傳統開發中，這可能是個明確的工單。但在 AI 開發中，這是個開放性研究問題，你甚至不知道是否能完全解決。