😆 👨🏻💻 📚 🚀 💰 ✨
我的 LLM 課程開放報名啦，距離上次公開課應該也快一年了，這段期間忙著做案子和企業內訓。但太多人在敲碗期待課程更新，這次終於排出時間來開一波。如果錯過這次，可能就要等到年底才有機會再開囉 。
📣 課名: 大語言模型 LLM 應用開發工作坊 (2025升級版)
這是針對軟體工程師的 OpenAI API、Chatbot、Prompt Engineering、RAG、Agents 的開發課程
👩💻 適合對象:
有經驗的軟體工程師。非資訊專業或看不懂程式碼的話，不建議報名此課程，你一定跟不上進度。這門課就是乾貨滿滿、節奏紮實，適合有程式基礎的工程師。
📅 課程日期:
分三次上課 2025/4/26 (六)、2025/5/3 (六)、2025/5/10 (六)
PM7~PM10 (視進度和 QA 情況，可能彈性延長至 PM 10:30)
📍 上課地點: 線上 Zoom 直播
Hello! 各位 AI 開發者大家好 👋
我是 ihower，這一期電子報跟大家分享二月底在紐約舉辦的 AI Engineer Summit。這大會的定位就是針對 AI 軟體工程師，今年的大主題就是最夯的 Agents 工程。
主辦單位已經釋出全部錄影在 Youtube 上了，總共有六十多場演講我都消化了，以下精選了我最有收穫的 16 場分享給大家。
因為全放內容會太多，以下只有我簡單的介紹。有興趣的可以點下去看我用 AI 整理後的中等長度摘要。如果覺得不夠，Facebook 留言中裡面有放完整版逐字稿跟截圖的連結，網頁我也有放一鍵 Copy 全部逐字稿，方便讓你貼去 AI 自己問。
這場介紹了 Anthropic 和 Intercom 案例，以及分享了 AI 應用開發的最佳實踐與常見錯誤。
OpenAI 如何做企業導入，Agent 的定義和四個關鍵建議。
談開發 Agent 要面臨的挑戰，以及建議的解決方式。包括以下三種挑戰:
Hello! 各位 AI 開發者大家好 👋
我是 ihower，最近的熱門話題是在同一天內相隔幾小時發表 ChatGPT 4o image 生圖功能，以及新的SOTA王者 Gemini 2.5 Pro 模型，大家都有嘗試了嗎?
我的 LLM 課程開放報名啦，距離上次公開課應該也快一年了，這段期間忙著做案子和企業內訓。但太多人在敲碗期待課程更新，這次終於排出時間來開一波。如果錯過這次，可能就要等到年底才有機會再開囉 。
課名: 大語言模型 LLM 應用開發工作坊 (2025升級版)，這是針對軟體工程師的 OpenAI API、Chatbot、Prompt Engineering、RAG、Agents 的開發課程
適合對象: 有經驗的軟體工程師。非資訊專業或看不懂程式碼的話，不建議報名此課程，你一定跟不上進度。這門課就是乾貨滿滿、節奏紮實，適合有程式基礎的工程師。
課程日期: 分三次上課 2025/4/26 (六)、2025/5/3 (六)、2025/5/10 (六) PM7~PM10 (視進度和 QA 情況，可能彈性延長至 PM 10:30)
上課地點: 線上 Zoom 直播
舊生可享半價優惠。
非常難得可以看到專為繁體中文做的視覺語言模型設計的評測資料集，這個 VisTW 包含兩個子集：
這是 benchmark 和 paper，歡迎關注 第一作者 zraytam
閱讀全文〈愛好 AI Engineer 電子報 🚀 都急了，我的 LLM 應用開發工作坊開課了 #25〉
Hello! 各位 AI 開發者大家好 👋
我是 ihower，近期也是新模型齊發，包括 Authropic 首個推理模型 Sonnet 3.7、Elon Musk 的 Grok 3、OpenAI 釋出可能是參數量最大又最昂貴的 GPT-4.5，連 GPT-5 路線 都預告了。
大神 Andrej Karpathy (前 OpenAI 共同創辦人、特斯拉人工智慧總監) 又錄了一個免費又親切的兩小時入門影片，分享他如何使用 ChatGPT，包括推理模型介紹、各種搭配的工具介紹、多模態模型介紹等等。
影片適合一般初學者特別是 AI 小白，這裡感恩 Fox 大大翻譯繁體中文字幕。
在人類的最後考試之後，Scale AI 又發了一個超猛的 EnigmaEval 恩尼格瑪評估 🧩 (命名想來出自二戰時的恩尼格瑪密碼機)
這是一個來自全球謎題作家和遊戲大師的原創複雜問題，解謎需要創造性的問題解決能力，以及在數學、邏輯推理、文化知識、語言操作等多個領域中綜合資訊的能力。
共有 1184 個多模態謎題非常艱難，一群人需要花上幾個小時甚至幾天的時間才能解答。
目前所有頂級模型在 Hard set 上的得分為 0%，在 Normal set 上的得分小於 10%。總分最高分是 o1 的 5.65%，然後是 Gemini 2.0 Flash Thinking 1.1%，其他模型都在 1% 以下了….
大家會想知道的 DeepSeek R1 跟 OpenAI o3-mini 因為不支援多模態，不會看圖片，所以就沒辦法參加這個 benchmark 了。
更多討論在我 Facebook 貼文。
閱讀全文〈愛好 AI Engineer 電子報 🚀 恩尼格瑪評估 #24〉Hello! 各位 AI 開發者大家好 👋
我是 ihower，這次過年好忙，又是 DeepSeek R1 又是 OpenAI o3-mini，真是春捲啊 🌯🌯🌯
大神 Andrej Karpathy (前 OpenAI 共同創辦人、特斯拉人工智慧總監) 寫的這個 LLM 模型訓練的比喻(出處 tweet)太讚了，這裡翻譯分享給大家:
讓大型語言模型 (LLMs) 去上學:
當你打開任何一本教科書時，你會看到三種類型的主要內容：
目前我們已經讓模型接受大量的第 1 類(背景知識) 和第 2 類(範例學習)訓練，但第 3 類(練習與試誤學習) 仍然是個新興逐漸開展的新領域。
當我們為模型建立訓練資料集時，本質上與撰寫教科書並無不同，需要同時包含這三種類型的資料。它們必須先閱讀，然後再做大量練習。
大神還接著錄了三個多小時的教學影片，免費深入淺出全面講解大型語言模型、訓練、心理學到實際應用！
這裡感恩 Fox 大大翻譯繁體中文字幕。
Hello! 各位 AI 開發者大家好 👋
我是 ihower，農曆新年的腳步接近，先在這裡祝福大家新年快樂，萬事如意，財源滾滾！ 🧧🧨
這篇 Chip Huyen 寫的 “生成式 AI 應用開發的常見錯誤”，歸納出 6 個容易踩雷的地方，實在心有戚戚焉啦。以下結合原文與我自己的經驗，整理出以下六個觀點：
1️⃣ 不該用生成式 AI 的場景硬要用生成式 AI
大模型 LLM 是很厲害，但是很多人對於這項技術的能力不夠了解，硬要把不適合的需求塞給它處理。例如: 最佳化能源消耗、用來檢測流量異常、用來預測電量、檢測病人是否營養不良等等，其實都不適合用生成式 AI 來做。
我個人也碰過公司想要做些營運最佳化和異常檢測，細問才發現資料都是數字型態。這種不是用生成式 AI 啦，而是應該用專門的演算法或是機器學習來做。
2️⃣ 搞混「爛 AI 產品」與「笨 AI 模型」
很多失敗案例其實不是 LLM 模型不夠聰明，而是產品設計和 AI 工程能力的不足。
例如最近最火熱的 AI Coding 產品為例，無論是 GitHub Copilot、Cursor、Windsurf 還是 Devin，背後用的往往都是一樣的 LLM，差別在於產品設計與 AI 工程做得好不好。所謂的 AI 工程能力，主要是指如何有效提供模型所需的 context（透過 prompt chaining、RAG 等技術)，讓模型能在正確資料的基礎上產生有用的結果。若缺乏這些工程環節，再強大的模型也只能”巧婦難為無米之炊”
因此你會看到出現 o3 這種可以解決奧數的聰明模型，又同時看到 Devin 處理實際的軟體開發任務還做不好。根本原因可能不是模型太弱，而是整合的 AI 工程還不夠完善。
最近看到一句話是 raw intelligence ≠ intelligent software systems「原始智力」不等於「智慧軟體系統」
大模型的「智力」只是基石，要把它轉化成真正有效的智慧系統，還需要正確的上下文、工具整合以及成熟的工程化流程，這就是 Berkeley AI Research (BAIR) 所提出的 The Shift from Models to Compound AI Systems 的趨勢：領先的 AI 成果越來越依賴「多重元件」協作，而非單純依賴一個大型模型，才能發揮 LLM 的最大潛能，做出好用的 AI 產品。
閱讀全文〈愛好 AI Engineer 電子報 🚀 AI 應用開發的常見錯誤 #22〉