Google 推出的 Gemini Pro 1.5 特色在於高達 1000k 的 context window,這對於 RAG 應用的開發將帶來不少影響,詳見我看技術報告的一些心得和留言。 不過一直到今天,無論是 Gemini Ultra 或是 Gemini Pro 1.5,都還是無法使用 API 方式進行實際評測,讓人對於不斷 翻車 的 Google 感到憂心啊。
知名新產品分享網站 Product Hunt 公佈了 2023 年度最佳新產品,果然是滿滿的 AI 風味。冠軍是 GPT-4 模型,接著是瀏覽器 Arc Max, 知識管理工具 Notion AI 和 Google Gemini 模型。更多和 AI 相關的得獎產品還有:
* AI Model 有 GPT-4, Midjourney v5, DALL-E 3 和 Mistral 7B * AI Product 有 Dora AI (網頁生成)、Bard、Chat.D-ID (虛擬人對話)、Pika (影片生成) * AI Features 有 Notion AI, Guidde AI (錄影轉成 Step-by-Step 文件)、Arc Max (瀏覽器)、Trickle (截圖轉知識庫) * AI Infra 有 Langfuse(監控)、Eden AI (整合 LLM APIs)、LLM Spark (建立 LLM App)
Anthropic 在12月初做了回應,在這篇 Long context prompting for Claude 2.1 中,透過加一句提示詞 “Here is the most relevant sentence in the context:” 就大幅提升了Recall 效能從 27% 提升到 98%,就這一句 Prompt Engineering 技巧,分數提升非常多。