- https://twitter.com/dotey/status/1703885442293043387 - https://www.facebook.com/minshiTsai/posts/7568225296537280 - https://arxiv.org/abs/2309.04269 2023/9/8 - https://smith.langchain.com/hub/langchain-ai/chain-of-density - https://twitter.com/vimota/status/1702503466994982914 * Prompt - https://smith.langchain.com/hub/langchain-ai/chain-of-density?organizationId=ebbaf2eb-769b-4505-aca2-d11de10372a4 - https://smith.langchain.com/hub/lawwu/chain_of_density?ref=blog.langchain.dev - https://smith.langchain.com/hub/hwchase17/anthropic-chain-of-density?ref=blog.langchain.dev - [ ] CoT 多次改寫法: https://twitter.com/mattshumer_/status/1700169043406123294 - [ ] 跟寶玉翻譯法非常類似的精神 ## 節錄 Brief AI 電子報 這篇論文提出了一種稱為「密度鏈(Chain of Density, CoD)」的方法,來改善 GPT-4 生成的摘要,讓摘要內容的訊息密度更高。 研究人員首先讓 GPT-4 生成一個最初的摘要。接著重複下列兩個步驟 5 次 1. 從原始文章中找出 1-3 個**在之前摘要遺漏的重要訊息。 2. 不增加字數的情況下,在新的摘要中融入這些遺漏的訊息,並重新寫成同樣長度**更精簡的摘要。 透過這種迭代方法,摘要訊息密度會逐步增加,從 0.089 提升至 0.167。研究發現,人類偏好的密度約為 0.15 ,人們更喜歡那些訊息密度較高的摘要。 但一個好的摘要應該在詳細和易讀之間找到平衡。 ## 用 instructor 實作,然後用 gpt-3.5 微調 https://jxnl.github.io/instructor/blog/2023/11/05/chain-of-density/#results-and-benchmarks