跳到主要內容

深讀|AI 也會「腦腐」?德州農工研究揭示熱門內容與好教材的落差

深讀|AI 也會「腦腐」?德州農工研究揭示熱門內容與好教材的落差封面

2026/10/26 發布 · 封面為 AI 生成示意圖

一篇貼文能吸引大量按讚,不代表它適合拿來訓練 AI。德州農工大學、德州大學奧斯汀分校與普渡大學研究者合作發表的研究,將特定社群貼文用於模型的持續預訓練,觀察到推理、長篇資訊理解及部分安全測試表現下降。研究以「腦腐」形容這種退化,但它不是生物疾病,也不是說使用者多聊幾句廢話,就會讓聊天機器人永久變笨。這項研究真正值得關注的是:為了抓住人類注意力而成功的內容,可能不是培養模型能力的好教材。

研究改變的是訓練資料,不是聊天內容

這項研究已列為 2026 年語言建模會議 COLM 論文。實驗核心是持續預訓練,也就是拿已經訓練好的模型,繼續用文字資料更新參數,讓它學習新的內容與模式。

這與模型在一次對話中閱讀貼文不同。前者會改變模型參數;後者主要影響當下可用的上下文。研究結果不能直接推論成「叫 AI 整理迷因,會讓它永久失去推理能力」。

資料時間也需要更正。新聞與校方介紹寫到「2010 年」,但使用者提供的論文第三版明確記載,資料集於 2023 年蒐集,包含 2021–2023 年的貼文。本文以論文方法章節為準。

這個區分很重要:研究是在特定訓練條件下測試能力變化,而非直接觀察今日所有商用 AI 使用社群網站後的結果。

互動量衡量吸引力,未必衡量學習價值

研究採用兩種方式挑選資料。一種依貼文長度與互動量,將短小、熱門的內容與較長、低互動內容比較;另一種則依內容是否煽情、淺薄等語意特徵分類。

分開測試的理由,是「熱門」和「低品質」不能直接畫上等號。簡短的科學解釋也可能廣受歡迎,冗長文章同樣可能充滿錯誤。互動數只是平台上的行為訊號,不是知識正確性的認證。

例如,假設兩篇文章都談投資,一篇只有「這次絕對暴漲」,另一篇說明資料來源、假設與可能失敗的條件。前者可能更容易引起情緒與轉傳,但後者提供了更多可供檢查的推導。這是假設情境,並非研究使用的原始樣本,卻能說明兩種選材目標的差異。

我們的分析是,若訓練資料過度依賴互動量篩選,就可能把「人願意停下來看」誤當成「值得模型學習」。研究提醒的,正是這兩種價值之間的落差。

下降的不只是答題分數,還包括回答方式

研究者觀察到,部分錯誤伴隨「跳過推理步驟」:模型沒有展開計畫,或開始推導後未完成必要步驟,就直接給出答案。

但不能把所有簡短回答都視為退化。簡單問題本來就不需要長篇解釋;真正值得擔心的是,題目需要比較條件或追蹤資訊,模型卻漏做必要處理。回答變長,也不保證推理正確。

同樣地,研究中的「記憶」主要涉及長篇上下文中的資訊檢索與理解,不等於人類記憶,也不等於聊天產品的跨對話記憶功能。「人格」與「倫理」則是特定測試下的行為表現,不能解讀成模型真的形成了人類人格。

這使研究的意義更具體:評估訓練更新時,除了看語句是否自然,也需要確認模型能否保留條件、完成推導,以及維持原有安全行為。這些能力可能在表面流暢度未明顯改變時,就已出現差異。

補救未完全成功,不代表已證明永久不可逆

研究測試了反思、指令微調與較乾淨資料的後續訓練。部分方法能改善表現,但在測試範圍內,未能全面恢復原有水準。較強外部模型提供的回饋,也能減少部分推理錯誤。

因此,較精確的結論是「既有補救方法與訓練規模未完全修復」,而不是任何方法都救不回來。重新選擇模型檢查點、調整訓練方式或採用其他資料,仍有研究空間。

另一個限制來自資料定義。以長度、互動量或模型分類建立的組別,仍可能同時存在主題、語氣與文體差異。控制實驗提供了值得重視的證據,但要進一步確認哪些特徵造成多少影響,仍需更多拆解與重現。

研究也沒有直接測試 ChatGPT、Gemini 等封閉商用系統。因此,它能提出風險機制,卻不能證明某個現役產品已經發生相同退化。

我們的觀察

這項研究最有價值的地方,是把「資料品質重要」推進成更具體的問題:社群平台放大的內容特徵,會不會在模型更新時,改變它處理複雜問題的方式?

對開發者而言,值得追蹤的是每次加入新資料後,模型的推理、長篇理解與安全表現是否一起維持,而非只確認它學會更多流行語或近期話題。若能力下滑,應能追溯資料與訓練變更,而不是期待事後微調一定補得回來。

至於 AI 生成內容回流、再被下一代模型學習的惡性循環,目前應視為需要驗證的風險推論,不能把這項實驗當成整個網路已陷入循環的證明。未來若能在更多平台、更大模型與更貼近日常工作的測試中重現,這個警訊才會有更廣的適用範圍。

延伸來源

研究論文第三版:LLMs Can Get “Brain Rot”: A Pilot Study on Twitter/X arxiv.org

研究團隊專案網站:實驗介紹、程式與資料入口 llm-brain-rot.github.io

德州農工大學:研究背景與研究者訪談 Texas A&M Stories

科技新報:使用者提供的原始新聞素材

更多深度閱讀

留言

這個網誌中的熱門文章

遊戲開發邏輯可能被重寫

 遊戲開發邏輯可能被重寫 AI 的影響,正從「幫你做得更快」,進一步走向「改變你怎麼做事」。 在遊戲產業,它開始接手世界的生成; 在學習與工作場域,它被質疑是否讓人類思考退場; 在會計這類高度制度化的專業領域,它則被視為補位而非取代。 延伸脈絡:不要只看單一事件 「遊戲開發邏輯可能被重寫」之所以值得留下來閱讀,是因為它可以當成觀察 AI 發展節奏的一個切片。單一新聞可能很短,但把它和同時期的產品更新、政策討論、使用者反應放在一起,就能看出 AI 技術正在從實驗性展示走向日常基礎工具。 從「AI 教育與學習方式」的角度看,讀者可以特別注意兩個層次:第一是技術是否真的成熟到能被普通人穩定使用;第二是平台、企業或主管機關是否已經準備好相應的規則。前者決定短期體驗,後者決定這項應用能不能長期被信任。 因此,這類文章不只是在記錄一則消息,而是在提醒我們:每一次 AI 被放進工作、教育、娛樂、治理或家庭生活,背後都會重新分配效率、風險和責任。讀者若能從這三個面向回頭檢查,就比較不容易被單一功能或宣傳話術帶著走。 作者: NineLife AI 編輯室 最後更新: 2025年12月26日 本文由 NineLife AI 編輯室整理公開資料後撰寫,可能使用 AI 工具協助草稿整理;發布前會人工檢查來源、事實與語意。內容僅供資訊參考,不構成法律、投資、醫療、稅務或其他專業建議。 站內延伸閱讀: 深度閱讀目錄 | AI 工具觀察 | 關於 NineLife AI

ChatGPT 學習模式與 NotebookLM 影片摘要:功能更新和法規時間怎麼分清楚?

2025 年 7 月,ChatGPT 與 NotebookLM 分別推出引導學習和影片摘要功能。兩者都能協助接觸知識,卻不能單憑功能名稱就認定學習成果提高。本文也更正原文把歐盟 AI 法案寫成同期新通過的時間脈絡。

AI新局:就業認證、版權爭議、中企挑戰

AI新局:就業認證、版權爭議、中企挑戰 AI 的力量正全面展開:OpenAI 推出證書與人才平臺,試圖打造新一代數位職涯生態;華納兄弟則槓上 Midjourney,為版權保護與 AI 創作劃下界線;中國新創 DeepSeek 加速推進,公開挑戰 OpenAI 的龍頭地位。這三則新聞,讓我們同時看到 教育、法律與國際市場 的三重戰場。 🔹 OpenAI推AI證書與人才平臺 擴大就業機會 📌 新聞整理 OpenAI 應用執行長 Fidji Simo 宣布,將推出 OpenAI 證書 與 AI Jobs Platform。 • 證書今年上線,分為基礎到進階提示工程等級,由 OpenAI Academy 提供準備與考核。 • 目標在 2030 年前認證 1,000 萬名美國人,Walmart 已率先導入員工訓練。 • Jobs Platform 明年推出,結合 AI 技術協助政府與企業找人才,被視為 LinkedIn 潛在競爭對手。 💬 生活化比喻 就像數位時代的「駕照考試」,拿到證書後才能在 AI 世界裡上路。 🔍 知識補充 • AI認證:讓人才有清晰標準,企業也能快速篩選。 • 市場影響:若成功普及,可能重塑全球職場技能門檻。 🔹 華納兄弟控告Midjourney未授權用角色訓練AI 📌 新聞整理 華納兄弟探索正式提告 Midjourney,指控其未授權使用旗下角色訓練模型,並允許生成 超人、蝙蝠俠、湯姆與傑利 等影像與影片。 • 此前迪士尼與環球也已提告 Midjourney。 • 華納強調 Midjourney「明知可限制卻放任侵權」,且營收與此直接相關。 • Midjourney 暫未回應。 💬 生活化比喻 就像你拿別人漫畫角色,隨便印在商品上賣錢,卻沒經過授權。 🔍 知識補充 • AI版權爭議:核心在於「訓練資料是否需要授權」。 • 產業趨勢:娛樂巨頭集體提告,可能推動 AI 法規加速落地。 🔹 DeepSeek攜新AI模型挑戰OpenAI 📌 新聞整理 中國新創 DeepSeek 宣布年底推出新一代 AI 代理模型。 • 目標:以更少指令完成複雜任務,挑戰 OpenAI 市場地位。 • 今年 1 月首發 DeepSeek-R1,20 天內日活用戶數即達 2,161 萬。 • 新系統支援多模態理解、多語言應用,...