AI 新知趨勢 / 資料更新至 2026 年 10 月 25 日
同一套 AI,昨天還能幫你整理報表、修程式,今天卻漏做、忘記條件,甚至反覆給出相同的錯誤答案。遇到這種狀況,很容易得到一個結論:它是不是「降智」了?
這個感受值得認真看待。官方確實公布過品質退步的事故,也有研究觀察到模型服務的行為會隨版本改變。不過,要找到解法,還需要分清楚:是模型改了、產品設定改了、任務變難了,還是我們評價它的標準改了。[1] [2] [3]
本文依《AI 模型上線後降智與效能下降研究報告》整理,從技術、應用與心理三個面向說明,並提供可以自己實作的排查方法。這是公開文獻與案例的綜整,沒有將個人感受或社群貼文數當成故障統計。
30 秒看重點
確有退步案例
官方曾確認推論錯誤、產品設定與行為更新造成問題。
同名未必相同
模型名稱之外,推理強度、系統指令與工具也會影響成果。
長對話要留意
先前的錯誤假設與過期內容,可能一路影響後續回答。
看交付品質
正確、完整、可用,比只看速度或回答篇幅更有意義。
感受也需驗證
負面與正面印象都可能失準,應以同題比較補足。
完整研究報告
AI 模型上線後降智與效能下降研究報告
收錄技術、應用與心理分析、研究限制、對照表與 29 項參考來源。檔案保存在 Google 雲端硬碟,按鈕直接連到原始 PDF。
下載完整研究報告(PDF)若未自動下載,可先開啟 雲端預覽,再使用頁面上的下載功能。
01先把「降智」拆成可以檢查的問題
「答案變差」和「系統變慢」需要分開測量。回答很快但漏掉必要條件,可能是品質問題;等很久仍然答對,則可能是延遲問題。把兩者混在一起,反而不容易找出真正的原因。
| 檢查面向 | 具體要看什麼 | 容易混淆的地方 |
|---|---|---|
| 正確性 | 事實、算式、程式測試有沒有通過 | 資料過期或參考答案本身有誤 |
| 指令與完整性 | 是否遵守繁體中文、格式、必要步驟 | 說完成,不等於真的有交付 |
| 上下文可靠性 | 有沒有使用最新文件與已確認條件 | 資訊雖在對話中,仍可能被忽略 |
| 拒答與可用性 | 正常請求是否被誤拒、是否逾時 | 適當的安全拒絕不應算不會做 |
| 工作效益 | 人工修正時間、重試與總成本 | 只看文字生成速度,漏算返工 |
比較之前,先固定工作
初期只請 AI 改寫一段文字,後來卻請它部署網站或分析多份報表,任務難度已經不同。要證明前後退步,最好拿同一種工作、同一份輸入比較。
02技術面:模型之外的系統也會影響答案
你使用的 AI 產品,通常不只有一組模型權重。系統還會決定使用哪些指令、分配多少推理資源、保留哪些歷史內容,以及如何搜尋資料、呼叫工具。任何一層改變,都可能讓最後的成果不同。
有些退步,官方已經確認
| 公開紀錄 | 確認的問題 | 能支持的判斷 |
|---|---|---|
| 2025 年 Claude 事故[2] | 伺服器路由、輸出 token 與 TPU 編譯等問題 | 推論系統錯誤也能讓答案變差 |
| 2026 年 Claude Code 調查[3] | 降低預設推理強度、歷史推理清理錯誤、提示詞改動 | 模型未必改變,產品交付仍可能退步 |
| 2025 年 GPT-4o 回滾[4] | 更新後變得過度附和使用者 | 被喜歡與判斷可靠,可能是不同指標 |
其中,Anthropic 在 2026 年 4 月 23 日指出,相關產品問題影響 Claude Code、Agent SDK 與 Cowork,API 本身未受影響,三項問題截至 4 月 20 日均已修正。這些日期與範圍很重要,不能拿單一事故解釋所有平台、所有時間的品質抱怨。[3]
長對話可能累積錯誤方向
《Lost in the Middle》發現,在其測試條件中,把相關資訊放在長輸入的不同位置,會改變模型表現。因此,沒有超過上下文上限,不代表所有條件都會被可靠使用。[5]
Laban 等人另外比較「完整需求一次提供」與「需求分散到多輪」的模擬對話,六類生成任務的平均表現相對下降約 39%。研究觀察到,早期猜錯方向後,模型可能持續沿用原本假設。[6]
39% 不是通用的降智幅度
這是特定模型、任務和模擬設計的平均結果,不是每多聊一輪就下降 39%,也不是下降 39 個百分點。不能直接套到所有新模型或日常對話。
例如先請 AI 做「給小學生的教材」,幾輪後才補上「一年級、只用圖示、不放長句」,它可能仍保留最初的文字教學框架。把最新完整需求重新整理,再用新對話測試,是合理的排查方法;但改善也不能單獨證明底層模型曾被降級。
聊天變長,不等於把模型參數聊壞
一般固定權重的推論,不會因為你多問幾次就自動更新模型參數。合成資料造成的 model collapse 屬於後續訓練議題;保留原始資料、累積或替代資料的方式,會影響結果,不能用它解釋任何一次上線後抱怨。[13] [14]
03應用面:單次答對,不保證整個流程成功
排行榜評測與真實工作,衡量的事情可能不同。企業需要的是一份正確、完整、能使用的成果;模型即使解題能力不差,也可能在檔案版本、工具執行或格式交付上失敗。
| 實際工作 | 看起來像降智的情況 | 比較合適的驗收 |
|---|---|---|
| Excel/資料自動化 | 範例能跑,正式檔案卻漏算或日期錯位 | 固定測試檔,核對總額、空值與欄位 |
| 教材與簡報 | 文字流暢,但難度不符或漏掉教學目標 | 分開評分正確性、適齡性與完整度 |
| 網站與程式維護 | 宣稱已修好,卻沒有實際部署或測試 | 檢查修改差異與正式流程 |
| 資料研究 | 來源看似完整,卻是過期內容或二手誤引 | 回到原始資料,核對版本、日期及定義 |
多步驟工作也會放大局部失敗。純數學示意:假設每一步成功率都是 95%,各步獨立且任一步失敗就使整體失敗,10 步全成功約為 59.9%,20 步約為 35.8%。真實流程可能互相影響,也能透過檢查修復,所以這些不是 AI 產品的實測成功率。
企業更該量測的成本
把提示、等待、檢查、修正及重做都算進去,記錄每件合格成果的總時間與成本。便宜的單次回答,若要重試多次,未必有比較好的工作效益。
GPT-4 降智研究,為什麼常被誤讀?
2023 年流傳的早期質數測試數字,常被轉述成整體智力崩跌。2024 年正式文章已納入質數與合數,摘要報告該任務由 84% 變成 51%,並呈現不同任務有升有降。它支持服務行為值得監測,不能改寫成所有能力都全面下降。[1]
程式碼多了說明文字,導致自動流程無法執行,確實是交付問題;但評估推理能力時,還要分開檢查移除額外文字後的程式是否正確。格式遵循與程式邏輯都重要,只是需要不同的評分項目。
04心理面:信任與使用感受也會改變
心理研究能幫助理解評價,卻不能代替技術排查。已確認的真實退步,不能因為存在認知偏誤就被忽略;同樣地,感覺某個模型特別聰明,也需要結果驗證。
一次錯誤,可能讓人更快失去信心
Dietvorst 等人的研究發現,人看到演算法出錯後,可能更快失去信心,即使它整體預測仍優於人類。這稱為「演算法厭惡」。但其研究主要是預測與建議選擇,不能直接認定現代聊天產品的負評都是心理作用。[7]
看起來專業,也可能讓人過度信任
Logg 等人則發現,在某些判斷情境,人們更願採納演算法的建議,稱為「演算法欣賞」。可信的語氣與順暢的文字會影響使用感受,卻不保證內容正確。[8]
確認偏誤也值得注意:原本相信「正在偷降級」的人,可能更注意失敗案例;相信「新模型一定更強」的人,也可能替錯誤找理由。這是把既有心理理論延伸到本議題的假說,並沒有研究替所有降智抱怨算出心理因素占比。[9]
覺得更快,實測卻可能不同
METR 在 2025 年針對熟悉自身專案的開源開發者進行試驗,該情境下使用 AI 的完成時間平均增加 19%,參與者事後卻估計自己快約 20%。這說明主觀效率與實測可以不同,不能據此推論所有工作或後來模型都會讓人變慢。[10]
METR 在 2026 年 2 月的後續說明已指出,新資料出現加速跡象,但參與者選擇、任務選擇及多代理計時,讓效果大小難以可靠判定。因此,引用早期結果時,也必須保留後續更新。[11]
05實際排查:用同一個任務做可重複比較
若你懷疑 AI 最近真的變差,可以先保存 30 至 50 個代表性任務作小型排查。這只是工程起點,不保證能偵測細微差異;正式評估的樣本數,仍要依預期差異與資料變異規劃。
- 留下可重現案例:保存完整輸入、附件版本、舊輸出、日期與時區。只有「以前比較好」的印象,無法算出下降幅度。
- 固定看得到的設定:記錄產品、模型識別碼、方案、推理強度、記憶、自訂指令與工具。未開放的設定標為無法觀察。
- 拆開比較條件:用新對話對照長對話、完整需求對照分輪補充、直接回答對照含工具的流程。每次盡量只改一項。
- 隱藏版本再評分:逐題看正確性、必要條件、完整度與誤拒,不用回答長短或語氣判斷好壞。
- 把返工算進去:記錄合格成果的總耗時、重試與人工修正。若要正式判定,再用適合配對資料的統計方法。[12]
同一題重跑十次,不是十個獨立任務
重跑有助觀察不穩定,但不能把重複生成當成新的獨立樣本。沒有舊端點或舊輸出時,能建立現在的基準,卻無法嚴格回推過去退步多少。[12]
可以直接複製的比較範本
將 A、B 隨機排序,再用下列範本輔助檢查。AI 評審本身仍可能犯錯,重要答案請搭配人工或可執行測試確認。
常見問題
換新對話就變好,能證明模型沒問題嗎?
只能說上下文或產品流程值得優先排查;還要固定需求、設定與附件重測,才能縮小原因範圍。
回覆變快、思考文字變短,代表偷偷降級嗎?
速度、可見思考文字與真正使用的計算資源不是同一量。它們可作線索,仍需版本、設定與逐題結果支持,不能單靠畫面推定。
是不是所有尖峰時段都會換成較弱模型?
現有資料不足以支持這種普遍說法。成本優化是可檢驗的假說,但動機不等於證據;不同時段測到差異,也不能直接證明是故意節流。
完整研究報告
AI 模型上線後降智與效能下降研究報告
收錄技術、應用與心理分析、研究限制、對照表與 29 項參考來源。檔案保存在 Google 雲端硬碟,按鈕直接連到原始 PDF。
下載完整研究報告(PDF)若未自動下載,可先開啟 雲端預覽,再使用頁面上的下載功能。
延伸學習
想把 AI 用得更穩定,可以從基本觀念、資料查核與實際工作流程開始:
本文重點
- AI 服務確實可能退步,原因可能位於模型、設定、推論系統或工具流程。
- 長對話、任務變難與評價基準改變,也會影響使用體驗。
- 心理研究提醒我們校準信任,不能用來直接否定真實故障。
- 保留代表性任務、固定條件並比較交付結果,比爭論「是不是變笨」更有助於改善工作。
想一想
如果要證明你常用的 AI 變好或變差,你會保存哪三個真實任務,並用什麼標準驗收?
資料來源
以下為本文直接使用的主要來源;完整書目、社群原帖與研究限制請見雲端 PDF。原始資料已依研究條件保留適用範圍,本文未自行執行跨日期模型測試。
- Chen、Zaharia 與 Zou(2024)。How Is ChatGPT’s Behavior Changing Over Time?。
- Anthropic(2025 年 9 月 17 日)。A postmortem of three recent issues。
- Anthropic(2026 年 4 月 23 日)。An update on recent Claude Code quality reports。
- OpenAI(2025 年 5 月 2 日)。Expanding on what we missed with sycophancy。
- Liu 等人(2024)。Lost in the Middle: How Language Models Use Long Contexts。
- Laban 等人(2025,預印本)。LLMs Get Lost In Multi-Turn Conversation。
- Dietvorst、Simmons 與 Massey(2015)。Algorithm aversion: People erroneously avoid algorithms after seeing them err。
- Logg、Minson 與 Moore(2019)。Algorithm appreciation: People prefer algorithmic to human judgment。
- Nickerson(1998)。Confirmation Bias: A Ubiquitous Phenomenon in Many Guises。
- METR(2025 年 7 月 10 日)。Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity。
- METR(2026 年 2 月 24 日)。We are Changing our Developer Productivity Experiment Design。
- Kübler 等人(2026,ICLR;公開版本)。When LLMs get significantly worse: A statistical approach to detect model degradations。
- Shumailov 等人(2024;2025 年另有作者更正)。AI models collapse when trained on recursively generated data。
- Gerstgrasser 等人(2024,預印本)。Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data。
模型崩潰論文的作者更正:Shumailov 等人,2025。更正涉及理論段落參數符號。
封面為 AI 生成的示意插畫;內文圖解依本文整理,以程式繪製,並非產品介面或效能實測圖。

