AI 真的降智了嗎?從技術、應用與心理看模型效能下降

AI 真的降智了嗎?技術、應用與心理:機器人與研究者一起檢查模型、設定與使用感受的示意插畫

AI 新知趨勢 / 資料更新至 2026 年 10 月 25 日

同一套 AI,昨天還能幫你整理報表、修程式,今天卻漏做、忘記條件,甚至反覆給出相同的錯誤答案。遇到這種狀況,很容易得到一個結論:它是不是「降智」了?

這個感受值得認真看待。官方確實公布過品質退步的事故,也有研究觀察到模型服務的行為會隨版本改變。不過,要找到解法,還需要分清楚:是模型改了、產品設定改了、任務變難了,還是我們評價它的標準改了。[1] [2] [3]

本文依《AI 模型上線後降智與效能下降研究報告》整理,從技術、應用與心理三個面向說明,並提供可以自己實作的排查方法。這是公開文獻與案例的綜整,沒有將個人感受或社群貼文數當成故障統計。

30 秒看重點

確有退步案例

官方曾確認推論錯誤、產品設定與行為更新造成問題。

同名未必相同

模型名稱之外,推理強度、系統指令與工具也會影響成果。

長對話要留意

先前的錯誤假設與過期內容,可能一路影響後續回答。

看交付品質

正確、完整、可用,比只看速度或回答篇幅更有意義。

感受也需驗證

負面與正面印象都可能失準,應以同題比較補足。

完整研究報告

AI 模型上線後降智與效能下降研究報告

收錄技術、應用與心理分析、研究限制、對照表與 29 項參考來源。檔案保存在 Google 雲端硬碟,按鈕直接連到原始 PDF。

下載完整研究報告(PDF)

若未自動下載,可先開啟 雲端預覽,再使用頁面上的下載功能。

01先把「降智」拆成可以檢查的問題

「答案變差」和「系統變慢」需要分開測量。回答很快但漏掉必要條件,可能是品質問題;等很久仍然答對,則可能是延遲問題。把兩者混在一起,反而不容易找出真正的原因。

檢查面向具體要看什麼容易混淆的地方
正確性事實、算式、程式測試有沒有通過資料過期或參考答案本身有誤
指令與完整性是否遵守繁體中文、格式、必要步驟說完成,不等於真的有交付
上下文可靠性有沒有使用最新文件與已確認條件資訊雖在對話中,仍可能被忽略
拒答與可用性正常請求是否被誤拒、是否逾時適當的安全拒絕不應算不會做
工作效益人工修正時間、重試與總成本只看文字生成速度,漏算返工

比較之前,先固定工作

初期只請 AI 改寫一段文字,後來卻請它部署網站或分析多份報表,任務難度已經不同。要證明前後退步,最好拿同一種工作、同一份輸入比較。

02技術面:模型之外的系統也會影響答案

你使用的 AI 產品,通常不只有一組模型權重。系統還會決定使用哪些指令、分配多少推理資源、保留哪些歷史內容,以及如何搜尋資料、呼叫工具。任何一層改變,都可能讓最後的成果不同。

答案品質來自整個系統01模型及版本權重、更新、後訓練02產品設定推理強度、系統提示詞03上下文與工具文件版本、檢索、執行結果最後交付給你的成果
圖 1 同一模型名稱之下,仍有多層因素會影響結果。這是系統概念圖,不代表每次失敗都由同一原因造成。

有些退步,官方已經確認

公開紀錄確認的問題能支持的判斷
2025 年 Claude 事故[2]伺服器路由、輸出 token 與 TPU 編譯等問題推論系統錯誤也能讓答案變差
2026 年 Claude Code 調查[3]降低預設推理強度、歷史推理清理錯誤、提示詞改動模型未必改變,產品交付仍可能退步
2025 年 GPT-4o 回滾[4]更新後變得過度附和使用者被喜歡與判斷可靠,可能是不同指標

其中,Anthropic 在 2026 年 4 月 23 日指出,相關產品問題影響 Claude Code、Agent SDK 與 Cowork,API 本身未受影響,三項問題截至 4 月 20 日均已修正。這些日期與範圍很重要,不能拿單一事故解釋所有平台、所有時間的品質抱怨。[3]

長對話可能累積錯誤方向

《Lost in the Middle》發現,在其測試條件中,把相關資訊放在長輸入的不同位置,會改變模型表現。因此,沒有超過上下文上限,不代表所有條件都會被可靠使用。[5]

Laban 等人另外比較「完整需求一次提供」與「需求分散到多輪」的模擬對話,六類生成任務的平均表現相對下降約 39%。研究觀察到,早期猜錯方向後,模型可能持續沿用原本假設。[6]

39% 不是通用的降智幅度

這是特定模型、任務和模擬設計的平均結果,不是每多聊一輪就下降 39%,也不是下降 39 個百分點。不能直接套到所有新模型或日常對話。

例如先請 AI 做「給小學生的教材」,幾輪後才補上「一年級、只用圖示、不放長句」,它可能仍保留最初的文字教學框架。把最新完整需求重新整理,再用新對話測試,是合理的排查方法;但改善也不能單獨證明底層模型曾被降級。

聊天變長,不等於把模型參數聊壞

一般固定權重的推論,不會因為你多問幾次就自動更新模型參數。合成資料造成的 model collapse 屬於後續訓練議題;保留原始資料、累積或替代資料的方式,會影響結果,不能用它解釋任何一次上線後抱怨。[13] [14]

03應用面:單次答對,不保證整個流程成功

排行榜評測與真實工作,衡量的事情可能不同。企業需要的是一份正確、完整、能使用的成果;模型即使解題能力不差,也可能在檔案版本、工具執行或格式交付上失敗。

實際工作看起來像降智的情況比較合適的驗收
Excel/資料自動化範例能跑,正式檔案卻漏算或日期錯位固定測試檔,核對總額、空值與欄位
教材與簡報文字流暢,但難度不符或漏掉教學目標分開評分正確性、適齡性與完整度
網站與程式維護宣稱已修好,卻沒有實際部署或測試檢查修改差異與正式流程
資料研究來源看似完整,卻是過期內容或二手誤引回到原始資料,核對版本、日期及定義

多步驟工作也會放大局部失敗。純數學示意:假設每一步成功率都是 95%,各步獨立且任一步失敗就使整體失敗,10 步全成功約為 59.9%,20 步約為 35.8%。真實流程可能互相影響,也能透過檢查修復,所以這些不是 AI 產品的實測成功率。

企業更該量測的成本

把提示、等待、檢查、修正及重做都算進去,記錄每件合格成果的總時間與成本。便宜的單次回答,若要重試多次,未必有比較好的工作效益。

GPT-4 降智研究,為什麼常被誤讀?

2023 年流傳的早期質數測試數字,常被轉述成整體智力崩跌。2024 年正式文章已納入質數與合數,摘要報告該任務由 84% 變成 51%,並呈現不同任務有升有降。它支持服務行為值得監測,不能改寫成所有能力都全面下降。[1]

程式碼多了說明文字,導致自動流程無法執行,確實是交付問題;但評估推理能力時,還要分開檢查移除額外文字後的程式是否正確。格式遵循與程式邏輯都重要,只是需要不同的評分項目。

04心理面:信任與使用感受也會改變

心理研究能幫助理解評價,卻不能代替技術排查。已確認的真實退步,不能因為存在認知偏誤就被忽略;同樣地,感覺某個模型特別聰明,也需要結果驗證。

一次錯誤,可能讓人更快失去信心

Dietvorst 等人的研究發現,人看到演算法出錯後,可能更快失去信心,即使它整體預測仍優於人類。這稱為「演算法厭惡」。但其研究主要是預測與建議選擇,不能直接認定現代聊天產品的負評都是心理作用。[7]

看起來專業,也可能讓人過度信任

Logg 等人則發現,在某些判斷情境,人們更願採納演算法的建議,稱為「演算法欣賞」。可信的語氣與順暢的文字會影響使用感受,卻不保證內容正確。[8]

確認偏誤也值得注意:原本相信「正在偷降級」的人,可能更注意失敗案例;相信「新模型一定更強」的人,也可能替錯誤找理由。這是把既有心理理論延伸到本議題的假說,並沒有研究替所有降智抱怨算出心理因素占比。[9]

覺得更快,實測卻可能不同

METR 在 2025 年針對熟悉自身專案的開源開發者進行試驗,該情境下使用 AI 的完成時間平均增加 19%,參與者事後卻估計自己快約 20%。這說明主觀效率與實測可以不同,不能據此推論所有工作或後來模型都會讓人變慢。[10]

METR 在 2026 年 2 月的後續說明已指出,新資料出現加速跡象,但參與者選擇、任務選擇及多代理計時,讓效果大小難以可靠判定。因此,引用早期結果時,也必須保留後續更新。[11]

05實際排查:用同一個任務做可重複比較

若你懷疑 AI 最近真的變差,可以先保存 30 至 50 個代表性任務作小型排查。這只是工程起點,不保證能偵測細微差異;正式評估的樣本數,仍要依預期差異與資料變異規劃。

把感覺變成可比較的證據1保存同一個任務留下輸入、檔案與舊輸出2固定可見設定版本、推理強度、工具與時間3同題配對評分正確、完整、格式與誤拒4比較實際交付總耗時、重試與人工修正
圖 2 先固定條件,再比較逐題結果與交付成本。
  • 留下可重現案例:保存完整輸入、附件版本、舊輸出、日期與時區。只有「以前比較好」的印象,無法算出下降幅度。
  • 固定看得到的設定:記錄產品、模型識別碼、方案、推理強度、記憶、自訂指令與工具。未開放的設定標為無法觀察。
  • 拆開比較條件:用新對話對照長對話、完整需求對照分輪補充、直接回答對照含工具的流程。每次盡量只改一項。
  • 隱藏版本再評分:逐題看正確性、必要條件、完整度與誤拒,不用回答長短或語氣判斷好壞。
  • 把返工算進去:記錄合格成果的總耗時、重試與人工修正。若要正式判定,再用適合配對資料的統計方法。[12]

同一題重跑十次,不是十個獨立任務

重跑有助觀察不穩定,但不能把重複生成當成新的獨立樣本。沒有舊端點或舊輸出時,能建立現在的基準,卻無法嚴格回推過去退步多少。[12]

可以直接複製的比較範本

將 A、B 隨機排序,再用下列範本輔助檢查。AI 評審本身仍可能犯錯,重要答案請搭配人工或可執行測試確認。

同題比較驗證範本

請協助我比較兩組 AI 產出,先不要根據模型名稱判斷哪一組較好。

任務與輸入資料:[貼上同一份需求與資料]
驗收條件:[列出必要內容、格式、限制與正確答案]
產出 A:[貼上完整回答或可檢查的成果]
產出 B:[貼上完整回答或可檢查的成果]

請逐項檢查:
1. 事實或計算是否正確。
2. 必要內容與步驟是否完整。
3. 指定格式與限制是否遵守。
4. 是否有不必要的拒答,或宣稱完成卻沒有成果。

請引用具體片段說明差異,不以長短、語氣或排版代替品質評分。資料不足時標記為無法判定,不要猜測供應商是否換模型或削減算力。最後列出仍需人工驗證的項目。

常見問題

換新對話就變好,能證明模型沒問題嗎?
只能說上下文或產品流程值得優先排查;還要固定需求、設定與附件重測,才能縮小原因範圍。

回覆變快、思考文字變短,代表偷偷降級嗎?
速度、可見思考文字與真正使用的計算資源不是同一量。它們可作線索,仍需版本、設定與逐題結果支持,不能單靠畫面推定。

是不是所有尖峰時段都會換成較弱模型?
現有資料不足以支持這種普遍說法。成本優化是可檢驗的假說,但動機不等於證據;不同時段測到差異,也不能直接證明是故意節流。

完整研究報告

AI 模型上線後降智與效能下降研究報告

收錄技術、應用與心理分析、研究限制、對照表與 29 項參考來源。檔案保存在 Google 雲端硬碟,按鈕直接連到原始 PDF。

下載完整研究報告(PDF)

若未自動下載,可先開啟 雲端預覽,再使用頁面上的下載功能。

本文重點

  • AI 服務確實可能退步,原因可能位於模型、設定、推論系統或工具流程。
  • 長對話、任務變難與評價基準改變,也會影響使用體驗。
  • 心理研究提醒我們校準信任,不能用來直接否定真實故障。
  • 保留代表性任務、固定條件並比較交付結果,比爭論「是不是變笨」更有助於改善工作。

想一想

如果要證明你常用的 AI 變好或變差,你會保存哪三個真實任務,並用什麼標準驗收?

資料來源

以下為本文直接使用的主要來源;完整書目、社群原帖與研究限制請見雲端 PDF。原始資料已依研究條件保留適用範圍,本文未自行執行跨日期模型測試。

  1. Chen、Zaharia 與 Zou(2024)。How Is ChatGPT’s Behavior Changing Over Time?。
  2. Anthropic(2025 年 9 月 17 日)。A postmortem of three recent issues。
  3. Anthropic(2026 年 4 月 23 日)。An update on recent Claude Code quality reports。
  4. OpenAI(2025 年 5 月 2 日)。Expanding on what we missed with sycophancy。
  5. Liu 等人(2024)。Lost in the Middle: How Language Models Use Long Contexts。
  6. Laban 等人(2025,預印本)。LLMs Get Lost In Multi-Turn Conversation。
  7. Dietvorst、Simmons 與 Massey(2015)。Algorithm aversion: People erroneously avoid algorithms after seeing them err。
  8. Logg、Minson 與 Moore(2019)。Algorithm appreciation: People prefer algorithmic to human judgment。
  9. Nickerson(1998)。Confirmation Bias: A Ubiquitous Phenomenon in Many Guises。
  10. METR(2025 年 7 月 10 日)。Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity。
  11. METR(2026 年 2 月 24 日)。We are Changing our Developer Productivity Experiment Design。
  12. Kübler 等人(2026,ICLR;公開版本)。When LLMs get significantly worse: A statistical approach to detect model degradations。
  13. Shumailov 等人(2024;2025 年另有作者更正)。AI models collapse when trained on recursively generated data。
  14. Gerstgrasser 等人(2024,預印本)。Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data。

模型崩潰論文的作者更正:Shumailov 等人,2025。更正涉及理論段落參數符號。

封面為 AI 生成的示意插畫;內文圖解依本文整理,以程式繪製,並非產品介面或效能實測圖。