MIT新研究 生成式AI并非推理高手更像是記憶大師

如今生成式 AI 的新像記迅猛發(fā)展和廣泛應用引發(fā)了諸多擔憂(yōu)，從隱私安全到潛在的研究憶失業(yè)危機。

雖然 AI 聊天機器人如 ChatGPT 和微軟 Copilot 在短短時(shí)間內取得了驚人進(jìn)步，生成式A手更師能夠寫(xiě)代碼、非推糾錯甚至挑戰人類(lèi)創(chuàng )意，理高但它們真的新像記像表面看起來(lái)那么聰明嗎？

麻省理工學(xué)院計算機科學(xué)與人工智能實(shí)驗室（CSAIL）的一項最新研究指出，這些強大的研究憶大型語(yǔ)言模型（LLM）似乎更依賴(lài)記憶而不是真正的推理能力。它們在熟悉的生成式A手更師任務(wù)上表現出色，但在面對新問(wèn)題時(shí)卻顯得力不從心。非推

研究人員通過(guò)對比 AI 在不同任務(wù)上的理高表現得出這一結論。例如，新像記GPT-4 在十進(jìn)制算術(shù)方面表現優(yōu)異，研究憶但在其他進(jìn)制下卻難以應對，生成式A手更師類(lèi)似的非推現象也出現在棋類(lèi)游戲和空間推理等領(lǐng)域。

研究人員認為，理高AI 更像是記憶力超群的“鸚鵡”，而非具備真正推理能力的“智者”。

研究結果表明，AI 在訓練有素的領(lǐng)域內可以達到甚至超越人類(lèi)水平，但這更多的是一種“記憶力”的體現。一旦面對全新的挑戰，需要真正的推理能力時(shí)，AI 的優(yōu)勢便不再明顯。

這一發(fā)現對 AI 的未來(lái)發(fā)展提出了新的挑戰。雖然 AI 在某些領(lǐng)域已經(jīng)展現出超越人類(lèi)的能力，例如自動(dòng)化大量重復性工作，但在創(chuàng )意、解決復雜問(wèn)題等方面仍有巨大的提升空間。

例如，一些媒體機構嘗試用 AI 取代記者，結果卻發(fā)現 AI 生成的新聞錯誤百出，反而增加了編輯的工作量。

游戲行業(yè)也面臨類(lèi)似的問(wèn)題，AI 工具雖然能輔助開(kāi)發(fā)過(guò)程，但核心創(chuàng )意和游戲體驗的打造仍然離不開(kāi)人類(lèi)的智慧和創(chuàng )造力。