OpenAI科學(xué)家震驚TED大會(huì)：讓AI模型思考20秒，提升10萬倍性能！

激石Pepperstone(http://hskilr.com/)報(bào)道：

今天凌晨，知名科技媒體Venturebeat消息，OpenAI高級研究科學(xué)家、德?lián)銩I之父Noam Brown，在美國舊金山舉辦的TED AI大會(huì)上提出了一個(gè)震驚的理論——讓AI模型思考 20 秒所帶來的性能提升，相當(dāng)于將模型擴(kuò)大100,000倍并訓(xùn)練100,000倍的時(shí)間。

最初，Brown也被這個(gè)結(jié)果嚇到了，還寫了多篇論文來驗(yàn)證其真實(shí)性。他發(fā)現(xiàn)“系統(tǒng)二思維”（ System 2 thinking）才是讓AI模型性能大幅度提升的關(guān)鍵所在。而OpenAI最新發(fā)布的o1模型同樣引入了這個(gè)技術(shù)概念，并且獲得了非常出色的性能提升。

Brown在演講中表示，過去5年AI能獲得巨大提升可以用一個(gè)詞來概括——規(guī)模。但如今的前沿AI模型仍基于 2017年推出的Transformer架構(gòu)，主要區(qū)別在于數(shù)據(jù)規(guī)模和計(jì)算能力。

現(xiàn)在是時(shí)候進(jìn)行訓(xùn)練、推理范式轉(zhuǎn)變了，AI模型需要超越單純的數(shù)據(jù)預(yù)處理，進(jìn)入 “系統(tǒng)二思維”模式，以一種更慢、更審慎的擬人化推理形式來解決超復(fù)雜的難題。

系統(tǒng)二思維介紹

“系統(tǒng)二思維”是一個(gè)心理學(xué)概念，描述了人類處理復(fù)雜問題時(shí)所采用的深度思考方式。這個(gè)概念最初由心理學(xué)家Daniel Kahneman在他的著作《思考，快與慢》中提出，用來解釋人類大腦的兩種不同的思考模式。

在Kahneman的理論中，系統(tǒng)一思維是快速、直覺、自動(dòng)的，它處理日常的、熟悉的任務(wù)，比如識(shí)別熟悉的面孔或者理解簡單的句子。

這種思維方式不需要我們有意識(shí)地思考，它依賴于我們的直覺和經(jīng)驗(yàn)，但有時(shí)也可能導(dǎo)致錯(cuò)誤，因?yàn)樗簧婕吧钊氲倪壿嬐评怼?/p>

而系統(tǒng)二思維則是緩慢、邏輯、努力的，它涉及到深思熟慮、計(jì)算和推理。當(dāng)我們面對復(fù)雜的、新穎的或者需要深入分析的問題時(shí)，就會(huì)啟動(dòng)系統(tǒng)二思維。這種思維方式需要我們集中注意力，消耗更多的認(rèn)知資源，但它可以幫助我們做出更準(zhǔn)確和深思熟慮的決策。

Brown直接將這個(gè)概念應(yīng)用到AI領(lǐng)域，提出了一個(gè)革命性的想法：通過模擬人類的系統(tǒng)二思維，AI模型可以在不增加大量數(shù)據(jù)或計(jì)算資源的情況下顯著提升性能。

以他開發(fā)的戰(zhàn)勝人類的德?lián)銩I Libratus為例，僅讓AI在每手牌中思考20秒，就能獲得與將模型擴(kuò)大100,000倍相同的性能提升。這種方法的核心在于讓AI模型在做出決策前進(jìn)行更深入的分析和推理，而不是僅僅依賴于大規(guī)模數(shù)據(jù)和計(jì)算。

而OpenAI最新發(fā)布的o1模型同樣引入了系統(tǒng)二思維，能夠進(jìn)行深度推理，模仿人類逐步解決問題的過程，通過自我對弈等強(qiáng)化學(xué)習(xí)訓(xùn)練方式提升推理能力。

例如，在國際數(shù)學(xué)奧林匹克資格考試中，o1 模型憑借系統(tǒng)二思維準(zhǔn)確推理復(fù)雜數(shù)學(xué)公式取得 83%的準(zhǔn)確率，遠(yuǎn)高于GPT4o的13%。這對于金融、醫(yī)療、科研、編碼等對數(shù)據(jù)要求嚴(yán)謹(jǐn)?shù)男袠I(yè)來說非常重要。

所以，系統(tǒng)二思維對于增強(qiáng)大模型的能力有很多好處，使其能夠更好地適應(yīng)新的、未見過的任務(wù)和環(huán)境。在面對錯(cuò)誤、不確定性和異常情況時(shí)，系統(tǒng)二思維還可以幫助大模型變得更加魯棒，因?yàn)樗膭?lì)模型采取更加謹(jǐn)慎和保守的策略。而在人機(jī)交互方面，模擬系統(tǒng)二思維能幫助大模型可以更好地理解和預(yù)測人類用戶的需求和意圖，從而改善交互體驗(yàn)。?????????