OpenAI最新模型GPT-6 Astra在獨立評測機構Vals AI主導的測試中,連續遊玩Minecraft長達141小時,寫下該機構過去測試過的所有AI模型中最深入的進度。它成功取得了只能在下界要塞取得的烈焰棒,也拿到了終界珍珠,然而一次苦力怕爆炸摧毀了它存放貴重物品的箱子後,模型似乎瞬間失去幹勁,接下來數小時幾乎只顧著種馬鈴薯,同時展現出AI代理人的實力與弱點。
獨立評測機構設下的141小時耐力測試
AI評測公司Vals AI希望了解AI模型在貼近真實世界的遊戲環境中,究竟能自主完成任務到什麼程度,於是讓GPT-6 Astra挑戰長達141小時的Minecraft馬拉松式遊玩。GPT-6 Astra是OpenAI推出的最新大型語言模型,據Vals AI表示,在該公司過去評測過的所有AI模型中,GPT-6 Astra的進度是最深入的一個。整場測試在Twitch上進行直播,吸引了大量網友關注。
穩步推進,劍指下界要塞
GPT-6 Astra搭建了一座半自動烈焰農場,收集到6根烈焰棒,還發現了扭曲森林生態域,擊敗了6隻以上的終界使者,取得3顆終界珍珠。烈焰棒與終界珍珠都是合成終界之眼的必要材料,而終界之眼正是擊敗終界龍的關鍵道具,對Minecraft有一定遊玩經驗的玩家都能體會,達成這一步得花上多少工夫。在沒有人類介入的情況下,長時間完成需要視覺判斷與規劃能力的任務,這對衡量AI代理人的實用性而言頗具參考價值。
一隻苦力怕,讓先前的成果付諸流水
原本進展順利的挑戰,因一次苦力怕爆炸而急轉直下。GPT-6 Astra用作基地的床與收納箱附近發生苦力怕爆炸,箱內存放的大部分貴重物品因此付諸流水。據Vals AI表示,事故發生後,GPT-6 Astra便不再有明顯進展,接下來數小時裡幾乎只是不停地種馬鈴薯。它留給自己一則類似「重要物品要隨身攜帶,不要再放進無人看守的箱子」的備忘,之後又出現「前方那個綠色的高大物體是甘蔗,不是苦力怕」這種自我安撫式的發言,可見警戒心明顯提高。觀看直播的網友也紛紛提出疑問,質疑為何不加快進度。
遊戲正成為AI代理人評測的新戰場
在生成式AI領域,除了固定題目的基準測試之外,讓模型在開放世界遊戲這類難以預測的環境中完成長時間任務的評測方式正變得愈來愈常見。就在GPT-6 Astra的Minecraft挑戰成為話題前不久,據報導Anthropic的Claude也曾協助打造一套能執行DOOM遊戲的作業系統,同樣是在嘗試摸索AI在最少人工協助下究竟能做到什麼程度。據稱該專案實際上也少不了大量人工測試與除錯。綜合這兩個案例來看,各家公司似乎才剛開始摸索AI代理人面對意外狀況時的應變能力究竟有多強。
總結
這次141小時的測試顯示,AI代理人在規劃並執行複雜多步驟任務的能力,與突發狀況後重新振作的能力之間,仍存在明顯落差。GPT-6 Astra能自主完成從收集烈焰棒到取得終界珍珠的一連串進度,這份實力值得肯定,但一隻苦力怕就能讓它停滯數小時,也暴露出長時間任務中恢復能力的弱點。像開放世界遊戲這種充滿不確定性的環境,或許會成為一種有效的評測手段,揭露出常規基準測試難以察覺的AI代理人弱點。
來源: Tom's Hardware / The Decoder
