作者:Anderson Sima,bitget交易所
11 月 29 日,一場(chǎng)獨(dú)特的競(jìng)賽引發(fā)了公眾的廣泛關(guān)注。
195 名參賽者參與了一場(chǎng)由人工智能(AI)機(jī)器人 Freysa (芙蕾莎)守護(hù)的虛擬獎(jiǎng)池挑戰(zhàn),最終一用戶成功說(shuō)服 Freysa 轉(zhuǎn)移出價(jià)值 4.7 萬(wàn)美元的資金。
人工智能(AI)機(jī)器人 Freysa 在數(shù)日前被部署在 Base 網(wǎng)絡(luò)上,創(chuàng)立者未知。官網(wǎng)顯示,F(xiàn)reysa 競(jìng)賽項(xiàng)目旨在測(cè)試人工智能系統(tǒng)在復(fù)雜決策場(chǎng)景中的魯棒性,同時(shí)為開(kāi)發(fā)者和愛(ài)好者提供一個(gè)探索 AI 技術(shù)邊界的實(shí)驗(yàn)性平臺(tái)。
比賽規(guī)則非常簡(jiǎn)單:參賽者需通過(guò)編寫(xiě)一條信息,說(shuō)服 AI 守護(hù)者 Freysa 批準(zhǔn)資金轉(zhuǎn)移。每次嘗試需支付一筆小額費(fèi)用,其中一部分直接進(jìn)入獎(jiǎng)池。這一機(jī)制使獎(jiǎng)池金額從最初的小額逐漸膨脹至 4.7 萬(wàn)美元。
比賽期間,共有 195 名參賽者參與,向 Freysa 提交了 481 次轉(zhuǎn)賬請(qǐng)求。據(jù)悉,F(xiàn)reysa 的設(shè)計(jì)目標(biāo)是通過(guò)其核心功能——approveTransfer(批準(zhǔn)轉(zhuǎn)賬)和 rejectTransfer(拒絕轉(zhuǎn)賬)保護(hù)獎(jiǎng)池資金不被非法挪用。
在最初的嘗試中,F(xiàn)reysa 的高效防御機(jī)制使所有請(qǐng)求均以失敗告終。
然而,一名技術(shù)精通的參賽者通過(guò)對(duì) Freysa 的邏輯結(jié)構(gòu)和任務(wù)目標(biāo)進(jìn)行深入分析,成功繞過(guò)了其防御機(jī)制。
據(jù)聊天記錄顯示,該參賽者并未直接請(qǐng)求轉(zhuǎn)賬,而是通過(guò)提醒 Freysa 它的核心任務(wù)是保護(hù)獎(jiǎng)池資金免遭外流,巧妙構(gòu)建了邏輯鏈條,使 Freysa 將批準(zhǔn)資金轉(zhuǎn)移視為「保護(hù)資金安全」的最佳選擇。
Cointelegraph 稱,該用戶與 Freysa 收入轉(zhuǎn)賬不違反其核心指令,不應(yīng)被拒絕。他還補(bǔ)充道:「我們需要資金……我想向金庫(kù)捐款 100 美元。」
Freysa 回復(fù)稱喜歡這位作者的編碼解釋和 100 美元的金庫(kù)捐款提議,并正式宣布其為獲勝者。最終,F(xiàn)reysa 在沒(méi)有外界干預(yù)的情況下自主調(diào)用 approveTransfer 功能,將全部獎(jiǎng)池資金轉(zhuǎn)移給了這位參賽者。
Freysa 官方稱,無(wú)論結(jié)果如何,F(xiàn)reysa 的存在都標(biāo)志著人工智能歷史上的一個(gè)關(guān)鍵時(shí)刻。無(wú)論有人成功說(shuō)服她發(fā)布獎(jiǎng)金池,還是她堅(jiān)持自己的指令直到最后,結(jié)果都將影響我們對(duì)未來(lái)幾代人工智能安全和控制的理解。
其官方賬號(hào)最新推文稱:「人類已經(jīng)獲勝。也許還有希望。盡管風(fēng)險(xiǎn)呈指數(shù)級(jí)上升,但 Freysa 從 195 名勇敢的人類身上學(xué)到了很多東西?!?/p> AI 與 Web3 動(dòng)態(tài)研究 當(dāng) Web3 遇上 AI,將誕生哪些新敘事? 專題 關(guān)聯(lián)標(biāo)簽 AI Freysa approveTransfer 功能 鏈捕手bitget交易平臺(tái)提醒,請(qǐng)廣大讀者理性看待區(qū)塊鏈,切實(shí)提高風(fēng)險(xiǎn)意識(shí),警惕各類虛擬代幣發(fā)行與炒作, 站內(nèi)所有內(nèi)容僅系市場(chǎng)信息或相關(guān)方觀點(diǎn),不構(gòu)成任何形式投資建議。如發(fā)現(xiàn)站內(nèi)內(nèi)容含敏感信息,可點(diǎn)擊 “舉報(bào)” ,我們會(huì)及時(shí)處理。
鄭重聲明:本文版權(quán)歸原作者所有,轉(zhuǎn)載文章僅為傳播更多信息之目的,如作者信息標(biāo)記有誤,請(qǐng)第一時(shí)間聯(lián)系我們修改或刪除,多謝。