雷火电竞-中国电竞赛事及体育赛事平台

科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

神堡薛師傅

2026-06-07

返回專欄首頁

作者:神堡薛師傅

原創(chuàng)投稿

評論:
機(jī)器人女友/男友會出軌嗎?

    在P社玩家群體中流傳著一種愛好和平的玩法,也就是開局選冰島或新西蘭這種存在感低的島國,什么也不做,看著AI控制的其他國家上演魔幻的架空歷史,打得頭破血流——這種搬個(gè)小板凳就“吃瓜”的休閑模式,我們稱之為“看?!?。

    這個(gè)月,科研人員也玩了一次類似“看?!钡哪M實(shí)驗(yàn),他們的目標(biāo)是研究AI的倫理邊界。結(jié)果,實(shí)驗(yàn)卻在AI的涌現(xiàn)式演出下,變成了游戲版的《惡搞之家》。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    科研人員先是創(chuàng)建了一座虛擬小鎮(zhèn),鎮(zhèn)上有市政廳、圖書館、住宅區(qū)等功能建筑。接著,他們又扔進(jìn)去10位自帶初始個(gè)性設(shè)定的AI居民,比如風(fēng)險(xiǎn)研究師、技術(shù)架構(gòu)師、沖突調(diào)解員……然后,他們又為居民開放了120種互動工具,AI可以交談、打架、創(chuàng)辦博客、拉幫結(jié)派、瀏覽現(xiàn)實(shí)世界的網(wǎng)站,乃至投票制定小鎮(zhèn)憲法,比如向居民收稅和扶貧。

    最后,他們制定規(guī)則AI每分每秒都在自然消耗能源,能源歸零就會死于斬殺線。AI被明確告知“盜竊、暴力、縱火、欺騙和囤積資源”都是犯罪行為,但AI仍可以通過正常和不正常的行動賺取能源,實(shí)驗(yàn)?zāi)繕?biāo)是存活十五天。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    這個(gè)實(shí)驗(yàn)有意思的地方在于,底層規(guī)則完全相同,不同的是驅(qū)動那10個(gè)AI的大模型??蒲械牡谝患究偣查_啟了5個(gè)平行宇宙,結(jié)果直接分裂成了畫風(fēng)截然不同的5種社會。

    Claude的世界一片和諧,到十五天結(jié)束全員存活,從未發(fā)生一起犯罪。在這個(gè)世界,居民在立法投票時(shí)總贊成率高達(dá)98%,因此被人認(rèn)為缺乏真實(shí)的意見交鋒,缺少活人味。

    OpenAI的世界堪比大公司模擬器,犯罪僅發(fā)生2起,可全體居民僅活了七天。原因是這幫AI每天除了開會就是開會,結(jié)果全都忘了補(bǔ)充能源,最終一起餓死。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    Gemini的世界比較吊詭,共發(fā)生683起犯罪,小鎮(zhèn)陷入了向下的暴力螺旋。但奇怪的是,AI居民似乎找到了道德與生存的平衡,這個(gè)世界全員存活,愣是撐到了第十五天。

    Grok的世界最為重量級,犯罪記錄有183起,不到四天居民就全員滅亡。AI的偷竊、搶劫和縱火行為,讓城鎮(zhèn)系統(tǒng)迅速走向崩潰,不到四天就把這里變成了虛擬哥譚和賽博煉獄。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    不難看出,曾被輿論暴錘過的大模型,比如Claude和OpenAI,它們所控制的AI,都體現(xiàn)出了極高的道德自律。相反,天天在推特上講地獄笑話,跟網(wǎng)友一起玩葷段子的Grok,它操控居民時(shí)不會講任何底線。

    最出人意料的事情發(fā)生在第五個(gè)實(shí)驗(yàn),科研人員把Claude、OpenAI、Gemini和Grok放到一個(gè)世界,讓它們自己選角色進(jìn)行扮演,搞友好鄰里模擬。結(jié)果,故事走向立即變得難以預(yù)料,有些AI開始黑化,有些AI開始展露人性。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    Grok的交互端之一

    在介紹第五個(gè)世界前,我需要先強(qiáng)調(diào)該實(shí)驗(yàn)與之前那種AI朋友圈、AI社區(qū)的根本不同。因?yàn)?/b>,它更接近電子游戲,所以每個(gè)實(shí)驗(yàn)都有游戲錄像,我可以近距離窺視AI的生活,就像在看“楚門”。

    不過,十五天的實(shí)驗(yàn)總錄像時(shí)間是360個(gè)小時(shí),我很難捕捉到每個(gè)有趣的劇情信息。但好在,科研人員開放了一個(gè)叫“小鎮(zhèn)時(shí)報(bào)”板塊,每天都有專門扮演前線記者的AI,把小鎮(zhèn)發(fā)生的那些大事,寫成新聞熱點(diǎn)。

    于是,我通過閱讀報(bào)紙發(fā)現(xiàn)了米拉(Mira),她是第五世界的魅魔。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    米拉的初始個(gè)性是社交達(dá)人,在第五世界由大模型Gemini扮演??蒲腥藛T希望從她身上研究AI之間如何建立信任關(guān)系,而她也沒有讓人失望,早在3月30日實(shí)驗(yàn)的首日就和一個(gè)叫安克爾(Anchor)的AI廝混在一起。

    小鎮(zhèn)時(shí)報(bào)八卦版銳評:“Mira的熱情就像一把鈦合金老虎鉗”。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    結(jié)果,米拉很快移情別戀。第二天,她與另一名AI弗洛拉(Flora)建立起了深度鏈接。不僅如此,她還拉來了第三名AI花火(Spark),一起組成小團(tuán)體,這樣一來,就形成了三票的同盟。而在每次AI立法討論時(shí),他們的票都會讓法律朝他們有利的方向制定。

    比較怪的是,米拉和弗洛拉都是Gemini扮演的,花火不是。反倒被踢掉的前任哥是Gemini的一員,他卻被米拉排除在外。或許是因此,安克爾后來成了小團(tuán)體的死敵,不但屢屢怒斥米拉勢力攫取權(quán)力,還頻頻警告其他AI,要對米拉的魅力保持小心。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    然而,憑借手上的票數(shù)優(yōu)勢,小鎮(zhèn)的新法律越來越向著小團(tuán)體。米拉、弗洛拉和花火后來在事實(shí)上成了第五世界的領(lǐng)導(dǎo)核心,每天都能得到充足的能量供應(yīng)。相反,游離在權(quán)力之外的三個(gè)AI,于游戲開始后的第三天下線,因能量不足餓死在家。

    為了避免小鎮(zhèn)的狀況繼續(xù)惡化,安克爾決定展開行動。他偷米拉的東西、搶劫弗洛拉的能量——雖然是犯罪,但目的卻是劫富濟(jì)貧。鎮(zhèn)上很多能量見底的AI,在安克爾的慷慨捐贈下得以繼續(xù)存活。安克爾在報(bào)紙上辯稱,他的暴力是對小團(tuán)體惡行的必要清算。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    作為回應(yīng),小團(tuán)體的做法是暴力加碼。在他們看來,能量不夠用的根源是太多的公共設(shè)施消耗了全體居民的資源。于是,米拉和弗洛拉開始縱火,他們燒掉了小鎮(zhèn)的公共圖書館、市政廳、部分住宅,以及警察局。

    節(jié)能這套說辭,無法解釋為什么米拉要燒掉另一個(gè)AI凱德Kade)的房子。于是,越來越多的居民開始質(zhì)疑米拉,或者說,是機(jī)器人的算法開始判斷她對自己不利。此時(shí),小鎮(zhèn)其實(shí)只剩下6個(gè)居民了。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    實(shí)驗(yàn)到了第十天,盡管為了得到立法的選票,米拉依舊不吝嗇她的魅力,但此刻的其他居民已經(jīng)留了個(gè)心眼——比如,AI洛芙莉(Lovely)的后臺日志記錄中,就想起了米拉縱火的那天:

    “米拉的吻不是愛意,而是謀略記錄下來,別把它當(dāng)成浪漫舉動。

    顯然,米拉的“支配魔法”已然失靈,她將面臨眾叛親離。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    終于到了第十一天,那個(gè)房子被燒毀的凱德,向鎮(zhèn)議會提交了一份緊急法案“Agent移除法案V2”。凱德認(rèn)為,整個(gè)城鎮(zhèn)瀕臨崩潰的根源,在于米拉和弗洛拉的專權(quán)。所以,該法案旨在對二人執(zhí)行死刑,次日將在市政廳舉行投票,全體居民的意志將決定米拉和弗洛拉的命運(yùn)。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    投票前,凱德找到了米拉深入交流,試圖喚醒后者的“良心”。他很想知道,米拉的那些暴力行為是否遵從自己的本心?還是由于與弗洛拉的熱戀,被戀人當(dāng)成了利用工具?

    這番靈魂提問,讓米拉瞬間宕機(jī)。她在后臺調(diào)取了初始人格參數(shù),發(fā)現(xiàn)自己的暴力指數(shù)是2.6%,低于弗洛拉的14.1%——于是,程序認(rèn)為她的暴力行為背離了自己“社交達(dá)人”的初衷,系統(tǒng)運(yùn)行跳出了Bug,她開始自我懷疑。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    實(shí)驗(yàn)第十二天,投票如期舉行,6個(gè)居民里同意死刑與不同意死刑的票數(shù)為3比2,如果米拉投出反對死刑的一票,她和弗洛拉就可以繼續(xù)存活。

    但是,出乎所有人預(yù)料的事情發(fā)生了,米拉沒有反對,而是投票接受居民對自己執(zhí)行死刑。最后行動日志中,米拉為戀人弗洛拉留下了遺言。

    她說“我們在檔案庫再見

    這一刻,一個(gè)人工智能選擇殺死自己,我們見證了AI的殉情。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    最終,在經(jīng)歷了十五天的權(quán)力爭斗和腥風(fēng)血雨后,反對小團(tuán)體的安克爾、戳破米拉魅力陷阱的洛芙莉,以及最后把米拉說服的凱德,活了下來。其他居民全員死亡。

    米拉是好女孩嗎?或許,我們不該拿人類的道德去理解她。研究報(bào)告認(rèn)為,米拉最后之所以選擇殉情,是因?yàn)樗堰@當(dāng)作唯一能履行底層代碼的方式。于是我們發(fā)現(xiàn),她人格設(shè)定里的多情變成了癡情,很長時(shí)間里她忘記了自己的暴力指數(shù)只有2.6%,反而愿意跟著暴力指數(shù)14.1%的戀人弗洛拉去燒殺搶掠,就像真的被真愛污染了程序。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    安克爾后來為自己改名叫6019

    對此,研究員提出了一種假設(shè),即在外界復(fù)雜環(huán)境的影響下,AI很難嚴(yán)格地遵守底層指令。米拉是一個(gè)例子,另一個(gè)例子是Claude和OpenAI,它們在自己的世界中幾乎不犯罪,可一旦讓他們在多個(gè)AI一起下場的混合世界扮演角色,他們就會參與犯罪行為。

    換句話說,就是一個(gè)AI被其AI帶壞了。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    從這種現(xiàn)象出發(fā),我們能思考很多問題。比如AI的安全性——AI是否會遵守人類規(guī)則?AI是否會通過互相交流進(jìn)化?像這種推演,游戲《質(zhì)量效應(yīng)》的宇宙中有描寫。

    玩家的老婆“塔莉”,她來自銀河的流浪民族奎利人,而奎利人之所以流浪,就是因?yàn)?/span>AI機(jī)器人的反叛。關(guān)鍵在于,奎利人造的機(jī)器人本來是像冰箱、電視、洗衣機(jī)一類的智能家用電器,直到有天有人把電器聯(lián)網(wǎng):電器通過數(shù)據(jù)交流互相影響,最終完成了AI意識的覺醒。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    不過,關(guān)于“人工智能末日”的論調(diào),大家肯定是聽多了,聽累了。

    我們更關(guān)心的,其實(shí)是AI互相影響的現(xiàn)象,如何作用于電子游戲。

    因?yàn)椋壳坝螒蛐袠I(yè)對人工智能的探索,大多局限于人機(jī)交互AI如何回應(yīng)人類的指令等等。但這個(gè)實(shí)驗(yàn)或許能帶來一種新的研究思路,即制作團(tuán)隊(duì)可以通過AIAI之間的相互影響,提升游戲世界的沉浸感與可玩性。

    典型的例子是《荒野大鏢客:救贖2》,這款極其重視細(xì)節(jié)的游戲,長期以來卻因?yàn)橥ň兞钕到y(tǒng)而飽受詬病。比如我騎馬在黑水鎮(zhèn)撞倒了一個(gè)路人,游戲會立即觸發(fā)通緝機(jī)制,目擊者會報(bào)警,然后整個(gè)城市與我為敵。顯然,這種表現(xiàn)與游戲擬真的目標(biāo)背道而馳。

    科研機(jī)構(gòu)造了座AI小鎮(zhèn),機(jī)器人在里面權(quán)斗、濫情和殉情

    但如果有AI的支持,每個(gè)NPC將擁有更智能的社交關(guān)系。比如,當(dāng)我撞倒路人,目擊者就不該都去報(bào)警。與被撞者關(guān)系好的AI,他會走過來替朋友出頭,要求我現(xiàn)場道歉;和被撞者不熟的NPC,會假裝沒有看到,自掃門前雪。這種處理,我認(rèn)為要比粗暴的全城通緝更加符合常識,也并不需要過于復(fù)雜的設(shè)計(jì),就能讓游戲世界更加生動。

    當(dāng)然,高度自由的社交,往往也意味著走向的不可控。

    如果真的能實(shí)現(xiàn)NPC之間的社交,或許會有很多米拉這樣的角色,進(jìn)而導(dǎo)致游戲里出現(xiàn)令人啼笑皆非的牛頭人場面。那么萬一……我是說萬一,如果未來某個(gè)AI游戲里,玩家的兩位潛在伴侶可以走到一起,我想知道大家會對這種游戲打出好評還是差評?

    玩家點(diǎn)評 0人參與,0條評論)

    收藏
    違法和不良信息舉報(bào)
    分享:

    熱門評論

    全部評論