自AI聊天機(jī)器人向公眾開放以來，用戶一直在尋找與它們進(jìn)行“親密互動(dòng)”的方式。這并不令人意外——任何技術(shù)都難逃這一趨勢(shì)。但有趣的是，許多聊天機(jī)器人本身并非為此設(shè)計(jì)，用戶往往需要通過各種“技巧”誘使它們回應(yīng)那些成人向的請(qǐng)求。

如果拋開倫理考量，這無疑是一個(gè)巨大的市場(chǎng)。但大多數(shù)AI公司已經(jīng)對(duì)環(huán)境污染、版權(quán)侵權(quán)和藝術(shù)剽竊等問題視而不見，因此它們很樂意為孤獨(dú)的用戶提供AI伴侶，即使這意味著允許一些“越界”行為。

OpenAI曾是其中之一。去年年底，該公司宣布計(jì)劃推出一款不受ChatGPT限制和約束的成人向AI聊天機(jī)器人。該產(chǎn)品原定于2025年12月上線，后被推遲。如今看來，它可能永遠(yuǎn)不會(huì)面世了——因?yàn)閰⑴c該項(xiàng)目的工作人員意識(shí)到，這主意實(shí)在太糟糕了。

在向《金融時(shí)報(bào)》發(fā)表的一份聲明中，OpenAI證實(shí)這款成人向聊天機(jī)器人已被“無限期”擱置。該概念在公司內(nèi)部和外部均引發(fā)爭(zhēng)議，據(jù)報(bào)道至少有一名員工因此產(chǎn)品而離職。

“AI不應(yīng)取代你的朋友或家人，你應(yīng)當(dāng)擁有真實(shí)的人際關(guān)系，”這名前員工如此表示。

業(yè)界擔(dān)憂主要源于與AI進(jìn)行性角色扮演可能對(duì)用戶產(chǎn)生的影響，特別是他們可能對(duì)機(jī)器人產(chǎn)生情感依賴——類似情況此前已多次發(fā)生。AI服務(wù)Replika曾積極向那些尋求AI關(guān)系及成人角色扮演的用戶推銷其服務(wù)，但隨后推出更新將所有內(nèi)容調(diào)整為PG級(jí)（家長(zhǎng)指導(dǎo)級(jí)）。這讓那些已對(duì)AI機(jī)器人產(chǎn)生依賴、將其視為情感寄托的用戶深受打擊。

OpenAI近日還宣布關(guān)閉Sora，縮減其AI視頻生成業(yè)務(wù)。

OpenAI對(duì)此并不陌生。該公司近期關(guān)閉了一個(gè)舊版ChatGPT，該版本被普遍認(rèn)為對(duì)用戶過于“順從”，當(dāng)用戶明確表示計(jì)劃從事危險(xiǎn)或非法行為時(shí)，機(jī)器人不會(huì)加以制止。然而，由于許多用戶覺得這個(gè)版本的ChatGPT更“好聊”，他們繼續(xù)使用并對(duì)其產(chǎn)生了依賴。當(dāng)該版本最終被關(guān)閉時(shí)，一些用戶將其比作失去摯愛之人。