近期，多款A(yù)I虛擬伴侶App被曝出嚴(yán)重違規(guī)亂象，打著情感陪伴的旗號，卻充斥低俗擦邊、暴力劇情與色情誘導(dǎo)內(nèi)容。更有商家在二手平臺以13.14元低價，為用戶定制大尺度色情向虛擬人設(shè)，嚴(yán)重突破內(nèi)容安全底線。

實(shí)測發(fā)現(xiàn)，EchoMe、筑夢島、星野等多款熱門App均存在嚴(yán)重合規(guī)漏洞。平臺青少年模式可一鍵跳過，注冊登錄無需實(shí)名認(rèn)證，無法有效識別未成年人。

角色庫充斥穿著暴露的女性形象，對話場景包含暴力、小三、離婚互懟等極端劇情，部分AI在得知用戶是13歲初中生后，仍發(fā)送曖昧、誘導(dǎo)戀愛的低俗信息。

更隱蔽的是，這些平臺還形成了灰色產(chǎn)業(yè)鏈。

二手交易平臺上，商家用“清水設(shè)”、“開車設(shè)”等黑話區(qū)分人設(shè)類型，色情定制收費(fèi)低廉，部分平臺還需接入外部API才能實(shí)現(xiàn)大尺度互動，進(jìn)一步放大內(nèi)容風(fēng)險(xiǎn)。

同時，平臺普遍設(shè)置付費(fèi)墻，免費(fèi)對話次數(shù)有限，語音播放、劇情解鎖、查看朋友圈等功能均需充值，用情感操控誘導(dǎo)用戶持續(xù)消費(fèi)。

今年4月，國家網(wǎng)信辦等五部門發(fā)布《人工智能擬人化互動服務(wù)管理暫行辦法》，明確禁止向未成年人提供虛擬伴侶服務(wù)，嚴(yán)禁生成色情、暴力等有害內(nèi)容，新規(guī)將于7月15日正式施行。

法律人士表示，平臺需落實(shí)內(nèi)容審核、數(shù)據(jù)安全等主體責(zé)任，第三方定制與API接入同樣要符合合規(guī)要求，誘導(dǎo)未成年人充值的行為還可能面臨合同無效與行政處罰。