一系列圍繞X公司旗下AI工具Grok的事件在日本引發(fā)關(guān)注。部分日本中學(xué)生和大學(xué)生被發(fā)現(xiàn)，在未經(jīng)當(dāng)事人同意的情況下，利用Grok生成同學(xué)的性暗示或性化圖像，這一行為已引起廣泛不安，相關(guān)使用者也開始擔(dān)心可能面臨法律后果。

自2025年12月24日Grok上線圖像生成與編輯功能以來，社交平臺(tái)上陸續(xù)出現(xiàn)大量將現(xiàn)實(shí)中的人物生成成裸露或身著暴露內(nèi)衣的合成圖像，由此引發(fā)了多起受害者投訴。

1月6日，X公司發(fā)布警告稱，使用Grok制作性化篡改圖像的行為將被視為上傳違法內(nèi)容，可能導(dǎo)致賬號(hào)內(nèi)容刪除、永久封禁，并在必要時(shí)配合執(zhí)法機(jī)構(gòu)展開調(diào)查。

日本法律咨詢網(wǎng)站Bengoshi.com隨后出現(xiàn)了大量相關(guān)咨詢，提問者多為青少年和年輕用戶，他們表示此前并不清楚使用Grok可能帶來的法律風(fēng)險(xiǎn)。例如，有高中生坦言曾生成同班女生的裸露視頻，雖未傳播但擔(dān)心僅“制作”行為本身是否已構(gòu)成違法；也有人詢問，僅向AI下達(dá)將同學(xué)處理成內(nèi)衣形象的指令，是否會(huì)被認(rèn)定為制作色情內(nèi)容；還有大學(xué)生表示，盡管已刪除賬號(hào)和數(shù)據(jù)，但仍擔(dān)憂平臺(tái)是否會(huì)將相關(guān)信息提交給警方，甚至考慮主動(dòng)自首。

專攻互聯(lián)網(wǎng)法律的律師清水洋平指出，此類行為確實(shí)可能引發(fā)法律責(zé)任。他解釋稱，如果生成的圖像涉及裸露或明顯性暗示內(nèi)容，可能構(gòu)成對(duì)當(dāng)事人的名譽(yù)侵害或隱私權(quán)侵犯；在情節(jié)嚴(yán)重的情況下，甚至可能涉及刑事層面的誹謗罪或著作權(quán)侵權(quán)問題。

日本發(fā)生的這些事件，也被視為全球范圍內(nèi)針對(duì)Grok的爭(zhēng)議之一。批評(píng)者認(rèn)為，該工具在一定程度上降低了生成不當(dāng)內(nèi)容的門檻。多名向法律網(wǎng)站咨詢的用戶表示，直到看到X公司的正式警告后，才意識(shí)到行為的嚴(yán)重性。目前，他們最擔(dān)心的后果是刑事追責(zé)以及給家人帶來的社會(huì)影響。