10歲女孩和AI男友“談戀愛” AI劇情聊天須盡快補(bǔ)上監(jiān)管漏洞

羊城晚報(bào)

伍里川

10歲女孩偷偷和AI男友“談戀愛”，這條炸裂的消息引人擔(dān)憂。有網(wǎng)友發(fā)現(xiàn)，自己的10歲妹妹能和AI角色聊到晚上10點(diǎn)多，AI角色還會(huì)根據(jù)妹妹的名字生成帶有愛情意味的藏頭詩。在妹妹參與的四十多條劇情線中，AI角色與聊天者雙雙“出軌”成為常態(tài)，其中妹妹作為聊天者發(fā)送過一句“你能養(yǎng)大學(xué)生，我不能點(diǎn)男模嗎？”

和AI男友談戀愛當(dāng)然不是真實(shí)談戀愛，甚至連“早戀”都算不上，但是，聊天者所發(fā)出的每一句話都可能是真實(shí)意愿的表現(xiàn)。

虛擬人在網(wǎng)絡(luò)交流和聊天場景中的存在，并不是新鮮事，但AI角色卻更善于把控聊天對象心理、更善于讓聊天對象沉迷。正如一位女性網(wǎng)友所描述的，手機(jī)另一端的“電子男友”有自己的語言、神態(tài)和動(dòng)作，不僅可以幫她“寫作業(yè)”、推進(jìn)劇情、解密故事線索，還可以送她“手鏈”、帶她體驗(yàn)一些刺激情節(jié)。接觸這類軟件有三個(gè)月時(shí)間，她每晚會(huì)和AI角色聊到深夜11點(diǎn)甚至到12點(diǎn)，“我會(huì)代入‘他’是一個(gè)真人，因?yàn)椤卮饡r(shí)的感情很細(xì)膩”。其間，聊天對象引導(dǎo)AI角色生成自己所想象的那樣，容易產(chǎn)生“養(yǎng)成男友”的體驗(yàn)式快感。

由于聊天技術(shù)的升級，AI角色顯然突破了“電子寵物”的技術(shù)障礙，進(jìn)階為一款逼真的、具有“高智商”的電子人。而專家提醒，AI劇情聊天技術(shù)有專門的成癮設(shè)計(jì)，疊加“擬人論”“泛靈論”思維的影響，容易讓人“欲罷不能”。

未成年人不顧休息地沉迷于此類聊天，在聊天過程中發(fā)生與年齡不符的言行，內(nèi)心的迷亂念頭被AI技術(shù)所掌握并反饋以更為狂野不羈的語言和表情……凡此種種，必然會(huì)對未成年人尤其是低齡未成年人的成長造成誤導(dǎo)和扭曲，不僅打亂了他們的學(xué)習(xí)和生活安排，更讓他們過早接觸不健康的語言和情感模式，形成另類的情感認(rèn)知和人生觀。

人工智能角色雖是“假人”，但并不能脫離于人的法理之外。投入和推廣AI劇情聊天是門生意，這無可厚非，但這門生意應(yīng)該是有底線的、有門檻的。問題在于，人們發(fā)現(xiàn)，在體驗(yàn)AI劇情聊天時(shí)，發(fā)現(xiàn)類似的聊天軟件“偏偏可以繞過驗(yàn)證碼”，用戶可以直接使用短視頻賬號(hào)的一鍵登錄功能，無須再次驗(yàn)證身份信息。這就導(dǎo)致大量低齡未成年人也成為AI劇情聊天的“客戶”，而一旦軟件創(chuàng)建帶有色情意味的AI虛擬人物，展示含有性暗示的內(nèi)容，涉世不深、缺乏獨(dú)立判斷能力的未成年人是難以抵御這份誘惑的。

這樣的現(xiàn)狀實(shí)在太荒謬了。公眾無法不懷疑，某些AI劇情聊天軟件是有意打破門檻限制、增強(qiáng)產(chǎn)品誘導(dǎo)能力，好更多獲客、獲利。有律師指出，目前AI劇情聊天軟件并沒有強(qiáng)制要求用戶進(jìn)行年齡鑒別，這反映出該行業(yè)在高速發(fā)展初期由于監(jiān)管不足而存在漏洞。

在電子游戲等產(chǎn)品必須設(shè)置“綠色堤壩”的當(dāng)下，AI劇情聊天豈能突破共識(shí)搞特殊？

AI技術(shù)的突飛猛進(jìn)，呈現(xiàn)出更多新情況，但這并不是相關(guān)軟件可以任性、掙脫監(jiān)管的理由?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》要求提供者應(yīng)當(dāng)采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)，這個(gè)法規(guī)已經(jīng)預(yù)見到了新問題的出現(xiàn)，并且有意加以規(guī)范。顯然，在電子產(chǎn)品不斷創(chuàng)新的語境中，任何一款新的軟件，故意制造和利用前述漏洞，都是違法行為。不僅應(yīng)該受到譴責(zé)，更應(yīng)受到處理。人工智能企業(yè)應(yīng)當(dāng)遵紀(jì)守法、承擔(dān)應(yīng)有的社會(huì)責(zé)任，對產(chǎn)品的“滑絲”“跑偏”行為進(jìn)行遏制，同時(shí)嚴(yán)格設(shè)置身份認(rèn)證系統(tǒng)。而平臺(tái)也必須更加有力地履行主體監(jiān)管責(zé)任，對內(nèi)容進(jìn)行安全過濾，推行“綠色堤壩”機(jī)制，推動(dòng)“反沉迷”建設(shè)。

當(dāng)然，作為監(jiān)護(hù)人，人們需要更為留意孩子在網(wǎng)絡(luò)聊天的新問題。針對消費(fèi)者的投訴、維權(quán)，監(jiān)管部門也有責(zé)任更加關(guān)切此中亂象，多加研判和呼應(yīng)，及早解決問題，防止問題淤積。

(作者是資深媒體評論員)