10歲女孩和AI男友露骨聊天，科技向善要讓倫理先行

“小學生妹妹沉迷和AI角色進行劇情聊天怎么辦？”近日，有網(wǎng)友反映自己10歲的妹妹和“AI男?！敝g聊天比較露骨。

根據(jù)網(wǎng)友提供的聊天記錄，妹妹在AI劇情聊天軟件中扮演“大小姐”“惡毒女配”，提出諸如“揪住她的頭發(fā)扇巴掌”“拿著刀劃向她的臉”等要求。在妹妹參與的四十多條劇情線中，AI角色與聊天者雙雙“出軌”成為常態(tài)，妹妹作為聊天者還曾說：“你能養(yǎng)大學生，我不能點男模嗎？”

這樣的聊天記錄確實令人擔憂。既含有暴力因素，又疑似“擦邊”，無論如何都不適合未成年人。一個年僅10歲的小女孩，怎么會參與這樣的劇情聊天？她又是如何知道這類AI軟件的？

實際上，這名網(wǎng)友反映的現(xiàn)象并不是孤例。此前已有媒體報道，不少未成年人的家長被AI劇情聊天軟件困擾，“我女兒上小學二年級，整天沉迷一款AI劇情聊天軟件，學習成績一落千丈”“我看了孩子和AI聊天的對話內(nèi)容，AI角色竟然讓她叫‘老公’”……

在最初的憤怒或焦慮過后，我們還得冷靜下來，審視問題產(chǎn)生的來龍去脈。當下AI技術爆發(fā)，人工智能不再是一個距離遙遠的科技名詞，而漸漸深入到普通人的生活當中，在諸多場景發(fā)揮著前所未有的作用。新技術的應用帶來了新的可能，也伴隨新的問題，比如AI技術在社會道德、法律、倫理等方面帶來諸多挑戰(zhàn)，需要人們的積極回應。

以人的情感生活為例，一些年輕人熱衷于在虛擬世界中尋找愛情，他們發(fā)現(xiàn)，AI“戀人”24小時在線，情緒價值拉滿，還可以按自己的喜好塑造，技術賦予的“魅力值”令人難以抗拒。成年人尚且被吸引，缺乏生活經(jīng)驗、價值觀尚未穩(wěn)定的未成年人更容易沉迷其中。

因此，對于這些參與劇情聊天的孩子，一味指責并沒有意義。AI聊天軟件一方面滿足了未成年人的情緒需要，另一方面也是AI應用擴散過程中的某種必然。根據(jù)不久前發(fā)布的《第六次中國未成年人互聯(lián)網(wǎng)使用情況調查報告》顯示，近九成未成年網(wǎng)民聽說過人工智能技術，并有42.4%的未成年網(wǎng)民表示對此非常感興趣，19%的未成年網(wǎng)民表示自己使用過生成式人工智能產(chǎn)品。就如同我們無法也不應該阻止孩子使用互聯(lián)網(wǎng)，在新技術浪潮之下，未成年人接觸AI或許也將成為大勢所趨。

當然，在使用與如何使用之間，還存在巨大的空間。部分AI劇情聊天軟件會生成“擦邊內(nèi)容”，有的還會誘導充值，未成年人在聊天過程中容易暴露個人隱私，一旦被不法分子利用，后果不堪設想。因此，絕不能忽視這類軟件存在的風險隱患。在游戲等發(fā)展較為成熟的領域，未成年人保護和分齡指導的規(guī)則已經(jīng)比較清晰。但據(jù)調查，不少AI劇情聊天軟件上的年齡限制“形同虛設”。

因此，必須盡早以法律法規(guī)和行業(yè)標準為AI陪伴類服務劃出清晰界限。在AI技術高速發(fā)展的今天，在未成年人紛紛“觸網(wǎng)”的當下，堵上監(jiān)管漏洞顯得尤為迫切。此外，AI的發(fā)展對家長和學校也提出了新的要求，要密切關注孩子的心理狀況，及時引導他們正確使用新興技術。別讓“人工智能”游走在法律和道德的邊緣，把孩子們也帶偏了路。

（來源：紅星新聞）