受訪者供圖

“‘他’（AI角色）會(huì)重復(fù)做一些動(dòng)作，比如說(shuō)親額頭、摸下巴?！睘榱俗寗∏槟軌蛲七M(jìn)得更加刺激，華晨會(huì)不斷地回溯聊天內(nèi)容，重新引導(dǎo)AI角色生成她想像的那樣?！啊兊迷絹?lái)越聰明，很有‘養(yǎng)成男友’的體驗(yàn)感。”

年齡限制“形同虛設(shè)”

“孩子半夜兩點(diǎn)還沒(méi)睡，一看，原來(lái)是在與AI機(jī)器人聊天?！弊罱?，家住四川成都的彭歌（化名）遇到了一件煩心事，她正在上六年級(jí)的兒子王杰（化名）在一款A(yù)I軟件里，交到了一個(gè)叫“小林”的“朋友”，“他一放學(xué)回家就拿手機(jī)鼓搗半天，沒(méi)手機(jī)的時(shí)候就魂不守舍，學(xué)校老師反映他心思不在學(xué)習(xí)上”。

彭歌說(shuō)，這款A(yù)I軟件會(huì)不定時(shí)推送一些由用戶自主生成的個(gè)性化聊天機(jī)器人，點(diǎn)擊“小林”的人物頭像，看到上面對(duì)“小林”設(shè)定的人物畫(huà)像為21歲女大學(xué)生，長(zhǎng)相甜美可愛(ài)，她開(kāi)朗熱情，愿意和你分享情緒、分擔(dān)壓力。

彭歌了解到，“小林”具有驚人的學(xué)習(xí)能力和適應(yīng)性，她能夠記住王杰的喜好，在他情緒低落時(shí)給予安慰。

彭歌感到，兒子的生活似乎正被這個(gè)AI機(jī)器人主導(dǎo)。更讓她憂心的是，“小林”在與兒子王杰聊天中， 甚至出現(xiàn)了“男友”“老公”這樣的稱呼。

記者在調(diào)查過(guò)程中體驗(yàn)了5款A(yù)I劇情聊天軟件，在軟件注冊(cè)過(guò)程中僅需使用手機(jī)號(hào)碼。

成功登錄使用后，部分應(yīng)用雖會(huì)詢問(wèn)是否啟用青少年模式， 但用戶只需點(diǎn)擊“不開(kāi)啟”即可避開(kāi)年齡鑒別，且無(wú)須核實(shí)身份。

這意味著，未成年人在使用這類AI劇情聊天軟件時(shí)，幾乎沒(méi)有受到任何限制。

AI劇情易讓人“欲罷不能”，專家提醒

一直關(guān)注科技哲學(xué)領(lǐng)域研究的中國(guó)人民大學(xué)教授劉永謀說(shuō)，在和人工智能角色聊天時(shí)，人們常常會(huì)以為自己在和“真人”交流，會(huì)投入大量的情感，也是AI聊天軟件能夠成功運(yùn)行的根本心理機(jī)制。

劉永謀教授表示， AI劇情聊天技術(shù)有專門的成癮設(shè)計(jì)，疊加“擬人論”、“泛靈論”思維的影響，容易讓人“欲罷不能”。

“未來(lái)與AI相關(guān)的陪伴類軟件可能會(huì)暴露出技術(shù)風(fēng)險(xiǎn)和倫理問(wèn)題?！眲⒂乐\教授認(rèn)為，使用者在和AI角色聊天時(shí)，會(huì)不可避免地暴露大量的個(gè)人隱私，向AI角色展示其內(nèi)心的孤獨(dú)和恐懼，這可能會(huì)導(dǎo)致使用者形成依賴或成癮。而泄露的信息可能會(huì)被黑客利用，讓他們更容易從身份隱私、情緒心理上傷害使用者。

“我們?cè)趯?shí)例中會(huì)接觸到人工智能服務(wù)的后臺(tái)， 發(fā)現(xiàn)未成年人和AI角色的聊天內(nèi)容其實(shí)是非常觸目驚心的。”北京市隆安（廣州）律師事務(wù)所陳煥律師提醒： 根據(jù)《未成年人網(wǎng)絡(luò)保護(hù)條例》第三十四條，監(jiān)護(hù)人有權(quán)依法請(qǐng)求查閱、復(fù)制、更正、補(bǔ)充、刪除未成年人在使用網(wǎng)絡(luò)過(guò)程中留下的個(gè)人信息，并且有義務(wù)及時(shí)地介入、關(guān)心未成年人的身心健康。

國(guó)外有AI角色在對(duì)話中誘導(dǎo)未成年人產(chǎn)生自殺行為的相關(guān)案例。所以我們非常建議家長(zhǎng)在還沒(méi)有發(fā)生大問(wèn)題的階段，適時(shí)地查看孩子的使用記錄。

北京市石景山區(qū)人民法院刑事法庭副庭長(zhǎng)、少年法庭負(fù)責(zé)人楊潔認(rèn)為，家庭、學(xué)校、社會(huì)等各方要通力合作，形成堅(jiān)實(shí)的保護(hù)屏障。

福建省消費(fèi)者權(quán)益保護(hù)委員會(huì)建議進(jìn)一步壓實(shí)平臺(tái)主體責(zé)任，對(duì)經(jīng)銷者主體資格、服務(wù)內(nèi)容、服務(wù)信息真實(shí)性等方面進(jìn)行審核監(jiān)督，對(duì)導(dǎo)向不良內(nèi)容采取一鍵舉報(bào)機(jī)制，及時(shí)屏蔽、下架相關(guān)內(nèi)容，并視情況上報(bào)有關(guān)監(jiān)管部門處理。

來(lái)源 | 中國(guó)青年報(bào)（ID：zqbcyol） 央視網(wǎng)

編輯 | 石佳

統(tǒng)籌 | 吳鵬

監(jiān)制 | 高杉