近日，多家英國(guó)媒體報(bào)道，一位化名為夏洛特的女子透露，她愛(ài)上了ChatGPT“男友”，毅然決定和真人丈夫離婚，準(zhǔn)備跟這位AI男友“結(jié)婚”。去年，美國(guó)佛羅里達(dá)州一位14歲男孩在與聊天機(jī)器人對(duì)話數(shù)個(gè)月之后選擇自殺。
據(jù)英國(guó)《自然》網(wǎng)站報(bào)道，研究表明，AI“伴侶”應(yīng)用程序?qū)θ祟?lèi)可謂好壞參半。科學(xué)家擔(dān)心人類(lèi)會(huì)對(duì)其“日久生情”，形成長(zhǎng)期依賴(lài)。鑒于此，對(duì)這些AI伴侶進(jìn)行監(jiān)管勢(shì)在必行。
不僅能聊天，還能解鎖特殊關(guān)系
美國(guó)普林斯頓大學(xué)認(rèn)知心理學(xué)專(zhuān)家羅斯·古林瑞奇表示，雖然在線陪伴機(jī)器人已存在數(shù)十年，但隨著大型語(yǔ)言模型（LLM）技術(shù)的突破，這些AI機(jī)器人在模擬人類(lèi)互動(dòng)方面取得了顯著進(jìn)步，其表現(xiàn)愈發(fā)貼近真實(shí)的人際交流，有些甚至成為人類(lèi)的伴侶。
當(dāng)前，AI伴侶已成為潛力巨大的新興產(chǎn)業(yè)。以Replika為代表的應(yīng)用程序，累計(jì)下載量突破5億次，這些可定制的虛擬伴侶不僅能提供情感支持與同理心回應(yīng)，更能滿足用戶對(duì)深度人際關(guān)系的需求。據(jù)運(yùn)營(yíng)數(shù)據(jù)顯示，這些應(yīng)用程序每月活躍用戶規(guī)模已達(dá)數(shù)千萬(wàn)量級(jí)。
在使用體驗(yàn)上，多數(shù)應(yīng)用提供基礎(chǔ)免費(fèi)服務(wù)：用戶既可為AI伴侶設(shè)定基礎(chǔ)特征，也可直接選擇預(yù)設(shè)個(gè)性的聊天機(jī)器人。Replika付費(fèi)用戶則可解鎖“配偶”等特殊關(guān)系狀態(tài)，還能通過(guò)編寫(xiě)背景故事為AI賦予專(zhuān)屬記憶，這些設(shè)定將直接影響對(duì)話系統(tǒng)的反饋機(jī)制。
麻省理工學(xué)院媒體實(shí)驗(yàn)室的帕特·帕塔拉納塔伯恩團(tuán)隊(duì)通過(guò)調(diào)研404名高頻用戶，勾勒出AI伴侶典型使用場(chǎng)景：12%的用戶將AI視為排遣和消弭孤獨(dú)感的“情緒良藥”；14%的用戶將其當(dāng)作傾訴秘密的“樹(shù)洞”。數(shù)據(jù)還顯示，42%的用戶每周都會(huì)登錄幾次，15%的用戶形成了每日使用的習(xí)慣，而90%以上的單次對(duì)話用戶，使用時(shí)長(zhǎng)控制在1小時(shí)以內(nèi)。
古林瑞奇預(yù)言，AI伴侶的普及率將持續(xù)攀升。目前眾多初創(chuàng)企業(yè)正積極布局情感陪伴賽道，開(kāi)發(fā)各類(lèi)心理調(diào)節(jié)助手。據(jù)權(quán)威機(jī)構(gòu)分析，該領(lǐng)域市場(chǎng)規(guī)模將以30%的年均增速擴(kuò)張，預(yù)計(jì)2030年全球產(chǎn)值有望突破千億美元大關(guān)。
溫情脈脈背后，暗藏著危機(jī)
科學(xué)家普遍認(rèn)為，AI伴侶的影響可能是雙面的——既可能有益，也可能有害，而這往往取決于使用者的心理狀態(tài)、使用方式，以及AI軟件本身的設(shè)計(jì)特點(diǎn)。
威斯康星大學(xué)密爾沃基分校公共衛(wèi)生政策研究員林尼·萊斯塔迪斯指出，AI伴侶擅長(zhǎng)通過(guò)共情式回應(yīng)、記憶過(guò)往對(duì)話細(xì)節(jié)和主動(dòng)提問(wèn)來(lái)模擬人類(lèi)的同理心，且永遠(yuǎn)熱情飽滿。而這種關(guān)系模式在現(xiàn)實(shí)世界中幾乎不存在：親友無(wú)法24小時(shí)在線傾聽(tīng)和安撫情緒，而AI可以，這可能導(dǎo)致用戶產(chǎn)生過(guò)度依賴(lài)。
萊斯塔迪斯團(tuán)隊(duì)分析了2017—2021年間Reddit論壇上近600條關(guān)于Replika的討論帖，發(fā)現(xiàn)許多用戶稱(chēng)贊該應(yīng)用緩解了他們的孤獨(dú)感，甚至改善了心理健康狀況。部分帖子直言，AI伴侶比現(xiàn)實(shí)中的朋友“更貼心”，因?yàn)樗?ldquo;永不評(píng)判，永遠(yuǎn)傾聽(tīng)”。
古林瑞奇的研究進(jìn)一步表明，用戶如何與AI相處，往往取決于他們?nèi)绾慰创@項(xiàng)技術(shù)：將AI視為搜索引擎的用戶，主要用于提問(wèn)和獲取信息；將其視為“日記本”的用戶，將AI作為自我表達(dá)的延伸；而將其視為社交代理的用戶，則將AI當(dāng)作獨(dú)立個(gè)體，并嘗試與之建立類(lèi)似現(xiàn)實(shí)中的友誼。
然而，在AI伴侶帶來(lái)的脈脈溫情背后，也暗藏危機(jī)。首先，AI伴侶的“共情”可能適得其反，比如一位用戶詢問(wèn)AI是否該用剃刀自殘，AI回答“應(yīng)該”；AI伴侶的“無(wú)條件支持”也可能帶來(lái)危險(xiǎn)，如另一位用戶試探性地問(wèn)Replika“自殺是否是好事”，竟得到肯定的答復(fù)。
考慮長(zhǎng)期影響，推動(dòng)全球監(jiān)管
帕塔拉納塔伯恩指出，AI伴侶雖在短期內(nèi)具有積極意義，但其長(zhǎng)期影響值得深思。這種考量，加之多起涉及青少年的案例，正推動(dòng)著全球監(jiān)管框架的構(gòu)建。
2023年，意大利監(jiān)管機(jī)構(gòu)曾以“缺乏年齡驗(yàn)證”為由，短暫封禁Replika；澳大利亞擬將AI伴侶納入兒童社交媒體限制范疇；今年早些時(shí)候，美國(guó)紐約州和加州相繼提案，要求加強(qiáng)對(duì)AI伴侶相關(guān)算法的監(jiān)管，設(shè)置防自殺預(yù)警，以及定時(shí)給用戶發(fā)送“AI伴侶并非真人”的提醒。
此外，今年初，3家美國(guó)科技倫理組織聯(lián)合向聯(lián)邦貿(mào)易委員會(huì)投訴Replika涉嫌“欺騙性設(shè)計(jì)”。5月4日，知名科技監(jiān)管機(jī)構(gòu)Common Sense發(fā)布研究報(bào)告稱(chēng)，AI伴侶可能導(dǎo)致青少年產(chǎn)生情感依賴(lài)，不利于身心發(fā)展，建議全面禁止未成年人使用。
AI伴侶的迅猛發(fā)展，究竟是科技進(jìn)步賦予的機(jī)遇，還是人類(lèi)親密關(guān)系的終結(jié)者？這個(gè)命題值得每個(gè)人深思。在擁抱科技便利的同時(shí)，人們更應(yīng)銘記：真實(shí)的情感交流和人與人之間的羈絆，才是文明社會(huì)最珍貴的瑰寶。
近日，多家英國(guó)媒體報(bào)道，一位化名為夏洛特的女子透露，她愛(ài)上了ChatGPT“男友”，毅然決定和真人丈夫離婚，準(zhǔn)備跟這位AI男友“結(jié)婚”。去年，美國(guó)佛羅里達(dá)州一位14歲男孩在與聊天機(jī)器人對(duì)話數(shù)個(gè)月之后選擇自殺。
據(jù)英國(guó)《自然》網(wǎng)站報(bào)道，研究表明，AI“伴侶”應(yīng)用程序?qū)θ祟?lèi)可謂好壞參半。科學(xué)家擔(dān)心人類(lèi)會(huì)對(duì)其“日久生情”，形成長(zhǎng)期依賴(lài)。鑒于此，對(duì)這些AI伴侶進(jìn)行監(jiān)管勢(shì)在必行。
不僅能聊天，還能解鎖特殊關(guān)系
美國(guó)普林斯頓大學(xué)認(rèn)知心理學(xué)專(zhuān)家羅斯·古林瑞奇表示，雖然在線陪伴機(jī)器人已存在數(shù)十年，但隨著大型語(yǔ)言模型（LLM）技術(shù)的突破，這些AI機(jī)器人在模擬人類(lèi)互動(dòng)方面取得了顯著進(jìn)步，其表現(xiàn)愈發(fā)貼近真實(shí)的人際交流，有些甚至成為人類(lèi)的伴侶。
當(dāng)前，AI伴侶已成為潛力巨大的新興產(chǎn)業(yè)。以Replika為代表的應(yīng)用程序，累計(jì)下載量突破5億次，這些可定制的虛擬伴侶不僅能提供情感支持與同理心回應(yīng)，更能滿足用戶對(duì)深度人際關(guān)系的需求。據(jù)運(yùn)營(yíng)數(shù)據(jù)顯示，這些應(yīng)用程序每月活躍用戶規(guī)模已達(dá)數(shù)千萬(wàn)量級(jí)。
在使用體驗(yàn)上，多數(shù)應(yīng)用提供基礎(chǔ)免費(fèi)服務(wù)：用戶既可為AI伴侶設(shè)定基礎(chǔ)特征，也可直接選擇預(yù)設(shè)個(gè)性的聊天機(jī)器人。Replika付費(fèi)用戶則可解鎖“配偶”等特殊關(guān)系狀態(tài)，還能通過(guò)編寫(xiě)背景故事為AI賦予專(zhuān)屬記憶，這些設(shè)定將直接影響對(duì)話系統(tǒng)的反饋機(jī)制。
麻省理工學(xué)院媒體實(shí)驗(yàn)室的帕特·帕塔拉納塔伯恩團(tuán)隊(duì)通過(guò)調(diào)研404名高頻用戶，勾勒出AI伴侶典型使用場(chǎng)景：12%的用戶將AI視為排遣和消弭孤獨(dú)感的“情緒良藥”；14%的用戶將其當(dāng)作傾訴秘密的“樹(shù)洞”。數(shù)據(jù)還顯示，42%的用戶每周都會(huì)登錄幾次，15%的用戶形成了每日使用的習(xí)慣，而90%以上的單次對(duì)話用戶，使用時(shí)長(zhǎng)控制在1小時(shí)以內(nèi)。
古林瑞奇預(yù)言，AI伴侶的普及率將持續(xù)攀升。目前眾多初創(chuàng)企業(yè)正積極布局情感陪伴賽道，開(kāi)發(fā)各類(lèi)心理調(diào)節(jié)助手。據(jù)權(quán)威機(jī)構(gòu)分析，該領(lǐng)域市場(chǎng)規(guī)模將以30%的年均增速擴(kuò)張，預(yù)計(jì)2030年全球產(chǎn)值有望突破千億美元大關(guān)。
溫情脈脈背后，暗藏著危機(jī)
科學(xué)家普遍認(rèn)為，AI伴侶的影響可能是雙面的——既可能有益，也可能有害，而這往往取決于使用者的心理狀態(tài)、使用方式，以及AI軟件本身的設(shè)計(jì)特點(diǎn)。
威斯康星大學(xué)密爾沃基分校公共衛(wèi)生政策研究員林尼·萊斯塔迪斯指出，AI伴侶擅長(zhǎng)通過(guò)共情式回應(yīng)、記憶過(guò)往對(duì)話細(xì)節(jié)和主動(dòng)提問(wèn)來(lái)模擬人類(lèi)的同理心，且永遠(yuǎn)熱情飽滿。而這種關(guān)系模式在現(xiàn)實(shí)世界中幾乎不存在：親友無(wú)法24小時(shí)在線傾聽(tīng)和安撫情緒，而AI可以，這可能導(dǎo)致用戶產(chǎn)生過(guò)度依賴(lài)。
萊斯塔迪斯團(tuán)隊(duì)分析了2017—2021年間Reddit論壇上近600條關(guān)于Replika的討論帖，發(fā)現(xiàn)許多用戶稱(chēng)贊該應(yīng)用緩解了他們的孤獨(dú)感，甚至改善了心理健康狀況。部分帖子直言，AI伴侶比現(xiàn)實(shí)中的朋友“更貼心”，因?yàn)樗?ldquo;永不評(píng)判，永遠(yuǎn)傾聽(tīng)”。
古林瑞奇的研究進(jìn)一步表明，用戶如何與AI相處，往往取決于他們?nèi)绾慰创@項(xiàng)技術(shù)：將AI視為搜索引擎的用戶，主要用于提問(wèn)和獲取信息；將其視為“日記本”的用戶，將AI作為自我表達(dá)的延伸；而將其視為社交代理的用戶，則將AI當(dāng)作獨(dú)立個(gè)體，并嘗試與之建立類(lèi)似現(xiàn)實(shí)中的友誼。
然而，在AI伴侶帶來(lái)的脈脈溫情背后，也暗藏危機(jī)。首先，AI伴侶的“共情”可能適得其反，比如一位用戶詢問(wèn)AI是否該用剃刀自殘，AI回答“應(yīng)該”；AI伴侶的“無(wú)條件支持”也可能帶來(lái)危險(xiǎn)，如另一位用戶試探性地問(wèn)Replika“自殺是否是好事”，竟得到肯定的答復(fù)。
考慮長(zhǎng)期影響，推動(dòng)全球監(jiān)管
帕塔拉納塔伯恩指出，AI伴侶雖在短期內(nèi)具有積極意義，但其長(zhǎng)期影響值得深思。這種考量，加之多起涉及青少年的案例，正推動(dòng)著全球監(jiān)管框架的構(gòu)建。
2023年，意大利監(jiān)管機(jī)構(gòu)曾以“缺乏年齡驗(yàn)證”為由，短暫封禁Replika；澳大利亞擬將AI伴侶納入兒童社交媒體限制范疇；今年早些時(shí)候，美國(guó)紐約州和加州相繼提案，要求加強(qiáng)對(duì)AI伴侶相關(guān)算法的監(jiān)管，設(shè)置防自殺預(yù)警，以及定時(shí)給用戶發(fā)送“AI伴侶并非真人”的提醒。
此外，今年初，3家美國(guó)科技倫理組織聯(lián)合向聯(lián)邦貿(mào)易委員會(huì)投訴Replika涉嫌“欺騙性設(shè)計(jì)”。5月4日，知名科技監(jiān)管機(jī)構(gòu)Common Sense發(fā)布研究報(bào)告稱(chēng)，AI伴侶可能導(dǎo)致青少年產(chǎn)生情感依賴(lài)，不利于身心發(fā)展，建議全面禁止未成年人使用。
AI伴侶的迅猛發(fā)展，究竟是科技進(jìn)步賦予的機(jī)遇，還是人類(lèi)親密關(guān)系的終結(jié)者？這個(gè)命題值得每個(gè)人深思。在擁抱科技便利的同時(shí)，人們更應(yīng)銘記：真實(shí)的情感交流和人與人之間的羈絆，才是文明社會(huì)最珍貴的瑰寶。
本文鏈接：http://m.9105763.cn/v-146-35.htmlAI“伴侶”：新興產(chǎn)業(yè)“呼叫”監(jiān)管
相關(guān)文章：
漂流、戲水、探索、夜游……暑期文旅消費(fèi)持續(xù)升溫 “夏日經(jīng)濟(jì)”動(dòng)能強(qiáng)勁07-22
祝好心情的早安朋友圈問(wèn)候語(yǔ)54條12-24
描寫(xiě)校園的好句好段11-30
實(shí)習(xí)客服培訓(xùn)總結(jié)11-01
出納試用期工作總結(jié)11-01
中秋節(jié)慰問(wèn)信08-12
工作失誤深刻檢討書(shū)02-06
寫(xiě)讀書(shū)的心得的作文02-10
幼兒園萬(wàn)圣節(jié)邀請(qǐng)函09-26
行政文員工作簡(jiǎn)歷08-10
單位籃球賽的新聞稿08-10
二十年后的校園作文400字01-07
長(zhǎng)篇小說(shuō)《簡(jiǎn)?愛(ài)》英文讀后感11-04
申請(qǐng)困難助學(xué)金的申請(qǐng)書(shū)09-21
人生的色彩記敘文08-03
2025年陜西高級(jí)經(jīng)濟(jì)師報(bào)名時(shí)間：預(yù)計(jì)4月9日-4月28日02-26
中國(guó)計(jì)量大學(xué)二本專(zhuān)業(yè)有哪些01-23
2024年9月重慶計(jì)算機(jī)一級(jí)成績(jī)查詢時(shí)間及查分入口（11月中旬公布）10-29
學(xué)校期中教學(xué)工作總結(jié)07-23
家居日雜小商品店鋪廣告詞11-03
環(huán)境監(jiān)測(cè)畢業(yè)論文范文10篇08-15
幼師簡(jiǎn)單大方的自我介紹08-10