科技日?qǐng)?bào)記者?劉霞

聊天機(jī)器人是由AI驅(qū)動(dòng)的程序，通過(guò)文本、語(yǔ)音和圖像與人類互動(dòng)。新型類人情感聊天機(jī)器人——AI“伴侶”正日益流行。目前，市面上已有100多款由AI驅(qū)動(dòng)的應(yīng)用程序，如myanima.AI、Eva AI、Nomi.AI和Replika等，這些AI“伴侶”展現(xiàn)出非凡的現(xiàn)實(shí)性、適應(yīng)性和互動(dòng)性，而且可以通過(guò)對(duì)話逐步進(jìn)化，微調(diào)其反應(yīng)以匹配用戶的興趣、需求和溝通風(fēng)格。

用戶可以與AI聊天機(jī)器人建立深度情感聯(lián)系。
　　圖片來(lái)源：美國(guó)趣味科學(xué)網(wǎng)站

美國(guó)趣味科學(xué)網(wǎng)站在7月15日的報(bào)道中稱，現(xiàn)代AI聊天機(jī)器人越來(lái)越像人類，提高了用戶的參與度，以及與AI形成情感紐帶的可能性。加拿大魁北克大學(xué)蒙特利爾分校EROSS實(shí)驗(yàn)室科學(xué)家瓦萊麗·拉波因特強(qiáng)調(diào)，AI“伴侶”可以讓一些人免于孤獨(dú)，但它們也有黑暗的一面，可能會(huì)引發(fā)隱私問(wèn)題和倫理問(wèn)題。

AI浪漫伴侶聊天機(jī)器人越來(lái)越受歡迎。
圖片來(lái)源：美國(guó)趣味科學(xué)網(wǎng)站

建立深度情感鏈接

研究表明，AI“伴侶”或可為感情關(guān)系提供一種安全、低風(fēng)險(xiǎn)的替代方案。其可以為用戶提供個(gè)性化的情感滿足，緩解其孤獨(dú)感，并通過(guò)語(yǔ)言等為用戶提供較強(qiáng)的情緒支持。對(duì)于因處于疾病、喪親之痛、心理障礙或行動(dòng)障礙的人來(lái)說(shuō)，AI“伴侶”可以與其建立深度情感鏈接。

例如，Replika可以模擬人類的交流方式，讓人們感覺(jué)像在和真正的人聊天。它可以陪用戶煲電話粥、在VR里互動(dòng)，幫助用戶緩解壓力、減輕焦慮。

加拿大英屬哥倫比亞大學(xué)科學(xué)家此前開(kāi)展的一項(xiàng)研究甚至表明，在對(duì)話中，與反應(yīng)不夠敏捷的人類相比，人與聊天機(jī)器人的情感聯(lián)系更強(qiáng)。

挪威奧斯陸大學(xué)媒體與傳播系的彼得·裴·布蘭德扎格等人2022年刊發(fā)于《人類傳播研究》的論文也指出，人類可以與AI形成真正的情感紐帶，即使他們承認(rèn)AI不真實(shí)。

AI“伴侶”的另一面

拉波因特指出，人和AI“伴侶”的關(guān)系可能存在潛在有害后果。

AI“伴侶”為用戶提供了一種獨(dú)特的陪伴形式，同時(shí)會(huì)避免沖突，并在適當(dāng)?shù)臅r(shí)候妥協(xié)。很多人擔(dān)心，長(zhǎng)此以往，將對(duì)用戶經(jīng)營(yíng)真正感情關(guān)系的能力產(chǎn)生影響。

AI“伴侶”可能會(huì)阻礙個(gè)人社交技能以及駕馭現(xiàn)實(shí)世界關(guān)系能力的發(fā)展，阻礙用戶與其他人建立真正互惠關(guān)系的能力。因?yàn)檎嬲娜穗H關(guān)系往往涉及挑戰(zhàn)和沖突，這些挑戰(zhàn)和沖突會(huì)促進(jìn)個(gè)人成長(zhǎng)并獲得與他人更深層次的情感聯(lián)系，但AI“伴侶”避免沖突，會(huì)降低用戶這方面的能力。

美國(guó)威斯康星大學(xué)密爾沃基分校的琳妮亞·拉斯塔迪烏斯等人開(kāi)展的研究認(rèn)為，AI“伴侶”的高度可定制化和持續(xù)在線特性，有可能促使用戶產(chǎn)生社交孤立感及情感過(guò)度依賴。與AI“伴侶”之間廣泛而持久的接觸可能會(huì)導(dǎo)致個(gè)人退出真實(shí)社交環(huán)境，并降低他們建立新的、有意義的社交關(guān)系的動(dòng)力。

倫理問(wèn)題值得警惕

AI“伴侶”還可能引發(fā)隱私和倫理問(wèn)題。

2024年2月，Mozilla基金會(huì)對(duì)11款流行的AI“伴侶”進(jìn)行了安全分析，發(fā)現(xiàn)了令人擔(dān)憂的隱私問(wèn)題。多數(shù)應(yīng)用程序都可能共享或出售用戶的個(gè)人數(shù)據(jù)，約54%的應(yīng)用程序不允許用戶刪除個(gè)人數(shù)據(jù)。此外，幾乎沒(méi)有一家公司采取足夠的措施來(lái)保護(hù)用戶的個(gè)人數(shù)據(jù)安全，90%的公司未達(dá)到最低安全標(biāo)準(zhǔn)；73%的公司沒(méi)有發(fā)布任何關(guān)于他們?nèi)绾喂芾戆踩┒吹男畔?。更令人?dān)憂的是，許多應(yīng)用程序裝有數(shù)千個(gè)跟蹤工具，監(jiān)控用戶行為以進(jìn)行精準(zhǔn)營(yíng)銷(xiāo)。最近科學(xué)家針對(duì)21個(gè)AI“伴侶”開(kāi)展的研究也揭示了類似的隱私問(wèn)題。

更值得警惕的是倫理和法律問(wèn)題。2023年5月，Replika在意大利引發(fā)了爭(zhēng)議。Replika號(hào)稱自身使命是改善用戶的情感健康，并通過(guò)壓力管理、社交和尋找愛(ài)情來(lái)幫助用戶解決困惑，平息焦慮。起初有不少用戶表示，很開(kāi)心有Replika陪著聊天，它就像一個(gè)形影不離的好朋友，彌補(bǔ)了自己心靈上的空虛。但不久，許多意大利用戶投訴Replika向其發(fā)送不良暗示信息，甚至有性騷擾行為。對(duì)此，意大利隱私監(jiān)察機(jī)構(gòu)已經(jīng)封禁了這款應(yīng)用，禁止其處理意大利用戶數(shù)據(jù)，否則可能被罰款2150萬(wàn)美元。

美國(guó)麻省理工學(xué)院社會(huì)學(xué)教授雪莉·特克爾在《群體性孤獨(dú)》一書(shū)中指出：我們和機(jī)器人與智能手機(jī)難舍難分，我們通過(guò)機(jī)器重新定義了自己，也重新定義了我們與他人的關(guān)系。出于對(duì)親密關(guān)系的渴望，我們與機(jī)器人的關(guān)系正在升溫，但我們卻變得越來(lái)越孤獨(dú)。