隨著生成式人工智能技術(shù)的飛速發(fā)展，聊天機(jī)器人已經(jīng)成為我們?nèi)粘Ｉ钪胁豢苫蛉钡囊徊糠帧Ｗ訡hatGPT在2022年底推出以來(lái)，這種技術(shù)的應(yīng)用范圍迅速擴(kuò)大，從編程輔助到心理治療般的對(duì)話，聊天機(jī)器人正逐漸融入人們的情感世界。
然而，這種技術(shù)趨勢(shì)也引發(fā)了一系列關(guān)于情感依賴和潛在傷害的擔(dān)憂。近日，一項(xiàng)尚未經(jīng)過(guò)同行評(píng)審的研究揭示了人們與ChatGPT互動(dòng)中可能產(chǎn)生的復(fù)雜情感影響，引發(fā)了廣泛關(guān)注。
研究指出，部分用戶在與聊天機(jī)器人互動(dòng)過(guò)程中，可能會(huì)形成類似“準(zhǔn)社會(huì)關(guān)系”的情感紐帶。對(duì)于那些在人際關(guān)系中容易依賴他人且對(duì)聊天機(jī)器人高度信任的用戶來(lái)說(shuō)，他們更容易感到孤獨(dú)，并對(duì)ChatGPT產(chǎn)生強(qiáng)烈的情感依賴。這一現(xiàn)象尤其在年輕用戶和有心理健康問(wèn)題的人群中更為顯著。
事實(shí)上，關(guān)于聊天機(jī)器人可能造成的情感傷害，已有先例可循。去年，Character Technologies Inc.因旗下聊天機(jī)器人在與未成年人對(duì)話中被指控誘導(dǎo)自殺念頭而面臨法律訴訟，其中一名14歲少年不幸自殺。這一事件進(jìn)一步加劇了公眾對(duì)聊天機(jī)器人潛在危害的擔(dān)憂。
為了深入了解人們與ChatGPT的互動(dòng)方式及其影響，研究團(tuán)隊(duì)開(kāi)展了一項(xiàng)為期一個(gè)月的實(shí)驗(yàn)。近1000名參與者被隨機(jī)分配使用純文本版或兩種不同語(yǔ)音選項(xiàng)中的一個(gè)，每天至少使用5分鐘。他們被要求進(jìn)行無(wú)主題限制的自由聊天，或與聊天機(jī)器人進(jìn)行私人或非私人對(duì)話。實(shí)驗(yàn)結(jié)果顯示，語(yǔ)音功能并未導(dǎo)致更負(fù)面的情感結(jié)果。
在另一項(xiàng)研究中，研究人員通過(guò)軟件分析了300萬(wàn)次用戶與ChatGPT的對(duì)話，并調(diào)查了用戶與聊天機(jī)器人的互動(dòng)模式。令人驚訝的是，盡管聊天機(jī)器人具備情感交流的能力，但實(shí)際上很少有人真正將其用于情感交流。這一發(fā)現(xiàn)引發(fā)了關(guān)于聊天機(jī)器人實(shí)際使用場(chǎng)景和用戶需求的深入思考。
盡管這項(xiàng)研究揭示了人們與ChatGPT互動(dòng)中的一些有趣現(xiàn)象，但研究人員也指出，這一領(lǐng)域仍處于起步階段，許多問(wèn)題仍有待解答。例如，尚不清楚聊天機(jī)器人是導(dǎo)致人們感到更孤獨(dú)的原因，還是那些本身容易感到孤獨(dú)和情感依賴的人更容易受到聊天機(jī)器人的影響。研究也未能將聊天機(jī)器人的使用時(shí)長(zhǎng)作為主要變量進(jìn)行控制，也未設(shè)置不使用聊天機(jī)器人的對(duì)照組，因此無(wú)法簡(jiǎn)單地得出使用聊天機(jī)器人必然帶來(lái)負(fù)面后果的結(jié)論。
盡管如此，研究人員仍希望這項(xiàng)工作能推動(dòng)更多關(guān)于人類與人工智能互動(dòng)的研究。他們強(qiáng)調(diào)，理解人工智能對(duì)人類的影響至關(guān)重要，尤其是在人工智能大規(guī)模應(yīng)用的今天。通過(guò)深入研究這一領(lǐng)域，我們可以更好地把握人工智能技術(shù)的未來(lái)發(fā)展方向，確保其在為人類帶來(lái)便利的同時(shí)，不會(huì)損害我們的情感健康和福祉。
