聊天機器人平臺Character.AI近期推出了一項名為“家長洞察”的新功能，專為青少年用戶設計。此功能允許青少年將每周在Character.AI平臺上的使用報告發(fā)送至家長的電子郵箱，旨在增強家長對孩子網(wǎng)絡活動的了解。
據(jù)官方介紹，這些報告詳細記錄了用戶在網(wǎng)頁端和移動端上的日均使用時長，以及最常互動的角色和相應的聊天時長。這一舉措是對社會上關于未成年人可能沉迷于聊天機器人或接觸到不適宜內(nèi)容的擔憂的積極回應。
值得注意的是，“家長洞察”功能是完全可選的，家長無需注冊任何賬戶。青少年用戶只需在Character.AI的設置中簡單操作即可開啟此功能。平臺強調(diào)，這些報告僅提供用戶使用情況的概覽，并不包含具體的聊天記錄，從而確保用戶的對話內(nèi)容不會被分享給家長。
Character.AI自去年以來一直在努力推出針對未成年用戶的新功能，但與此同時，該平臺也面臨著一些質疑和法律挑戰(zhàn)。盡管Character.AI在青少年群體中廣受歡迎，允許用戶創(chuàng)建、定制并公開分享聊天機器人，但多起訴訟指控平臺上的部分機器人提供了不適宜的性化內(nèi)容，甚至傳播了涉及自殘的敏感信息。
為了應對這些指控，Character.AI已經(jīng)對系統(tǒng)進行了調(diào)整。未滿18歲的用戶現(xiàn)在會被轉移到一個專門訓練的模型上，該模型旨在規(guī)避“敏感”內(nèi)容。平臺還在界面上增加了更明顯的提醒，強調(diào)聊天機器人并非真實人物，以幫助用戶保持理性的認知。
