(相關(guān)資料圖)
Meta公司周五宣布，旗下社交平臺Instagram將為青少年推出新的安全功能，其中包括讓家長能夠阻止孩子與平臺AI角色聊天的功能。這是Meta與OpenAI推出的多項新安全功能之一，旨在應(yīng)對人們對AI可能影響青少年心理健康的日益擔憂。
這家社交媒體巨頭在一篇博客文章中表示，家長既可以關(guān)閉青少年與AI角色的單獨聊天權(quán)限，也可以只屏蔽對特定AI角色的訪問。該應(yīng)用還會向家長展示青少年與AI角色討論的話題相關(guān)信息。Meta稱目前正在開發(fā)這些控制功能，用戶將于明年初開始看到這些功能上線。
此前，Meta及整個科技行業(yè)一直面臨家長和立法者的批評，他們認為在線平臺在保護兒童網(wǎng)絡(luò)安全方面做得還不夠，此次推出新功能正是在這一背景下進行的。
人們也對“是否存在過度依賴AI獲取情感支持與陪伴”的問題表示擔憂。今年有多篇報道顯示，部分人在與ChatGPT等聊天機器人建立密切關(guān)系后，出現(xiàn)了情緒困擾，并與家人保持距離。
Meta表示，其AI角色“設(shè)計初衷就是不與青少年討論‘自殘、自殺或飲食失調(diào)’相關(guān)話題，也不涉及任何‘鼓勵、宣揚或促成’此類行為的內(nèi)容”。博客文章還提到，青少年僅能與特定AI角色聊天，這些角色多與教育、體育等類型的內(nèi)容相關(guān)。
Instagram此次推出新的家長控制功能前，已更新過多項功能以加強對青少年的保護。本周早些時候，該平臺調(diào)整了“青少年賬戶”設(shè)置，使其符合PG-13分級標準，這意味著平臺將不再顯示或推薦包含粗俗語言、或可能宣揚“有害行為”的帖子。9月底，OpenAI也為ChatGPT推出了家長控制功能，以減少“露骨內(nèi)容、熱門挑戰(zhàn)、涉及性、浪漫或暴力的角色扮演，以及極端審美標準”相關(guān)內(nèi)容的出現(xiàn)。
關(guān)鍵詞：
