你ai老婆要沒了美國對AI伴侶聊天機器人展開大調查
大精靈
電競體育10月4報道 隨著AI工具不僅被企業(yè)廣泛采用，更日益深入普通用戶的日常生活乃至情感陪伴領域，監(jiān)管機構開始重點關注此類技術帶來的潛在風險。
美國聯(lián)邦貿(mào)易委員會（FTC）近日針對開發(fā)AI伴侶聊天機器人的公司啟動大規(guī)模調查，要求科技巨頭詳細說明用戶數(shù)據(jù)處理方式及相關安全措施。
此次調查涉及谷歌、Meta、OpenAI、Snap、xAI和Character.AI等七家企業(yè)。FTC特別強調對青少年安全與心理健康的擔憂——盡管AI平臺本意為提升生產(chǎn)力和提供輔助，但伴侶類機器人因模擬人類情感聯(lián)結、提供指導甚至演繹浪漫互動而引發(fā)爭議。這種模式雖對年輕用戶具有吸引力，但在缺乏必要安全防護時存在顯著風險。
委員會要求這些科技企業(yè)詳細披露：聊天機器人的構建與監(jiān)控機制、信息收集方式、現(xiàn)有安全過濾器設置以及不當交互處理方案。調查還將重點關注未成年人數(shù)據(jù)使用情況，包括企業(yè)如何通過用戶參與實現(xiàn)盈利。
科技界長期警示AI快速發(fā)展需配套安全防護措施，以防止錯誤信息傳播和有害行為。FTC此次監(jiān)管行動表明，隨著技術演進，建立問責機制和保護用戶安全隱私已成為當務之急。