Meta AI聊天机器人新增安全导向功能守护青少年随着行业对科技公司为年轻用户构建安全保障措施的审查愈发严格Meta将于周四为其AI聊天机器人推出新的安全导向功能。这些功能旨在为表现出自残或自杀意图迹象的青少年提供支持并及时通知家长。家长监管主动选择与多渠道警报并行作为Meta为家长提供的监管工具一部分成年人需主动选择并指定想要监管的Instagram、Facebook和Meta Horizons账户操作说明可在Meta的家庭中心页面查看目前该设置已在美国、加拿大、英国和澳大利亚开放。当青少年在与Meta AI聊天机器人对话中表现出讨论潜在有害内容迹象时负责监管的家长将通过短信、电子邮件或应用内通知收到警报且警报不包含青少年消息具体内容但Meta会提供相关资源和建议。AI识别与人工审核双重保障危险预警Meta构建了AI系统来识别潜在危险对话借助健康专家小组和外部心理健康临床医生的专业知识。在推出初期所有警报都将经过人工审核流程发出公司表示会“谨慎行事及时通知家长”。此外若青少年短时间内在Instagram上多次搜索自残或自杀相关内容Meta也会提醒家长。未来规划对接紧急救援服务Meta还在开发一项功能以便在存在可信自杀风险的情况下通知紧急救援服务可能类似于其在Facebook和Instagram上已有的警报系统该系统已在全球促成超1.9万次向紧急救援人员的转介。编辑观点Meta此次为AI聊天机器人增加安全功能是在监管压力下的积极举措虽面临过往负面事件影响但有望提升用户信任未来对接紧急救援服务若成功将进一步完善安全保障体系。