网信办征求意见：人工智能拟人化互动服务提供者应当建立应急响应机制
摘要: 12月30日消息，国家互联网信息办公室就《人工智能拟人化互动服务管理暂行办法(征求意见稿)》公开征求意见。 人工智能拟人化互动服务，是指利用人工智
12月30日消息，国家互联网信息办公室就《人工智能拟人化互动服务管理暂行办法(征求意见稿)》公开征求意见。
“人工智能拟人化互动服务”，是指利用人工智能技术，向公众提供模拟人类人格特征、思维模式和沟通风格，通过文字、图片、音频、视频等方式与人类进行情感互动的产品或者服务。
《人工智能拟人化互动服务管理暂行办法(征求意见稿)》指出，提供者应当具备用户状态识别能力，在保护用户个人隐私前提下，评估用户情绪及对产品和服务的依赖程度，发现用户存在极端情绪和沉迷的，采取必要措施予以干预。
提供者应当预设回复模板，发现涉及威胁用户生命健康和财产安全的高风险倾向的，及时输出安抚和鼓励寻求帮助等内容，并提供专业援助方式。
此外，其提到，提供者应当建立应急响应机制，发现用户明确提出实施自杀、自残等极端情境时，由人工接管对话，并及时采取措施联络用户监护人、紧急联系人。
针对未成年人、老年人用户，提供者应当在注册环节要求填写用户监护人、紧急联系人等信息。
相关推荐
新教育 · 新观察 · 新视点
