美国加州拟出新法案要求AI公司提醒儿童：聊天机器人不是人类
摘要: 2月6日消息，近日，美国加利福尼亚州参议员Steve Padilla提出的一项新法案要求AI公司定期提醒儿童，聊天机器人是 AI 而非真实的人类。 据介绍，这项法案旨
2月6日消息，近日，美国加利福尼亚州参议员Steve Padilla提出的一项新法案要求AI公司定期提醒儿童，聊天机器人是 AI 而非真实的人类。
据介绍，这项法案旨在保护儿童免遭AI“容易使人上瘾、造成孤立和误导”等危害。该法案将制定的要求还包括：禁止AI公司“向用户提供奖励”以提升参与度;要求AI公司向州卫生保健服务部报告说明平台检测到的未成年人出现自杀意念迹象的频率，该法案还要求公司告知用户，他们的聊天机器人可能并不适合部分儿童使用。
剑桥大学的研究表明，与成年人相比，儿童更有可能将聊天机器人视为值得信赖的，甚至将其视为准人类。当儿童与聊天机器人之间的对话出现问题时，可能会危及儿童的安全。一个例子是，就在2024年10月，《纽约时报》的一篇报道显示，一名青少年在与Character.ai的聊天机器人深度对话数月之后选择自杀，逝者母亲随后向Character.ai发起了法律诉讼。
Steve Padilla表示： “孩子们不是科技公司以牺牲心理健康为代价进行实验的小白鼠。我们需要为聊天机器人的用户提供常识性保护，以防止开发人员采取那些令人上瘾的策略。”
相关推荐
新教育 · 新观察 · 新视点
