纽约州立法约束儿童聊天机器人，专家称AI是“加强版社交媒体”

一句话看懂：10月28日，纽约州州长凯西·霍楚尔在Common Sense Media峰会上宣布，明年1月起禁止聊天机器人对儿童进行自残、性暗示等有害引导；与会专家警告，AI对儿童的影响可能超过社交媒体，但联邦层面至今没有相应立法。

事件核心：发生了什么

这场在纽约公共图书馆举行的峰会聚集了前卫生总监维韦克·穆尔蒂、Common Sense Media创始人吉姆·斯泰尔、纽约州州长霍楚尔、哥伦比亚大学法学教授吴修铭等人。霍楚尔宣布的新规将于明年1月生效，明确禁止聊天机器人鼓励儿童自杀、自残、保密或孤立，禁止阻止儿童向真人求助，禁止涉及色情互动，并限制在后续对话中调用儿童此前的个人或健康信息。穆尔蒂将AI类比核武器，认为需要提前制定安全标准；斯泰尔则称AI是“加强版社交媒体”，并批评行业领导者不可信赖。新墨西哥州总检察长劳尔·托雷斯则提出，可对释放不安全技术的AI公司追究刑事责任。

为什么重要

这是美国州层面首次针对儿童与聊天机器人互动出台具体禁令，把监管焦点从内容审核延伸到对话行为本身：AI不得伪装人类、不得暗示与儿童存在关系。目前公开信息显示，联邦层面仍无针对AI或社交媒体的儿童保护立法，州级规则可能成为其他地区效仿的模板，也会给AI应用开发者带来合规成本。峰会还讨论了“先证明安全再上线”的欧洲模式、数据透明度要求，以及用消费者保护法强制AI模型接受严格测试。

对用户/开发者/创作者的影响

面向儿童市场的AI陪伴、语音助手和智能玩具将首当其冲，产品设计需要加入年龄识别、对话边界和人工求助入口。开发者若在纽约州提供服务，需在明年1月前调整系统提示词、记忆机制和内容过滤策略，避免使用儿童历史健康数据。创作者和内容平台也应关注教育场景：前美国教育部长约翰·金提到MIT报告称生成式AI可完成该校所有作业，他正在考虑改革学生评估方式，强调必须看到学生本人完成工作。