2025 年，人工智能的监管正在经历一场重大变革，重点是面向消费者的应用。使用人工智能聊天机器人、自动决策系统和生成技术的公司必须为日益复杂和严格的监管环境做好准备。
2025 年标志着人工智能发展 "狂野西部 "时代的结束。欧洲人工智能法》于 2024 年 8 月 1 日生效，主要条款在 2025 年期间开始实施：人工智能扫盲义务于 2025 年 2 月 2 日生效，GPAI 模型的治理规则和义务于 2025 年 8 月 2 日适用。
新兴法规采用三级风险法：
1.关键基础设施人工智能系统： 医疗保健、交通、能源和金融市场的应用现在需要部署前认证、持续监控和有意义的人工监管。
2.面向消费者的人工智能： 直接与消费者互动的应用程序必须就人工智能的使用提供清晰的沟通，维护全面的审计跟踪，并实施偏见检测协议。
3.人工智能 通用系统： 通用系统也需要注册、基本安全测试和披露培训方法。
由参议员史蒂夫-帕迪拉提出的加利福尼亚州参议院第 243 号法案是对 Sewell Setzer 自杀悲剧的回应，这名 14 岁的佛罗里达男孩在与聊天机器人建立情感关系后自杀身亡。
SB 243 主要要求：
该立法规定可提起私人诉讼，每次违规可获得 1,000 美元的实际或法定赔偿，以金额较高者为准。
SB 420 法案旨在提供一个监管框架，以确保人工智能系统尊重人权、促进公平、透明和问责。该立法对 "高风险自动决策系统 "的开发和实施进行监管，要求进行影响评估，以评估目的、数据使用和潜在的偏见。
消费者通知义务： 根据 SB 420 法案，受自动决策系统约束的个人必须知道该工具何时被用于做出与他们相关的决策，获得有关该系统的详细信息，并在技术可行的情况下，有机会对这些决策提出上诉，接受人工审核。
阿拉巴马州、夏威夷州、伊利诺伊州、缅因州和马萨诸塞州都在 2025 年出台了立法，将消费者与人工智能聊天机器人进行互动时未通知的行为定为违反《不公平或欺骗性行为或做法》（UDAP）的行为，公司将受到总检察长的调查和潜在的私人诉讼。
夏威夷州（HB 639）： 将使用能够模仿人类行为的人工智能聊天机器人而未事先以清晰可见的方式告知消费者的行为归类为不公平或欺骗行为。除非提供明确通知，否则在不知情的情况下使用人工智能聊天机器人的小企业可免于处罚。
伊利诺伊州 (HB 3021)： 将修订《消费者欺诈和欺骗性商业惯例法》，要求在消费者与聊天机器人、人工智能代理或虚拟化身进行交流时发出明确通知，因为它们可能会让消费者误以为是在与人类交流。
加利福尼亚州颁布了第一部机器人披露法（《加州商业与利润法》第 17940-17942 条），要求在机器人被用于 "故意欺骗 "他人以进行商业交易或影响选举时进行披露。
犹他州的《人工智能政策法案》于 2024 年 5 月 1 日生效，该法案要求面向消费者的机器人 "按需 "披露消费者正在与 "生成人工智能而非人类 "互动。
2022 年，减肥应用程序 Noom 的客户起诉该公司，称其违反了加利福尼亚州的机器人信息披露法，声称 Noom 虚假陈述会员将收到由人类教练提供的定制计划，而实际上他们是自动机器人。双方达成了价值 5600 万美元的和解协议。
联邦贸易委员会发布了指导方针，要求公司 "对用户正在使用的工具的性质保持透明"，并警告不要使用自动工具来欺骗用户。
根据欧盟《人工智能法》，从 2026 年 8 月起，人工智能提供商必须在用户与人工智能互动时告知用户，除非这是显而易见的。人工智能生成的内容必须以机器可读的方式明确标注，小修改除外。
即使不认为自己是人工智能公司的公司也可以使用聊天机器人，但须遵守相关法规。聊天机器人在客户服务、医疗保健、银行、教育、营销和娱乐等领域无处不在。
公司必须在各辖区要求各异的分散监管环境中游刃有余。缺乏联邦优先权意味着公司必须遵守不同州的不同要求。
各州立法者正在考虑各种人工智能立法，到 2025 年将出台数百项法规，包括全面的消费者保护法、特定行业法规和聊天机器人法规。
优先考虑人工智能治理的组织将获得竞争优势，因为主动合规是释放人工智能全部潜力同时避免法律陷阱的关键。
面向消费者的人工智能应用的监管环境正在迅速发展，加利福尼亚州率先通过全面立法解决聊天机器人的安全性（SB 243）和更广泛的人工智能决策的透明度（SB 420）问题。
这种州级法规的拼凑给在多个司法管辖区运营的公司带来了合规方面的挑战，而缺乏联邦优先权意味着公司必须应对各种不同的要求。
对透明度、人的监督权和保护弱势群体的强调，预示着人工智能治理正朝着更具规范性的方向转变，消费者保护优先于创新的灵活性。
面向消费者的人工智能应用是指直接与消费者互动的人工智能系统，包括用于客户服务的聊天机器人、虚拟助理、推荐系统和对话式人工智能，应用于电子商务、医疗保健、金融服务和娱乐等领域。
主要要求包括
不，SB 243 特别适用于 "伴侣聊天机器人"--具有自然语言界面的人工智能系统，可提供自适应、类似人类的回复，并能满足用户的社交需求。并非所有客户服务聊天机器人都符合这一定义。
处罚因州而异，但可能包括
公司应该
是的，《人工智能法》适用于为欧盟用户提供服务的任何人工智能系统，无论公司总部设在哪里。从 2026 年 8 月起，供应商必须在用户与人工智能互动时告知用户，除非这是显而易见的。
公司必须遵守所在各州的法律。目前，联邦没有优先权，因此有必要制定符合最严格要求的多州合规战略。
有些法规为小企业提供豁免或降低要求。例如，夏威夷州第 639 号法案规定，如果小企业在不知情的情况下使用了人工智能聊天机器人，只要在收到适当通知后遵守规定，就可以免责。
资料来源和参考链接：
.svg)
.svg)
.svg)
.jpeg)
.jpeg)