2023 年 7 月 6 日
人工智能（AI）无处不在，但到目前为止，它基本上不受监管。欧盟希望通过拟议的《欧盟人工智能法》改变这种状况。6 月初，欧洲议会在人工智能监管方面迈出了重要一步，其成员就该法案草案达成了一致意见。
该法案最初由欧盟委员会于 2021 年提出，此后人工智能发生了很大变化--尤其是随着生成式人工智能产品的兴起。因此，议会通过的谈判立场与欧盟委员会或欧洲理事会在 2022 年通过的立场不同并不出人意料。人工智能法草案三个版本的差异可能会延长谈判和最终法规的制定。不过，提供或使用人工智能系统的公司可以预见法规的大致方向，并应着手准备。
人工智能法》采用基于风险的方法来监管人工智能，对那些对用户安全构成更大威胁的人工智能应用制定了更严格的法规。欧盟将禁止属于该法案 "不可接受风险 "类别的人工智能系统。
主要变化
欧洲议会通过的立场比欧盟委员会和理事会的版本更进一步，规定了提供商的新义务，并扩大了高风险人工智能系统的范围。其中一些主要变化包括
- 人工智能智能系统的定义更严格，与经济合作与发展组织（OECD）的定义一致。该草案将人工智能系统定义为 "基于机器的系统，旨在以不同程度的自主性运行，并能为明确或隐含的目标生成影响物理或虚拟环境的预测、建议或决策等输出"。
- 被归类为 "不可接受风险 "的人工智能系统将被严格禁止。这份清单现在包括许多远程生物识别系统、预测性警务系统、情感识别系统和 "社会评分 "生物识别分类系统。
- 扩大高风险系统的分类范围，将那些可能对人们的健康、安全或基本权利造成损害以及对环境等造成损害的系统包括在内。
- 基础模型提供者有义务对其系统进行风险评估，并在欧盟数据库中注册。
- 对生成式基础模型提出新的透明度要求，如披露人工智能生成内容的时间、设计人工智能模型以防止其生成非法内容，以及公布模型用于训练的受版权保护的数据摘要。
通过的立场还涉及生成式人工智能，这在以前的版本中不太受关注。这些变化包括
现在，委员会、理事会和议会将就《人工智能法》进行全面谈判，以确定法律的最终文本，谈判可能会持续到今年年底。正如我们在医疗设备等其他行业所看到的那样，鉴于人工智能技术的快速创新，《人工智能法》中概述的法规可能很快就会过时。立法者正在采取措施解决这一难题，但目前的重点似乎是为监管人工智能系统奠定基础。
各行各业的公司，无论是否提供或使用人工智能，都应密切关注《人工智能法案》的进展。虽然该法案可能要到 2026 年才会生效，但预计不遵守该法案的后果将非常严重。例如，根据议会通过的立场，将不可接受的人工智能系统投放到欧盟市场将被处以行政罚款，罚款金额最高可达 4000 万欧元或公司全球年营业总额的 7%（以较高者为准）。
随着人工智能越来越被视为未来的技术，而且其他国家的政府预计也会将欧盟的《人工智能法案》作为自己制定法规的蓝本，企业现在就应该采取措施，针对人工智能及其法规调整自己的运营。
要了解这项新兴技术将如何彻底改变消费者和产品安全，请在此注册参加我们的网络研讨会。在这个 45 分钟的独家环节中，我们的专家小组将分享他们对人工智能在整个产品生命周期中对业务实践的潜在影响的看法。千万不要错过--在此注册。
