欧盟《人工智能法案》立法进程梳理与主要内容概览【AI国际治理知识库】

时间：2024-03-15 15:37:36 发布：tgy 来源：清华大学人工智能国际治理研究院第一对焦：人工智能

　　【ZiDongHua 之智能自动化收录关键词：人工智能聊天机器人自动化者】

　　欧盟《人工智能法案》立法进程梳理与主要内容概览【AI国际治理知识库】

　　主理人：刘典

　　【AI治理知识库】

　　在全球化和技术革新浪潮中，人工智能作为一种颠覆性的技术力量，正在深刻改变全球经济结构和社会秩序，并引发了广泛的关注和一系列复杂的治理挑战。随着AI技术的快速发展和广泛应用，建立有效的国际治理框架变得尤为迫切。AI国际治理知识库关注全球视野下人工智能国际治理的关键趋势与地缘政治背景下的科技和数字治理问题，为关注相关问题的朋友提供及时、有效、严谨、全面的知识信息。

　　栏目主理人：刘典

　　复旦大学中国研究院副研究员、清华大学人工智能国际治理研究院战略与宏观研究项目主任

　　前言:欧盟《人工智能法案》

　　2024年3月13日，欧盟议会以 523 票赞成、46 票反对和 49 票弃权审议通过《人工智能法案》（EU AI Act），标志着全球人工智能领域监管迈入全新时代。该法旨在保护基本权利、民主、法治和环境可持续性免受高风险人工智能的侵害，同时促进创新并确立欧洲在该领域的领导者地位。该法规根据人工智能的潜在风险和影响程度规定了人工智能的义务。

　　该法明确禁止某些威胁公民权利的人工智能应用程序，包括基于敏感特征的生物识别分类系统、从互联网或闭路电视录像中无针对性地抓取面部图像以创建面部识别数据库、工作场所和学校的情绪识别、社会评分、预测性警务（仅基于分析一个人或评估其特征时）以及操纵人类行为或利用人们弱点的人工智能。

　　欧洲议会表示，该法案旨在保护基本权利、民主、法治和环境可持续性免受高风险人工智能的影响，同时促进创新，以将欧洲“打造成为该领域的领导者”。该法案将禁止某些“威胁公民权利”的人工智能应用，包括基于敏感特征的生物识别分类系统，以及从互联网或闭路电视录像中无目标地抓取面部图像以创建面部识别数据库。操纵人类行为或利用人类弱点的人工智能也将被禁止。

　　PART1：欧盟《人工智能法案》立法进程梳理

　　1.欧盟《人工智能法案》立法进程

　　2.各方对《人工智能法案》的态度汇总

　　PART2:欧盟《人工智能法案》主要内容概览

　　1. 欧盟《人工智能法案》主要内容概览

　　2.欧盟《人工智能法案》的分级分类风险治理

　　PART3：欧盟《人工智能法案》带来的影响

　　1.欧盟树立科技监管方面的“引领者”地位

　　2.欧盟《人工智能法案》对中国的影响

　　当地时间周三，欧洲议会以523票赞成、46票反对、49票弃权通过了具有里程碑意义的《人工智能法》(AI Act)，使得欧盟在对这项颠覆性技术的监管方面走在了世界前列，很可能会为整个西方的AI监管规则定下基调。欧洲议会表示，《人工智能法》旨在保护基本权利、民主、法治和环境可持续性不受高风险人工智能的影响，同时促进创新，使欧洲成为该领域的领导者。该法规根据人工智能的潜在风险和影响程度为人工智能规定了义务。

　　欧盟内部市场专员蒂埃里·布雷顿表示，《人工智能法》获得了压倒性支持，这是世界上第一个全面、有约束力的可信赖AI框架，欧洲现在是值得信赖的AI标准制定者。

　　接下来，该法案还需要得到欧盟理事会的正式批准，使之成为法律。不过，最艰难的立法阶段已经过去，距离最终出台仅有一步之遥。该法案是世界上第一个专门提出 AI 风险分级监管的综合性人工智能法案，为欧盟范围内人工智能驱动的产品、服务和系统的开发、贸易和使用制定了核心规则，将成为未来人工智能治理水平进一步提升的重要参考依据。

　　欧盟《人工智能法案》立法进程梳理

　　欧盟《人工智能法案》立法进程

　　图片

　　各方对《人工智能法案》的态度汇总

　　欧盟的立法者对最后各方达成一致的法案非常满意。欧盟内部市场专员蒂埃里·布雷顿（Thierry Breton）在社交媒体X平台上写道：“欧洲现在是人工智能领域的全球标准制定者。”欧洲议会主席罗伯塔·梅索拉（Roberta Metsola）也称该法案具有开创性，将促进创新，同时维护公民的基本权利。“人工智能已经成为我们日常生活的一部分，现在这也将成为我们立法的一部分。”她在社交媒体帖子中写道。

　　西班牙数字化与人工智能大臣卡梅·阿蒂加斯（Carme Artigas）称这是“历史性的成就和迈向未来的重要里程碑”，并称在立法过程中“我们成功保持了极其微妙的平衡：在整个欧洲促进人工智能的创新和应用，同时充分尊重我们的公民权利。”欧盟委员会主席乌尔苏拉·冯·德莱恩（Ursula von der Leyen）也称，“这是一个历史性的时刻，人工智能法案将欧盟的价值观代入了一个新的时代。”她同时称已经有上百家公司愿意在法案正式生效前自愿遵守这一法律，并欢迎更多的科技企业加入。

　　不过，和欧盟立法者和领导人的想法不同的是，对目前这份法案，科技团体和公民权利团体均不认为其达到了他们各自认为满意的“微妙的平衡”：前者认为这份法案太过严苛，后者则觉得这份法案仍有较大漏洞。据《金融时报》报道，欧洲大陆科技行业的意见领袖塞西莉亚·博内菲尔德-达尔（Cecilia Bonefeld-Dahl）认为这份法案用来防范人工智能风险所付出的代价太大，“新的监管要求会让公司投入大量资源来雇佣律师而非AI工程师，以达到合规目的。”

　　据美联社报道，欧洲的公民权利团体对AI生物信息识别在执法权上的豁免表示担忧，同时认为法案对在边境和移民管理中的AI应用也缺乏应有的管理。除了对法律文本本身的质疑之外，这份法案最终的执行情况也受到了质疑。《纽约时报》的专栏文章指出，由于法案的执行要求27个成员国的努力，考虑到这需要政府在财政紧张的情况下增加这方面的预算，其执行情况可能堪忧。此前欧盟同样具有里程碑意义的数据隐私立法便因为缺乏有力的执行而饱受诟病。

　　美国方面，拜登政府于2023年10月30日发布的《关于安全、可靠和值得信赖地开发和使用人工智能的行政命令》是美国现代历史上为监管（或以其他方式治理）信息技术而做出的最重要的联邦努力之一。尽管它不像欧盟的《人工智能法案》那样是一部自成一体的综合立法，但该命令立即生效，指导联邦机构资源评估和解决人工智能风险。相比之下，欧洲的《人工智能法案》虽然成功问世，但在未来几年内不太可能全面生效。

　　而针对欧盟议会出台的历史性法案，美国科技公司反应不一。亚马逊方面表示：“我们致力于与欧盟和业界合作，支持人工智能技术的安全、可靠和负责任的发展。”该公司正在推出AI聊天机器人助手。Meta公司则警告不要采取任何可能扼杀创新的措施。Meta欧盟事务主管Marco Pancini表示：“最重要的是，我们不要忽视人工智能在促进欧洲创新和促进竞争方面的巨大潜力，而开放是关键。

　　欧盟人工智能治理政策重点文件梳理

　　欧盟《人工智能法案》主要内容概览

　　图片

　　欧盟《人工智能法案》的分级分类风险治理

　　按照《人工智能法案》，人工智能技术将被分类为四个风险等级：“不可接受”，“高”，“中”，以及“低”。这些分类决定了相关企业需遵守的义务程度，其中风险级别越高，合规要求越严格。

　　特别是处于高风险类别的人工智能提供商，在对外提供服务之前，必须进行彻底的风险评估，并确保其产品完全符合法规要求。违规企业将面临严厉的经济处罚，罚款范围介于750万欧元至3500万欧元（相当于820万美元至3820万美元），具体罚金额度将基于侵权行为的性质及企业规模决定。

　　欧盟《人工智能法案》基于人工智能的不透明性、复杂性、对数据的依赖性、自主行为性等特征，将人工智能的风险等级区分为：不可接受风险、高风险、有限风险和低或极小风险的人工智能系统。

　　第一，不可接受风险人工智能系统。《人工智能法案》的第5条规定，被认为对人们的安全、生计和权利构成明显威胁的有害人工智能系统所产生的风险为不可接受的风险。该系统不可以在欧盟境内投放市场、投入服务或使用的。

　　第二，高风险人工智能系统。《人工智能法案》的第5条规定了对人们的安全或基本权利造成不利影响的“高风险人工智能系统”，具体包括两类高风险的人工智能系统：一是作为产品安全组成部分或属于欧盟卫生与安全协调立法（如玩具、航空、汽车、医疗器械、升降机等）的系统；二是在附件三确定的8个特定领域部署的系统，委员会可以通过授权法案进行必要的更新。高风险人工智能系统应适用如下限制规则：首先，高风险人工智能系统的提供者在将其投放市场或投入使用之前，需要将该系统注册在欧盟范围内的AI数据库中。任何受现有AI产品安全立法管辖的产品和服务，应适用现有的第三方符合性框架（Conformity Frameworks）之下。目前不受欧盟立法管辖的人工智能系统的提供者必须进行自我评估，在符合要求的情况下，可以使用CE标记。其次，高风险的人工智能系统需要在风险管理、测试、技术稳健性、数据培训和数据治理、透明度、人类监督和网络安全等方面符合要求。最后，高风险人工智能系统的提供者、进口商、分销商和使用者将必须履行一系列义务。

　　第三，有限风险人工智能系统。如与人类交互的系统（即聊天机器人）、情感识别系统、生物特征分类系统以及生成式人工智能系统，需要履行透明义务。

　　第四，低或极小风险人工智能系统。低或极小风险的人工智能系统在欧盟开发和使用，不需要遵守任何额外的法律义务。但《人工智能法案》中规定的行为准则，鼓励非高风险人工智能系统的提供者自愿适用高风险人工智能系统的强制性要求。

　　欧盟《人工智能法案》带来的影响

　　欧盟树立科技监管方面的“引领者”地位

　　《人工智能法案》的通过进一步巩固了欧盟在科技监管方面的地位。该法案主要发起者之一、欧洲议会议员图多拉奇(Dragos Tudorache）表示，自起草立法的早期阶段以来，《人工智能法案》的制定者就“仔细考虑”了对世界各国政府的影响。他说，他经常听到其他立法者在开始起草自己的人工智能法案时正在研究欧盟的做法。“这项立法将代表许多其他司法管辖区的标准、模式。”他说，“这意味着我们在起草它时必须承担额外的谨慎义务，因为它将对许多其他司法管辖区产生影响。”

　　对比美欧人工智能治理体系的建构过程，在美国国会多年无所作为之后，欧盟的各项科技法案对美国硅谷公司产生了广泛的影响。譬如，欧洲的GDPR迫使微软等一些公司彻底改革他们处理欧洲境外用户数据的方式。然而，有人担心欧盟频繁制定在科技方面的法律，令在欧洲地区的合规措施成本高昂，阻碍了小企业的发展。与此同时，经过数月针对人工智能技术的听证会和论坛后，美国国会仍处于制定有关人工智能的两党立法的早期阶段。

　　拜登政府上台之初就表示要“整顿”科技行业，现在2024大选即将到来，既没有真正反垄断，也没有进行规则监管立法，这也体现了拜登政府的一种态度。在此情况之下，欧洲人工智能界的担忧更为强烈，有不少人士都发声表示，新立法可能会阻碍技术创新，从而为人工智能研究和开发已经更加先进的美国和英国带来进一步优势。德国人工智能发展促进中AppliedAI Initiative董事总经理利布尔(Andreas Liebl)表示：“它（人工智能法案）只会让你在全球竞争中放慢脚步。”

　　对于那些从事高风险AI系统研发和应用的欧盟企业来说，他们将面临更为严格的监管要求。这可能会导致一些企业需要重新审视其业务模式和产品策略，以适应新的监管环境。同时，对于那些已经在市场上运营的高风险AI系统，也可能需要进行相应的调整和改进，以满足法规的要求。

　　对于整个AI行业来说，《人工智能法案》的通过将有助于提高行业的规范性和透明度。通过明确监管标准和要求，将有助于减少行业内的乱象和不合规行为，提升整个行业的形象和声誉。这将有助于吸引更多的投资和人才进入AI领域，推动行业的健康发展。然而，值得注意的是，《人工智能法案》的通过并不意味着AI行业的监管问题已经完全解决。相反，随着技术的不断进步和应用领域的不断拓展，新的监管挑战和问题也将不断出现。因此，未来欧盟和各国政府还需要继续加强对于AI技术的监管和研究，以确保其安全、合规地服务于人类社会。

　　欧盟《人工智能法案》的通过标志着欧盟引领的AI监管新时代的到来。虽然短期内可能会对部分企业和市场产生一定影响，但从长远来看，这将有助于推动全球范围内的AI行业的规范化和良性发展。

　　欧盟《人工智能法案》对中国的影响

　　新一代人工智能正在全球范围内蓬勃兴起，为经济社会发展注入了新动能，正在深刻改变人们的生产生活方式。同时，人工智能产品、服务对伦理道德、隐私权、系统安全等方面带来了巨大的威胁。中国向来高度重视人工智能引发的各种问题，欧盟《人工智能法案》为中国人工智能治理体系的建立以及法律监管提供了可行性参考。

　　针对人工智能领域，我国已经出台了一系列法律规范和政策文件。如国务院颁布了《新一代人工智能发展规划》，这是我国第一个系统规定人工智能发展的总体思路、战略目标、主要任务和保障措施的指导性文件。科技部、网信办等部门颁布了多个促进人工智能发展的部门规章，地方性法规也相继出台。然而，现有的法律规范存在诸多问题，如缺乏体系性，更多依靠法律原则、国家标准、行业条例进行规制，缺乏细化的监管措施和鼓励创新的制度设计。人工智能领域的法律规制仍待进一步完善。

　　比较中国与欧盟人工智能制度规制进展，中国多为产业促进类文件，鼓励企业发展，近期出台较多治理类文件，我国有关人工智能的立法正在逐步增多，并向更加精细的方向发展，但没有统一立法的迹象。欧盟的人工智能立法速度较快，且倾向于复制GDPR经验，以引领全球人工智能立法。具体而言，我国人工智能立法存在着软法与硬法交织的情况，法律法规较少且规定较为原则和笼统，国家标准和行业标准以及相关政策性文件较多。目前，市场上部分人工智能产品、服务已投入生产使用，但并未出台相关立法，这些人工智能技术的应用缺乏相应的制度规制。

　　欧盟《人工智能法案》为不同风险程度的人工智能系统施加不同的要求和义务，其提出的风险分类、价值链责任、负责任创新和实验主义治理等思路对我国人工智能统一性立法具有一定的借鉴意义和参考价值。紧密关注并参与全球人工智能治理体系的建构才能促进我国人工智能的高速、高效、稳定发展。