【ZiDongHua 之方案应用场收录关键词：加拿大 自动化决策 自动化决策指令 自动化决策系统 】
域外数据新规 | 加拿大《自动化决策指令》
Directive on Automated Decision-Making
Government of Canada
加拿大自动化决策指令
Date modified: 2023-04-25
2023年4月25日修订
来源：Government of Canada
翻译：北京航空航天大学本科生 贾乐琪
一、生效日期
1.1 本指令将于2019年4月1日生效，并自2020年4月1日起实施。
1.2 本指令适用于2020年4月1日后开发或采购的所有自动化决策系统，但是：
1.2.1 在2023年4月25日之前开发或采购的现有系统可以在2024年4月25日之前完成过渡，以满足本指令中第6.2.3、6.3.1、6.3.4、6.3.5和6.3款的要求。
1.2.2 在2023年4月25日之后开发或采购的新系统可以在2023年10月25日前达致本指令的要求。
1.3 本指令将每两年审查一次，由加拿大首席信息官决定。
二、依据
2.1 本指令经《服务和数字政策》（Policy on Service and Digital）第二部分中提及的相同权力主体授权后发布。
三、定义
3.1 解释本指令的定义列于附录A。
四、目标和预期效果
4.1 本指令的目标是确保自动化决策系统的部署方式能够降低对客户、联邦机构和加拿大社会承受的风险，从而作出符合加拿大法律的，更高效、准确、一致和可解释的决策。
4.2 本指令的预期效果如下：
4.2.1 联邦政府部门作出的决策是以数据为基础的、负责任的、符合程序公平和正当程序要求的。
4.2.2 评估算法对行政决策的影响，并减少这些问题出现时造成的负面结果。
4.2.3 联邦机构使用自动化决策系统的数据和信息将酌情向公众提供。
五、适用范围
5.1 本指令适用于任何用作为客户提供建议或作出行政决策的系统、工具或统计模型。
5.2 本指令仅适用于生产中的系统，而不包括在测试环境中运行的自动化决策系统。
六、要求
负责自动化决策系统使用项目的副部长助理或副部长指定的任何其他人员需负责：
6.1 算法影响评估（Algorithmic Impact Assessment）
6.1.1 在生成任何自动化决策系统之前完成并发布算法影响评估。
6.1.2 应用算法影响评估所规定的、在附录C中列举的相关标准。
6.1.3 当系统功能或自动化决策系统的范围发生变化时更新算法影响评估。
6.1.4 通过加拿大政府网站和加拿大财政部委员会秘书处根据政务公开指令指定的任何其他服务，以可访问形式发布算法影响评估的最终结果。
6.2 透明度
决策前告知
6.2.1 通过所有使用中的服务交付渠道发出通知，表明所做出的决策将全部或部分地由附录C中规定的自动化决策系统执行。
6.2.2 根据 《Canada.ca内容风格指令》（Canada.ca Content Style Guide），应以显著的方式和简明的语言进行通知。
决策后解释
6.2.3 向受到影响的个人提供有意义的解释，说明如何以及为何做出附录C规定的决策。
组件访问权
6.2.4 明确软件组件需具备的适当许可，包括《加拿大企业架构管理规范》（Government of Canada Enterprise Architecture Framework）中规定的特定措施所涉及到的开源软件。
6.2.5 如果使用专有许可证，请确保：
6.2.5.1 所有用于自动化决策系统的专有软件组件的发布版本都应交由本部门，并由本部门进行保护。
6.2.5.2 加拿大政府保留访问和测试自动化决策系统的权利，包括已发布的专有软件组件的所有版本，以备特定的审计、调查、侦查、检测、强制执行或司法程序之需要，但须有防止未经授权的披露的保障措施。
6.2.5.3 作为访问权的一部分，加拿大政府保留授权第三方在必要时审查和审计这些组件的权利。
源代码公开
6.2.6 按照《加拿大企业架构管理规范》（Government of Canada Enterprise Architecture Framework）规定的措施，公开由加拿大政府拥有的自定义源代码。除非：
6.2.6.1 源代码处理的数据被归类于机密（Secret）、最高机密（Top Secret）或被保护的C（Protected C）；
6.2.6.2 如果适用《信息获取法》（Access to Information Act），根据《信息获取法》的规定，披露行为将被豁免或排除。
6.2.7明确对已发布的源代码的适当访问限制。
决策记录
6.2.8 根据《服务和数字指令》（Directive on Service and Digital），记录自动化决策系统的决策，并支持监测（6.3.2）、数据治理（6.3.4）和报告的要求（6.5.1）。
6.3 质量保证
监测结果
6.3.1 在投入生产之前制定程序，以便测试自动化决策系统使用的数据、信息以及系统的底部模型，防止存在意外的数据偏差和其他可能不公平地影响结果的因素。
6.3.2 制定监控自动化决策系统结果的程序，以防止出现意外的结果，并定期检验该系统对部门规章和法定程序以及本指令的遵守情况。
数据质量
6.3.3 验证为自动化决策系统收集和使用的数据是有关的、准确的、最新的，并符合《服务和数字政策》（Policy on Service and Digital）和《隐私法》（Privacy Act）。
数据治理
6.3.4 采取措施以确保自动化决策系统使用和生成的数据能够被追踪、保护和访问，并能够按照《服务和数字政策》（Directive on Service and Digital）、《隐私实践指令》（Directive on Privacy Practices）和《安全管理指令》（Directive on Security Management）的要求被合法地收集、使用、保留和处理。
同行评审
6.3.5 依照附录C的规定，咨询合适的专家来评审自动化决策系统，并在系统生产前发布调查结果的完整审查或简明摘要。
基于性别的附加分析
6.3.6 依照附录C的规定，在开发或修改自动化决策系统的过程中完成一个基于性别的附加分析。
员工培训
6.3.7 依照附录C的规定，在自动化决策系统的设计、功能和运用方面为员工提供充分的培训，使其能够审查、解释和监督系统的运行。
IT和业务连续性管理
6.3.8 根据附录C中的规定和《安全管理指令》（Directive on Security Management），建立支持IT和业务连续性管理的策略、计划和/或措施。
安保措施
6.3.9 在系统的开发周期内进行风险评估，并根据《政府安全政策》（Policy on Government Security）采取适当的保障措施。
合法性
6.3.10 从项目的概念阶段开始，咨询法律服务机构，以确保自动化决策系统的使用符合现行法律要求。
确保人工干预
6.3.11 根据附录C，确保自动化决策系统在适当的情况下允许人工干预。
6.3.12 根据附录C，在生产自动化决策系统之前应获得相应级别的批准。
6.4 追索权
6.4.1 为客户提供所有可用的追索权选项，以对抗行政决策。
6.5 报告
6.5.1 在加拿大财政部委员会指定的网站或公共服务系统上发布关于自动化决策系统在实现项目目标方面的效果和效率的信息。
七、后果
7.1 不遵守本政策的后果将包括《财务管理法》（Financial Administration Act）所允许采取的、财政委员会在这种情况下认为是适当的和可接受的任何措施。
7.2 有关不合规行为后果的概述，请参阅《合规管理框架》（Framework for the Management of Compliance），附录C：对机构的后果，附录D：对个人的后果。
八、加拿大财政部委员会秘书处的
职能和责任
在获得必要授权的前提下，加拿大首席信息官负责：
8.1 就自动化决策系统的使用提供全政府的指导。
8.2 制定和维护算法影响评估和任何支持性文件。
8.3 在政府范围内以及与其他司法管辖区和部门的合作伙伴开展沟通和互动，以制定共同的战略、方法和程序，支持对自动化决策系统的负责使用。
九、应用
9.1 本指令适用于《服务和数字政策》中提及的所有机构，除非为特定的法案、法规或理事会命令所排除；
9.1.1议会代理人被排除在本指令之外，包括：
·审计长办公室（Office of the Auditor General），
·首席选举官办公室（Office of the Chief Electoral Officer），
·加拿大游说专员办公室（Office of the Commissioner of Lobbying of Canada），
·官方语言专员办公室（Office of the Commissioner of Official Languages），
·加拿大信息专员办公室（Office of the Information Commissioner of Canada），
·加拿大隐私专员办公室（Office of the Privacy Commissioner of Canada），以及
·加拿大公共部门廉正专员办公室（Office of the Public Sector Integrity Commissioner of Canada）。
9.2 各机构、国营公司或议会代理人可与加拿大财政委员会秘书处签订具体协议，以采用本指令的要求，并根据要求将其应用于该组织。
十、参考文献
10.1 《财务管理法》（Financial Administration Act）
《信息获取法》（Access to Information Act）
《加拿大人权法》（Canadian Human Rights Act）
《隐私法》（Privacy Act）
《信息安全法》（Security of Information Act）
《加拿大无障碍法案》（Accessible Canada Act）
10.2 《信息获取政策》（Policy on Access to Information）
《服务和数字政策》（Policy on Service and Digital）
《政府安全政策》（Policy on Government Security）
《隐私保护政策》（Policy on Privacy Protection）
《人力资源管理政策》（Policy on People Management）
《开放政府隐私保护指令》（Directive on Open Government）
《安全监管标准》（Standard on Security Screening）
十一、咨询
11.1 有关本指令任何方面的解释，请联系加拿大财政部秘书处公共咨询处（Treasury Board of Canada Secretariat Public Enquiries）。
11.2 来自联邦机构的个人可以联系 ai-ia@tbs-sct.gc.ca，咨询有关本指令的任何问题，包括算法影响评估。
【附录A】定义
行政决策
由本指令第9节所确定的机构的被授权官员根据议会法案赋予的权力或经由国王特许所作出的会影响到法律权利、特权或利益的任何决策，是为行政决策。
算法影响评估
一个可帮助机构更好地了解和降低与自动化决策系统相关的风险，并提供与正在设计的应用程序类型最匹配的，合适的，用于治理、监督和报告/审计要求的框架，是为算法影响评估。
指用于执行通常需要生物脑力才能完成的任务的信息技术，例如理解口语、学习行为或解决问题。
自动化决策系统
包括任何协助或取代人类决策者判断的技术。这些系统汲取了统计学、语言学和计算机科学等领域的内容，并使用了如基于规则的系统、回归、预测分析、机器学习、深度学习和神经网络等技术。
程序公正
程序公正是政府和准司法决策的指导原则。法律对任何特定决策过程所要求的程序公正程度随着该决策的重要性及其对权利和利益的影响而增加或减少。
源代码
指在通常由编译器或解释器翻译成目标代码之前，以可供人类阅读的原始编程语言形式存在的电脑程序。它由算法、计算机指令组成，还可能包括开发人员的解说。
测试环境
一个包含执行测试所需的硬件、仪器、模拟器、软件工具和其他支持元素的环境。
【附录B】影响评估标准
【附录C】评估标准要求
评论排行