“ 任何一项拟议法律，最令人好奇的方面也是它最基本的东西：总体治理安排。”
（网图，侵删）
A Few Questions about Canada’s Artificial Intelligence and Data Act
关于加拿大《人工智能和数据法案》的几个问题
翻译：岑君伊
一项新的立法出台后，需要一段时间才能消化这些内容。在人工智能和数据法案（AIDA）作为C-27法案的一部分被提出来讨论，并影响加拿大私营部门的隐私法律后的几周内，出现了大量文章讨论它的具体细节。通常，他们的作者将AIDA描述为管理人工智能（AI）系统的新制度，其重点是防止危害，以及对违反规定的严厉惩罚。他们概述了与数据匿名化有关的主要条款，以及对高影响系统的特定要求，并且经常对遗漏的内容和包含的内容给予同样的关注。
AIDA由加拿大创新、科学和经济发展局（ISED）起草，它的结构类似于一个框架，将通过法规来充实。它的双重目标规范商业和防止伤害与其他全球举措相呼应，尤其是欧盟提出的《人工智能法案》（AIA）。但与全面、详细、规范的的AIA不同，加拿大的AIDA仍然是高级别的，立法中的关键要素尚未定义。
有趣的是，内阁有权就一系列问题制定法规，这些问题将从根本上决定未来加拿大私营部门人工智能相关政策的特征。
这些问题围绕着识别：
什么构成了AI系统的“有偏见的输出”
“高影响力系统”的定义
与数据匿名化、人工智能系统风险及其缓解有关的措施
AI系统影响评估
构成物质损害的定义
聘用独立审计师的规则
根据AIDA获得的信息的披露规则
AIDA没有明确回答这些决定行业的问题，这可能会成为未来公共讨论的一个聚焦点。在一些观察人士看来，在未来法规中嵌入如此多“有意义的定义”的决定，可能看起来像是一种“投机”。对另一些人来说，这可能被解释为“为一个动态和不断变化的政策领域引入灵活性”而作出的精心安排。无论如何，“高影响系统”这个术语仍然没有定义，人们也可能无法对这项立法提出的监管内容有任何有意义的理解。因此，AIDA在这个方面，乍一看可能是有争议的，双方都有自己的看法，或者代表着更令人不安的东西一套法律上确立的规则，用于监管一些不确定的东西。
这项拟议中的法律最令人好奇的地方，也是它最基础的地方：全面的治理安排。在法律、政策制定、行政和执法方面，拟建一个单独的部门即加拿大创新、科学和经济发展局（ISED），作为人工智能的实际监管机构。
这种设置与隐私法的情况形成了鲜明的对比。在隐私法中，虽然由ISED起草立法和相关政策，但有单独的管理和执行实体。例如，根据加拿大现行的私人部门隐私法（《个人信息保护与电子文件法》），隐私专员作为无党派和独立的监察员，向议会报告。私隐专员负责解释私隐法例和政策，并调查个案。根据第C-27号法案，确保通过合规的、法律的模式，将隐私专员从监察员转变为执法者，拥有广泛的命令制定权。它还设立了个人信息和数据保护法庭，接受隐私专员的建议，作出最终决定，并根据拟议的消费者隐私保护法案执行政策。
然而，在AIDA的案例中，ISED负责起草、解释和执行法律。此外，AIDA声明“部长可以指定一名其主管部门的高级官员，称为人工智能和数据专员，其职责是协助部长管理和执行这一部分。没有独立于ISED或角色分离。
那么，AI的最佳治理是什么样子的呢？2014年，经济合作与发展组织（OECD）发布了一份指南《监管机构的治理》，强调了独立监管决策的重要性，在“公正性感知推动公众信心”，以及“监管机构的决定可能对特定利益产生重大影响”的情况下，与政治过程保持距离。很明显，在关于“角色明确”的章节中，指南论述了作为服务提供组织的政府部门的情况，认为当它们也监督标准的执行时存在潜在的利益冲突：“将提供服务的职能或向外部提供者提供资金与执行监管标准结合起来，也可能产生冲突特别是当同一名工作人员执行两项职能并向同一决策者报告时，因此应避免。这些冲突可能会出现，因为严格执行监管标准可能会影响政府服务的供应或交付成本。”
这一考虑对ISED来说意义重大，其使命包括“继续支持加拿大的经济增长和传统强势产业的复苏，包括但不限于汽车、航空航天、自然资源和农业食品，以提高生产力和创新，并加强加拿大的制造业基础”。
ISED是政府支持工业项目的主要参与者。例如，考虑一下全球创新集群计划，加拿大政府通过ISED，在五年内提供大约10亿美元，与产业相匹配，以促进创新和增长。其中两个集群，数字技术和人工智能供应链，与AIDA提议监管的技术直接相关。此外，我们可以预期，随着时间的推移，人工智能将渗透到大多数行业。我们有理由问，一个与数字和人工智能产业合作并为其提供资金的部门，如何能够公正地为其客户设计、开发和使用相同的技术。
加拿大是世界上首批引入人工智能相关立法的国家之一，并构建了一套与人工智能系统的开发和使用相关的要求草案，这一点值得称赞。AIDA仍处于初审阶段，我们可以预期它将在立法过程中进行修订。这是一件好事。除了为“围绕人工智能规则和要求的不可避免的问题”寻找答案之外，还应该就监管立法和随之而来的政策的制度安排进行健康和透明的讨论。明显的问题包括：
加拿大私营部门享有对人工智能相关活动的政策、管理和执法的部长级权力是否合适？
对于想要对部长或部长级指定人员的决定提出质疑的个人和实体，是否有可用的法律补救措施，就像处理隐私相关问题一样?
为什么政府设立了一个新的人工智能和数据专员，而不是扩大现有隐私专员的授权?
为什么要为“加拿大人工智能系统的监管”创建不同的治理结构，而不是使用隐私法的结构?
这些问题反映了一个单一政府部门与AIDA相关的潜在职能冲突，其重要性既来自于“ISED在加拿大人工智能产业迅速扩张时的关键作用”，也来自于对决策透明、决策问责和准入的需求。简而言之，在这种背景下，保护消费者和行业发展的双重作用可能而且肯定会给行业发展带来某种棘手的平衡。
