人工智能治理和监管是 IAPP CPS 2023的首要考虑

与现代经济的其他方面一样，生成人工智能和算法决策系统的快速发展将从根本上彻底改变隐私。

在上周举行的2023年IAPP加拿大隐私研讨会的众多会议上，与会者对各组织如何确保建立全面的人工智能治理框架感兴趣，同时关注如何在加拿大对该技术进行监管，可能通过拟议的《人工智能和数据法》进行监管，该法案包含在综合法案C-27中。

透明度是正确开发公智能的关键

微软加拿大隐私风险合规总监Jason Bero表示，人工智能在2017年首次通过识别人类语音的能力实现了“人类平等”。他说，仅仅六年后，ChatGPT和图像生成器DALL-E等创造性生成人工智能模型的快速发展表明了这项技术看似无限的潜力。

Bero表示，微软认为人工智能有能力极大地造福于社会的各个领域，例如医疗保健领域，公司官员表示，人工智能可以在五年内促进阿尔茨海默病的治疗方法的开发。他说，这些进步不会没有一些最初的缺点，并要求科技公司提高透明度。

他说：“透明度可能是我认为的领域——不仅仅是我们微软，还有OpenAI和谷歌——我们可能会在透明度方面做得更好。”

治理是最值得关注的领域

对于开始部署自动化决策算法的公司来说，确保其按照更广泛的组织数据治理结构处理个人信息至关重要。

Pentavare首席隐私官Robin Gould Soil（CIPP/C）和CIBC AI治理与标准高级经理Tiffany Wong（CIPP/E）表示，各组织应实施协议，以确保算法不会违反管辖法规和组织价值观。

Wong表示，致力于实施值得信赖的人工智能决策系统的组织最关心的是问责制，以及透明度和公平性。问责制“对隐私专业人士来说非常熟悉”，与人工智能的不同之处在于，确定谁负责更为复杂。

Gould-Soil表示，公司正在部署决策系统的隐私专家应牢牢掌握公司使用的API，这将更好地帮助IT团队操作自动化决策系统，将公司的价值注入系统输出。她说，如果没有公司API的实用知识，隐私专家很难充分评估决策算法如何在后端处理个人数据。

Gould Soil说：“你必须能够描述你想通过（你的组织）原则实现什么。”

微软的Bero表示，尽管利用生成人工智能可能会提高组织内部的效率，但隐私专业人士仍将负责确保该系统保护个人信息，即使他们依赖OpenAI等开源人工智能系统。

他表示，由于公司各部门产生的数据量巨大，将组织数据治理移交给人工智能最终将成为必要，如果公司对其部署的模型没有组织控制，隐私风险可能会加剧。

Bero说：“因为（人工智能）是数据，在这种情况下，数据通常被转换为记录或数据治理，我们的数据库有数十亿条记录。我们有由机器人生成的文件，所以我们可以生成更多的文件，用更少的资源做更多的事情。”。

“当你使用开源人工智能来帮助处理这些数据时，处理这些数据的组织仍然有责任，（而且）隐私专业人员需要意识到隐私风险。”

ARI负责人兼创始人Serena Nath表示，至关重要的是，组织不要被实施人工智能系统可能出现的问题所吓倒。她说，在选择特定的人工智能系统之前，组织内的利益相关者都应该达成一致。

Nath说：“我听很多人说人工智能是一种整体技术，但事实并非如此。从单个工具的角度评估技术是必要的，因为这是你可以开始真正评估每个工具的风险和收益的基础。”加

拿大人工智能监管落后于欧盟

关于加拿大首次尝试在拟议的C-27综合立法中监管人工智能——《人工智能和数据法》——CPS提案人的普遍共识是，该法律的拟议语言在这个时候留下了更多的问题而不是答案。与欧盟拟议的《人工智能法》相比，几位CPS主持人认为，AIDA中没有那么多的硬性法规。

该法案于4月在议会二读通过，目前正在下议院工业和技术常务委员会审议。

Borden Ladner Gervais合伙人兼国家人工智能领导者Francois Joli Coeur表示，AIDA代表了一种监管人工智能的“横向方法”，与《欧盟人工智能法》相同，而不是一种行业集体使用人工智能由行业量身定制的法律监管的“理论方法”。

Joli Coeur说，AIDA监管“本质上有两种类型的活动”。“第一类是关于人工智能系统的设计、开发和使用实际使用的数据。第二类是关于参与人工智能系统生命周期的组织。”

虽然AIDA是本着《欧盟人工智能法案》的精神起草的，但会议上的普遍感觉是，AIDA远没有那么全面，可能会让加拿大企业在没有更明确的法规的情况下自生自灭。

渥太华大学加拿大信息法律和政策研究主席Teresa Scassa表示，AIDA从一开始就存在缺陷，因为它没有提供一个与大量利益相关者进行协商的机会。

Scassa说，如果通过，这项法律将创造一个类似于“疯狂自由党”的空白游戏的环境，因为执政政府将在没有议会参与的情况下根据这项法律制定最终法规。

Scassa表示，一项措辞更为精确的法案将更好地为加拿大服务，该法案禁止人工智能系统可能产生的某些类型的危险活动。

她表示，如果AIDA获得通过，在制定各种法规方面仍将存在监管滞后，并提到了政府自己提出的两年实施时间表。她还呼吁政府制定“一套原则”，以帮助制定未来的人工智能法规。

她说：“缺乏协商是一个民主问题，但也是法律实质的问题。当然，随着技术的快速发展，你不想制定不足以适应不断变化和发展的技术的立法原则或立法规则。把事情交给监管没有什么特别灵活的。监管需要时间来制定。”

隐私副总裁兼首席顾问Lauren Reid表示，在即将出台的AIDA立法之前，负责任的公司正在寻找在“缺乏明确性”的情况下积极主动的方法。

Reid说：“你采取了更规避风险的方法，并试图思考可能发生的一切。在缺乏监管的情况下，这将带来更好的商业成果。”