IAPP协会2024《人工智能治理的实践应用报告》中文版上线！

鉴于人工智能有望彻底改变我们生活的诸多方面，全新的协同治理方式至关重要。无论是在国家内部各监管部门之间，还是在跨国层面，有效的合作都至关重要：这既能保护民众免受伤害，又能促进创新与发展。

人工智能治理将变得困难得多。随着更多内部团队采用人工智能、新的人工智能功能被开发出来以及系统变得愈发复杂，人工智能治理的内部复杂性在不断增加。但与此同时，随着新法规的出台、客户需求的变化以及安全研究的发展，外部复杂性也势必会迅速增加。那些已经在结构化的人工智能治理方面进行了投入的机构已经占据了一定优势，并且将继续保持竞争优势。

采取一种生态系统的方式来进行人工智能治理至关重要。政策制定者和行业需要在诸如人工智能验证基金会这样的平台上携手合作，以理解这项技术所带来的机遇与风险。其目的在于找到共同的监管准则来管控关键风险，从而创建一个值得信赖的生态系统，以最大限度地促进创新。

人工智能治理始于通过记录以下内容来定义企业的人工智能战略：

• 目标运营模式，明确规定人工智能风险方面的角色和职责。

• 合规性评估，以确定项目的成熟度和整改的优先次序。

• 问责流程，用于记录和证明合规情况。

• 政策和程序，以制定政策标准和操作流程。

• 前瞻性扫描，使项目不断完善，并与持续发展的监管动态保持一致。

人工智能治理还要求将企业政策标准应用于产品层面。各机构可以通过以下方式确保其人工智能产品符合企业战略：

• 系统影响评估，在产品开发或部署之前识别并处理风险。

• 针对软件开发生命周期量身定制的质量管理程序，从设计上处理风险。

• 风险与控制框架，依据国际标准化组织（ISO）和美国国家标准与技术研究院（NIST）等广泛认可的标准来定义人工智能风险及应对措施。

• 合格评定和声明，以证明其产品符合规定。
  技术文档，包括标准化的使用说明和技术产品规格。

• 上市后监测计划，在产品投放市场后监测其合规情况。

• 第三方尽职调查评估，以识别可能存在的外部风险，并为选择提供参考信息。

组织的人工智能战略最终必须通过制定以下内容在整个企业中得以实施：

• 性能监测协议，以确保系统能充分实现其预期目标。

• 透明度和人工监督举措，以确保个人在与人工智能系统交互或人工智能做出决策时能够知晓相关情况，并做出明智的选择。

• 事件管理计划，用于识别、上报并应对影响人工智能系统及其运行的严重事件、故障和潜在风险。

• 沟通策略，确保组织在人工智能实践方面对内部和外部利益相关者保持透明度。

• 培训和宣传项目，使负责人工智能治理的员工能够理解并履行各自的职责。

• 技能和能力培养，以评估人力资源能力，并审查或设计工作要求。 

一个有效的人工智能治理模式关乎集体责任和集体商业责任，这应当包括隐私、问责、合规等监督机制。这种责任应当由人工智能治理链条中的每一个利益相关者共同承担。