扩建AI能力的五步指南

机器学习是一项革命性的技术，已经开始从根本上颠覆公司的运营方式。根据麦肯锡公司全球人工智能调查报告，现在很多企业已经积极寻找将其应用到组织实践中。与此同时，已经有一小部分公司已经成功部署了人工智能。考虑到有关AI不道德使用以及公众对其潜在不利影响的日益担忧使得过程更难实现。

人工智能带来了独特的治理挑战

我们生活在一个充满不确定性的世界中，通过在没有明确编程的情况下发现数据中的模式和关系，构建能够在一定程度上应对现实的学习能力并产生着巨大的机会。但同时机器学习也带来了独特的治理挑战。一方面，这些系统严重依赖数据，这会促使公司大量收集个人数据，从而引发潜在的隐私问题。其次，收集、清洗和处理高质量数据是一项成本高且复杂的任务。因此，业务数据集通常不能准确反映“真实世界”。即使能反应也可能只是带有人类偏见的歧视性结果。这是因为 AI 中的反馈链路可能会放大数据中嵌入的所有先天倾向。最后，具有无限存储能力的大规模计算系统的力量消除了匿名选项使得详细的个人行为信息能够以前所未有的高粒度进行定位。

更具有挑战的是，由于人工智能驱动的系统随着数据和使用而发展，它们的行为很难预测。当它们行为不当时，它们也更难调试及维护。与传统软件相比，人们不能简单地通过纠正系统指令来完成修复。简而言之，当出现问题时，更难确定问题发生的原因并实施纠正措施。

因此，需要综合AI相关的治理难点，然后设计和执行合理的策略。为了帮助公司合理部署并提升人工智能，我们提出带有启发性的的五步指南作参考。

扩建AI能力的五步指南

1. 定义AI 的价值

为确保整个组织都朝着同一个方向努力，高管们必须通过一个协作过程，让董事会成员、高管和高级管理人员参与，为他们的公司定义AI部门对公司的价值及如何合理使用。这可以采取一套原则的形式来指导人工智能服务或产品的设计和使用。这些原则的起草过程应围绕人工智能如何为组织创造价值以及需要减轻哪些风险（例如品牌声誉、员工安全、对客户的不公平结果、公众话语中两极分化加剧）的实际思考来构建道路。

包括谷歌和微软在内的主要行业参与者已经朝着这个方向前进，并发布了他们负责任的人工智能原则。更多的公司应该效仿他们。起草这些原则有两个主要好处。首先，它让每个人，尤其是高层管理人员，都有机会接受有关负责任人工智能的教育。其次，它可以构成负责任的 AI 业务战略的基础，详细说明您的组织计划如何构建有价值的 AI 服务和产品。

2. 构建组织能力

设计和部署值得信赖的人工智能系统应该是整个组织的努力方向。它需要完善的规划、跨职能和协调执行、员工培训以及对资源的大量投资，以推动AI 实践。为了试点这些活动，公司应该建立一个内部“人工智能卓越中心”，将其精力集中在两个核心职能上：培训和推动执行。

事实上，为了做好自己的工作，员工需要接受培训，以了解风险在他们与人工智能系统的上下文交互中是如何体现的，更重要的是，如何识别、报告和减轻风险。此外，也可以与优秀的人工智能解决方案和产品实施的商业“领袖”密切合作。

3. 促进跨职能协作

风险具有高度关联性，这意味着不同的业务职能具有不同的风险认知。在设计策略时，确保各个部门的观点互补，制定合理的风险优先级方案。

这将减少高层管理人员的“盲点”，并确保您的员工在执行过程中提供更有力的支持。此外，由于学习系统往往会引发意想不到的行为，因此在系统运行时会存在需要解决的风险，高效的跨职能协作将是设计和实施有效补救措施的关键。

4. 采用更全面的性能指标

目前业界通常根据其在基准数据集上的平均性能来评估人工智能系统。然而，人工智能从业者和研究人员承认这是一种相当狭隘的绩效评估方法，并且正在积极研究替代方法。

我们建议采用更全面的方法——公司应定期根据其AI原则监控和评估其系统的行为。从这个角度来看，如果系统的行为符合组织定义的负责任的人工智能服务或产品，则该系统被认为是高性能的。

5. 定义明确的责任线

如果没有建立正确的责任线，拥有正确的培训和资源则不足以实施持久的变革。换句话说，要做正确的事，员工必须有正确的激励并因做正确的事而得到认可。在这里，我们建议两种补救措施。

首先，可以引入一个审查流程，作为AI产品发布前审查的一部分，或者独立于它，以确保道德考虑得到解决。这个审查过程应该与一个组织框架联系起来，该框架映射了每个相关团队的角色和职责，以及如果存在持续分歧时要遵循的升级程序。其次，报告有问题的并花时间采取纠正措施的员工应该得到奖励，作为年度绩效评估的一部分。

未来的道路

企业领导者越来越意识到，需要对 AI 采取负责任的方法，以确保有益且值得信赖地使用这种变革性技术。但这是有难度的，需要深刻的组织变革。

与生活中的任何重大变化一样，第一步通常是最艰难的，希望我们的指南能够帮助商业领袖度过这个过渡阶段。也希望他们坚持下去，因为从长远来看，优秀的人工智能驱动的公司可能是最具竞争力的。