（文／Matt Hancock，英国数字化和文化部长）
如果将人工智能这一新的技术革命视为一座蜿蜒的山脉，那我们目前在处在这山脉最前面一座低峰山的山麓。人工智能有望像19世纪的蒸汽机经济那样，彻底改变我们的生活。
人工智能已经让我们与我们的智能手机对话、向我们推荐音乐、为视力受损的人描述照片，以及预警城市中可能发生的火险。
在不久的将来，从无人驾驶汽车到智能电网，再到消灭传染病，我们将看到人工智能无处不在。
英国政府也在研究这项技术提供公共服务的潜在应用。
Government Data Programme增加了政府中相关项目和数据科学家的数量，也在确立这些强大的新工具的合理应用方面发挥了主导作用。
作为世界领先的数字化国家之一，人工智能为英国带来了巨大的机会。
如若妥善应用，我们能使经济更加繁荣，提供更好、更充实的工作岗位。我们能够更有效地利用资源从而保护环境。我们能使政府更加智能，利用数据的力量改善公共服务的质量。
正如我们已经在很多行业中所见到的，许多日常认知工作——文件归档、筛选和排序——愈发自动化，将世人解放出来将精力集中于工作更人性化的方面。
首相日前发布了一份对现代就业情况的第三方审查，以便我们为企业和工人提供的支持与劳动力市场和经济的变化保持同步。
人工智能还对伦理道德、国家治理、数据使用责任和强大的网络防御能力提出了新的问题。为了释放这场革命的全部潜力，我们必须再一次做好准备。
我很高兴Royal Society和British Academy正在进行一项审查，研究英国如何最好地使用人工智能。
本文阐述了人工智能这门科学的未来发展，描述了人工智能技术对社会和政府的一些影响，同时展现了我们能够如何负责任地使用这项技术，改善英国每个人的生活和生活水平。
这份报告是政府首席科学顾问及时且重要的工作成果。
简介
（文／政府首席科学顾问Mark Walport爵士、内政部常务秘书Mark Sedwill）人工智能已经到来。网络世界中，人工智能已经是日常生活的一部分，各种搜索引擎和在线商务网站的背后都有它的身影。人工智能为实现更加高效的商业和政府提供了巨大的潜力，但使用人工智能也带来了关于国家治理、问责制度和伦理道德重要的问题。
要实现人工智能的全部潜力并避免可能出现的不利后果，社会需要为这些问题找到满意的答案。本报告阐述了一些可能的方法，并描述了政府在处理这些问题时的一些方式。
人工智能并非是一种独特（distinct）的技术，其强大取决于一些先决条件：计算力、带宽和大规模数据集，所有这些都是“大数据”的元素，而大数据的潜力只能通过人工智能才得以实现。如果数据是燃料，那么人工智能就是驱动这次数字革命的引擎。
关于人工智能和大数据的应用已经有很多著述。本文并不试图覆盖整个领域，所有内容都源自2016年2月British Academy举行的一场研讨会，由政府首席科学顾问Mark Walport和内政部常务秘书Mark Sedwill主持，研讨会讨论了关于使用人工智能的一些法律和伦理问题。本报告的核心内容如下，附录则总结了人工智能领域大量科学和法律专家的意见。不过，我们尽量减少对技术进行详细讨论，着重实际应用争议问题。我们希望这份报告能使您初步了解人工智能。
本报告探讨了以下问题：
人工智能是什么，如何使用人工智能？
人工智能可能对生产力带来有什么好处？
如何最好地管理使用人工智能所产生的道德和法律风险问题？
利用人工智能创新和提高生产力
人工智能为提高生产力提供了巨大的潜力，最明显的是帮助企业和个人更有效地使用资源并简化他们与大数据集的交互方式。Ocado和亚马逊这样的公司正在利用人工智能优化其存库和配送网络，规划最有效的送货路线并最大限度地利用仓储容量。人工智能可以帮助公司更有效地完成现有的业务。重要的是，人工智能还可以启用全新的业务模式和新的方法解决旧的问题。例如，在医疗保健行业中，使用新的机器学习技术分析从智能手机和健身追踪器采集的数据，可以改善慢性病的管理及预防急性病的突发。
人工智能可以帮助整个企业和单个员工提高工作效率。日常管理和运营可以由软件代理（“bots”）学习，然后对各项业务进行优先级排序，管理与人类同事（或其他机器人）的日常交互以及规划行程。像Google Smart Reply这样的电子邮件软件可以根据之前对类似邮件的回复，起草回复给对方的邮件。新闻工作室越来越多地使用机器学习编写体育报道和草稿：在办公室，类似的技术可以生成财务报告和要点简报。
人工智能可以减少大数据搜索的负担。在法律行业，像ROSS、Lex Machina 和CaseText 这样的团队，正在使用人工智能筛选法院文件和法庭记录寻找与案件相关的信息。其他公司也在使用类似的技术作为日常基本工作的一部分。人工智能还可以提供与这些数据集交互的方式，诸如 IBM Watson 等平台能够支持专家系统，后者可以回答有关事实的自然语言问题。对于网络安全公司，人工智能则提供了一种识别网络中异常行为模式的方法。
这些例子描述的都是使用软件从事与人类相同的事情，但在许多情况下，软件能够分析规模或复杂程度超出个人分析能力的数据。事实上，人工智能不是人类智能的替代品。这是一种以全新的方法得出结论的方式。人工智能可以弥补或超越我们自己的能力：它可以与我们一起工作，甚至对我们进行教育，李世石与 AlphaGo 对弈后与人类交战屡战屡胜便是证据。这为创新发明提供了新的机会。或许，人工智能带来的实际生产力增益将是向我们展示新的思维方式。
英国人工智能技术基础科学方面世界领先，拥有由投资者、雇主、开发人员和客户的构成的繁荣生态系统，以及支持类似 Alan Turing Institute 等机构的网络。剑桥、牛津、帝国理工和伦敦大学学院等大学率先开发的创新技术已经在全球数百万人使用的工具中得到了应用，越来越多的英国创业公司选择留在英国，进一步在英国加强人工智能专业知识和能力。
这种潜力正在推动在人工智能在一系列行业中得到迅速应用。用技术专家凯文·凯利的话来说：“未来一万家创业公司的商业计划很容易预测：X＋AI。” 鉴于“人工智能”、“机器学习”和相关术语的不同定义，很难估计这种增长的规模：也很难划清“大数据”和“机器学习”的界限。但是，2015年美国报告显示，“机器人和基于人工智能的系统”全球市场份额将从2014年的580亿美元增长到2020年的1530亿美元。
更广泛地看大数据，今年早些时候发布的一份报告显示，大数据和物联网的估值在2015 - 2020年之间，对英国的累积效益预计为2400 亿英镑；制造业将产生最大的效益，所有产业的最大收益都将来自于增效节支。2015 年的另一份报告预测，使用大数据能够实现欧洲政府的主要运营成本节省，此外还能增加税收、降低诈骗案和出错率。与此同时，2014 年对 500 家英国企业的研究得出结论，那些更好地利用客户和消费者数据的企业，比没有这样做的企业的生产效率高出 8% 至 13%。对机器人、数据和人工智能——有时也称为“工业4.0”——系统的影响进行更广泛的预测也会带来巨大的收益。
麦肯锡调查表示，企业自己预计因为工业 4.0 而带来的收入增长为 23%，生产力增长 26%。人工智能在实现所有这种增长方面具有核心作用。
政府使用人工智能
政府已经在使用机器学习等数据科学技术，Government Data Programme 的工作使其使用不断增长。这些技术提供了对一系列数据的洞察，从提供数字服务反馈到分析卫星图像利用耕地。随着这些技术变得愈发复杂，可以实现更多的益处。例如，我们可能：
通过预测需求和更准确地定制服务，使现有服务（如健康、社保、紧急服务）更有效率，使资源得到最大程度的分配
使政府官员更容易使用更多数据进行决策，并减少欺诈和出错的几率。
使决策更加透明（可能通过采集过程背后的数字记录，或通过数据可视化支持决策）
帮助政府各部门更好地了解他们所服务的人群，确保向每个人提供适当的支持和机会
随着数据和人工智能的使用变得更加主流，其他应用也将随之出现。
政府是一个特殊机构，具有不属于私人组织的独特义务。政府行为必须透明，遵循正当程序，对公民负责。这意味着除了上面概述的一般要点外，政府在使用人工智能和大数据时还有特殊的责任。
意识到这一点，政府已经发布了政府分析员关于政府内部数据科学工具的使用伦理指南。大量来自外部的输入和政府内部数据科学家共同制定了这一首例行为规范，使其尽可能实用。
这里特别强调了与政府特别相关的两种用途：使用人工智能提供建议，以及使用人工智能可能产生的法律影响。
对劳动力市场的影响
机器学习、机器人技术、大数据和自动化系统的出现，可能对经济和劳动力市场产生重大影响。这些技术一起被视为新一轮“通用”数字技术的一部分，其影响堪与蒸汽机和流水线相当，具有推动重大社会经济变化的潜力。有证据表明，这些技术可以推动生产力增长，从而促进经济增长，但关于这些变化的规模和速度还有着很大的不确定。这些改变将取决于技术发展的速度和企业在整个经济中使用这些技术的速度。
其中，这些技术可能对服务业中产生特别的影响，服务业是英国就业人数最多的产业。虽然制造业由于技术革新而发生了革命性变化，但个人服务遭受的影响较小，因而并未出现在制造业中所显现的生产力增长。然而，OECD 证据表明，全球领先的服务业公司的生产力增长明显超过了技术较为落后的竞争对手。
大数据、机器人和自动化系统对劳动力市场的确切影响是很有争议的话题。关于自动化可能造成多大规模的工作岗位消失，目前很少有共识，而工作岗位消失规模通常是这些讨论的重点。例如，来自德勤的一项研究发现，35%的英国工作岗位将在未来 10 至 20 年内受自动化的影响。相比之下，OECD 则表示只有 10% 的英国工作岗位面临消失的风险。其原因有可能是构成特定工作的某项业务将产生很大的变化；该研究还发现，对于另外 25% 的工作，其基本业务可能发生显著变化。这意味着虽然一个职位可以保持不变，但在未来所需的技能可能会有很大的变化。
不仅如此，我们应该预计随着一些工种的消失，新型的工作会出现。有理由认为自动化可能不会减少就业，因为新的产业可能出现，并因为生产力提高而导致更高的收入和成本下降从实现增长。根据皮尤研究中心的调查，美国专家对机器人技术和人工智能的净影响进行了分析：48% 的受访者认为新技术将取代更多的就业机会而导致就业率下降，52%的受访者则认为新技术将创造更多的就业机会，并导致就业率上升。
自动化将有很大可能改变人们的工作类型和需要的技能类型。证据表明，自动化程度的提升将威胁常规手工工作和日常认知工作。事实上，技术再加上贸易，已经增加了高技能工作岗位的比例，降低了中低技能工作岗位的比例。
英国就业与技能委员会（UKCES）预计，2012 - 2022这十年间，新出现的多数工作有望归入高技能工作类型，到 2022 年，半数以上的工作都集中在管理、专业（professional）和准专业（associate professional）方面。欧盟地区，熟练工人可能会供不应求。有些学历和岗位则很大部分涉及常规认知任务。上述各方面的创新意味着拥有学历不一定保证员工免受自动化的影响。
未来的工作将具备技术补充功能，而不是被技术所取代，因为未来的工作会包含开发、利用新技术的各项技能。有充分证据表明，STEM（科学、技术、工程、数学）和数字技能的需求会不断增涨。UKCES 预计，2012 年至 2022 年期间，程序员和软件开发人员的数量将增加 20% 左右。
如果工作中涉及难以自动化的任务，新技术则可对技术进行补充。Frey、Osborne 强调感知、创造性、复杂操作和社会智能的重要性。OECD 认为，那些对创造性、环境适应性、任务裁量权、社会技能和隐性认知能力依赖性较高的个人对个人（P2P）的服务和职业受自动化的影响较校European Commission（2013）强调，受自动化影响较小的工作往往需要人善于思考、交流、组织和决策。
技术变革可能导致特定工作技能更快地消失，人们更换工作的频率可能会更高。这需要个人在整个职业生涯中不断对自己进行再培训，积极主动、乐于改变并具备职业弹性。这也意味着，跨领域的“通用”技能（如解决问题和思维灵活性）的价值性将越来越高。
政府的作用是促进新技能的开发，让工人接受再培训，以便他们在各自工作中使用人工智能，或转向注重人际交往能力（如共情和创造力）的工作领域。
新的挑战
重要的是要认识到，除了人工智能提供的巨大利益之外，还存在与一些与其用途相关的潜在伦理问题。许多专家认为，政府在管理和减轻可能出现的任何风险方面都可以发挥作用。任何工作都需要考虑两个广泛的领域：
了解机器学习方法与创建日益增加的个人数据的结合，可能对个人自由以及隐私和同意（consent）等概念产生的影响
适应由人工智能进行决策的问责概念和机制
统计分析使用过去的数据预测不同群体可能的行动或质量，这种方法广泛应用于公共和私营部门。对于保险公司，统计分析能更好地评估风险。对于商家，统计分析能更好地定位用户。对于执法，统计分析能更准确地评估威胁。
基于种族、生活方式或居住地的分析所产生的风险是对个人持有成见，不过这种风险可以予以规避。在英国公共行业使用这些技术的组织往往避免使用种族、国籍或地址作为标准，避免遭受不公平歧视的指控。“无罪推定”原则对上述推测方法的应用提供指导，该预测方法通常用于将警务资源分派到那些提前干预对目标个人有好处（而非做表面工作）的街区。当然，其他执法机构需要具备准确确定个人目标的能力，以避免被成见想法误导，从而更好地利用警务资源。
人工智能技术还有可能从公用数据中推导出某类私人信息，如个人或和个人有关的其他人员（如朋友、亲戚或同事）的在线行为。该信息可能超出个人起初同意披露的范围。
信息委员会的匿名行为条例，就相关部门管理此类风险并防止从综合匿名数据中重新识别个人的方法，作出明确规定。然而，随着公共数据量不断增加，以及更为强大人工智能技术逐渐得到开发，之前可能性极小的个人重新识别将变为不可避免，因此各组织部门需要定期重复检视其防护措施情况。
算法偏差可能导致偏见的风险。该偏差主要来源于深度学习系统的训练数据，比如某所大学利用机器学习算法来评估入学申请。用于训练算法的历史入学数据（有意或无意）反映出提前录取过程的某些偏差。偏差会以这种方式在社会中永久存在，造成不公平现象的恶性循环。为消除该风险，技术人员应该确定其数据中的偏差，并采取措施评估这种偏差的影响。上述问题当前成为英国甚至全球各大学计算机科学系、政策智库和报社争论的主题。争论的焦点是治理问题以及社会实际应对方式。
许多专家和评论家建议，确保问责的透明度是必要的：明确使用了哪些算法、哪些参数、哪些数据实现了什么目的将是必要的，这样才能确定人工智能技术是否被负责任地使用。
有时，还需要平衡安全或商业重点与透明愿望之间的关系：更简单地说，弄清算法参数可以看出个人和企业钻系统漏洞，更改其应对行为的情况。根本的问题是，透明不会为人提供所要寻求的证据：仅仅提供静态代码不能保证该代码实际运用于特定决策，也不能保证该代码行为方式和程序员在给定数据集中所预期的一致。
计算机科学家和政策专家目前正在开发技术解决方案，解决上述算法责任问题。未来将有可能证明“程序规范性”或给定算法应用的一致性。另一种方法是利用机器学习技术，找出算法应用中非一致性或异常结果。
人为判定人工智能评估方法是否成功重点在于，用数据检验算法所获得的信息量大于对算法的单独关注，而通过人与系统的互动对算法和数据进行研究所获得的信息量则更大，因为人的行为会生成更多数据和反溃分析人员在评估其所编写的算法的潜在影响时，使用的工具在应对现实情况方面应当具有一定的敏感性。开发人员在鉴别风险时需要考虑到整个社会的应用情况。
最后，相比关注结果和导致该结果所采用的流程，努力了解具体决策的成效可能更低。明确系统是否取得了预期目的，同时这一目的是可取的，这个问题的重要性不啻了解底层算法的技术问题。
总结
我们可以从这一革新信息技术中获益良多，这就需要有相应的伦理治理方法，促进创新，建立民众信心，创造稳定的商业和投资环境，适度推动数据访问，以便计算机科学将该技术进一步发扬光大。政府应积极努力，协助上述目标得以实现，这点至关重要。
人工智能治理方式正确，确实有助于提高数字数据的使用范围，这一点不言而喻。我们应考虑到涵盖日趋复杂空间全部要素的数据治理方式，包括负责任地将人们行为生成相关数据并对自主软件代理负责等。另外，所采用的方法应具灵活性，能够适应新用途以及更高级的新型人工智能。有多种模式值得考虑。重要的是先确定从何处着手，而不是考虑如何去实现。
英国皇家学会和英国国家学术院目前正在研究数据科学和机器学习治理国家中出现的新挑战。对于更广泛的社会和道德问题，该项研究将对英国的应对方案予以考虑。这一定会大受欢迎，并为道德和行业治理指出一条正确的且最为清晰的道路。 在有效公众对话方面，英国享有良好记录，并对存在监管和道德问题的新兴技术（如胚胎研究、生殖技术和杆细胞研究）实施强有力的管理。在这样的背景下，人工智能推动国民经济发展和民生福祉的潜力一定会实现。
