财联社4月2日讯（编辑 周子意）人工智能（AI）带来机遇的同时，越来越多人对即将到来的下一代人工智能（AI）感到忧心。周一（4月2日），美国和英国宣布在人工智能安全科学方面建立新的合作伙伴关系。
美国商务部长吉娜雷蒙多和英国技术大臣米歇尔多尼兰周一在华盛顿签署了一份谅解备忘录，宣布共同开发先进的人工智能模型测试。
这是继去年首届全球人工智能安全峰会上宣布的国际声明后，全球达成的又一份国际合作。
去年11月，首届全球人工智能安全峰会在英国布莱切利庄园举行，开幕式上，包括中国在内的与会国共同达成《布莱切利宣言》，这是全球第一份针对人工智能这一快速新兴技术的国际性声明。
人工智能风险
生成式人工智能可以根据开放式提示创建文本、照片和视频，不过它也存在许多负面因素，例如淘汰一些工作岗位、影响选举结果、并可能推翻人类、造成灾难性后果。
周一，雷蒙多和多尼兰在接受联合采访时表示，需要紧急采取联合行动来应对人工智能风险。
雷蒙多指出，她特别担心人工智能应用于生物恐怖主义或核战争模拟的威胁，“这些事情的后果可能是灾难性的，所以我们真的必须对其中一些模型被用于这种能力持零容忍态度。”
雷蒙多透露，拜登政府计划很快宣布其人工智能团队的新成员，“我们正在动用美国政府的全部资源。”
多尼兰同样表示，“时间是至关重要的，因为下一代人工智能即将发布，它们将更加强大。”
基于此次合作，两国计划分享与人工智能模型和系统相关的能力和风险的关键信息，以及人工智能安全和安保的技术研究。
研究所间的交流
目前，英国和美国都建立了由各自政府主导的人工智能安全研究所。
英国去年10月份宣布成立人工智能安全研究所，将研究和测试新型人工智能；今年2月，英国还表示将斥资1亿多英镑启动9个新的研究中心，并对人工智能监管机构进行技术培训。
美国则在去年11月份表示，它将启动自己的安全研究所，以评估所谓的前沿人工智能模型的风险，目前正在与200家公司和实体合作。
根据正式的伙伴关系，英国和美国计划至少进行一次公开模式的联合测试，并正在考虑探索两所研究所之间的人员交流。
雷蒙多称，“我们都知道人工智能是我们这一代的决定性技术，这一伙伴关系将加速我们两家相关研究机构在各个领域的工作，以解决我们国家安全担忧的风险和我们更广泛的社会担忧。”
多尼兰指出，“这是世界上第一个这样的协议，人工智能已经是我们社会中一股非凡的有益力量，在应对世界上一些最大挑战方面具有巨大潜力，但前提是我们能够控制这些风险。”
（财联社 周子意）
