不断重构的理念始终流淌在亚马逊云科技的DNA中。
“围绕生成式AI模型的创新具有爆炸性。它将重塑我们在工作和家庭中交互的每一个应用程序。我们正在以一种跟以往完全不同的方式来探讨生成式AI的整个概念。”亚马逊云科技首席执行官Adam Selipsky在2023 re:Invent大会主题演讲中如是说。
作为有史以来规模最大的科技盛会,2023 re:Invent大会上已推出了许多“炸翻全场”的产品,展示出从底层基础设施到行业应用多样化的技术创新,更体现了亚马逊云科技能够领跑云计算市场的根本驱动力“从用户中来,到用户中去”。而随着生成式AI在2023年大热,如何打响亚马逊云科技的生成式AI之战,并赢下这一战,成为这家全球第一大云巨头的首要任务。
不断重构
开创企业级生成式AI时代
2023年可以说是生成式AI的奇点时刻。
每天太阳升起,都会有新的生成式AI创业公司成立;各个行业的大型企业也跃跃欲试,希望通过生成式AI来创造新的业务增长点。
但具体生成式AI应该如何从0到1搭建呢?
2023年4月,亚马逊云科技就曾率先推出生成式AI工具“全家桶”,重磅空降ChatGPT引发的全球AI大竞赛战常而在re:Invent最新发布上,继推出工具“全家桶”后,亚马逊云科技全新披露的生成式AI技术堆栈再度充实了技术版图,以为用户生成式AI应用的落地提供更全面的支持。
这次新披露的全栈生成式AI,包括三个重要层级。从底层负责训练和推理的基础设施层,到中间微调模型需求的工具服务层,再至上层构建生成式AI应用层,亚马逊云科技在不断在三个层级中重构,需求支持生成式AI的最优解。
→训练和推理的基础设施层
在训练和推理的基础设施层,亚马逊云科技合作与自研两手抓,一方面与NVIDIA合作,推出了首个NVIDIA GH200 NVL32实例,大大提升模型训练中并行计算的速度,可用于加速训练1万亿个参数的AI大模型;同时,亚马逊云科技全新推出的自研芯片Amazon Trainium2则在上一代芯片的基础上针对万亿参数的基础模型(FM)和大语言模型(LLM)训练做了优化,性能比前代提高了4倍,能源效率也是原来的2倍。
→模型需求的工具服务层
中间工具层方面,亚马逊云科技通过Amazon Bedrock平台为客户提供访问各种基础模型的API途径。在本次的re:Invent大会上,Amazon Bedrock的功能再度丰富,除了新增模型的微调、检索增强生成(RAG)以及基于Amazon Titan大模型的预训练等基础能力外,还要更简单、更安全。
针对便捷性和安全性的需求,亚马逊云科技重磅推出了Agents for Amazon Bedrock和Guardrails for Amazon Bedrock两大功能。Agents for Amazon Bedrock通过完全托管式的Agent帮助用户大大简化创建和部署AI大模型的流程;Guardrails for Amazon Bedrock可以为所有应用程序提供跨基础模型的一致的AI安全级别,帮助用户根据需求和AI政策定制保障措施。
值得特别关注的是,亚马逊云科技还特地邀请了Anthropic CEO Dario Amodei到现场分享。Anthropic由前OpenAI工程师于2021年创立,利用亚马逊云科技的专用机器学习芯片Trainium来训练他们的下一代复杂Claude模型。
今年9月25日,亚马逊云科技与Anthropic宣布达成战略合作,Amazon Bedrock的客户还将享有独家早期使用权,体验其他地方无法使用的先进 Claude定制和微调模型功能。这场生成式AI的竞赛当中,Adam也表示亚马逊云科技会持续拓展与业界领先的创新公司深化合作。
→生成式AI应用层
在应用层上,Adam正式宣布推出企业应用助手Amazon Q。这是一项极具份量的发布。在专业分析师认为:“这是在用AI武装开发者,帮助他们取得成功”。Amazon Q由亚马逊云科技17年来积累的知识和经验训练而成,用户可以通过亚马逊云科技管理控制台、文档页面、IDE、Slack或其他第三方对话应用程序的聊天界面访问Amazon Q,让生成式AI无痛融入日常工作。
对于Amazon Q的能如何完成生成式AI领域的生产力变革,亚马逊云科技全球CEO Adam举了一个例子,亚马逊云科技内部的一支小团队就成功在短短两天之内,使用Amazon Q将上千款应用程序从Java 8升级到了Java 17,甚至完成了相应的测试。
面向工作场景,亚马逊云科技还全新发布了由生成式AI驱动的Amazon DataZone智能推荐功能,可以大幅减少为组织数据提供上下文所需的时间,从而更轻松地管理、维护数据资产。
从全新发布的一系列生成式AI技术堆栈下的应用服务中,不难看出,亚马逊云科技不是“为了技术而技术”,而是致力于以技术创新匹配用户业务的创新发展,不断降低用户撬动新利润增长点的技术门槛。
不断重构
让数据爆发独特价值
经历二十多年的信息化,大部分企业已经从“没有数据”发展到了“数据太多”的阶段,生成式AI时代带来的应用,更让数据急剧膨胀。在去年的re:Ivent上,亚马逊云科技就有Zero ETL的重要发布。何谓“ETL“?就是将业务系统的数据经过提取(Extract)、转换清洗(Transform)和加载(Load)到数据仓库、大数据平台的过程,目的整合企业分散、零乱、标准不统一的数据,为企业的决策提供分析依据。
在最新的发布中,亚马逊云科技推出了Amazon Aurora PostgreSQL、Amazon DynamoDB、Amazon RDS for MySQL 与Amazon Redshift数据库共4项新的Zero-ETL集成功能,以及Amazon DynamoDB与Amazon OpenSearch服务的Zero-ETL集成。这些Zero-ETL集成使用户能够更轻松地连接数据并对数据进行处理与分析,无论数据位于何处,亚马逊云科技都可以帮助用户利用亚马逊云科技至广至深的数据库和分析服务发现新的见解、加快创新速度并做出更好的数据驱动决策。
其中,新的Amazon Aurora PostgreSQL、Amazon DynamoDB和Amazon Relational Database Service (Amazon RDS) for MySQL与Amazon Redshift的集成让用户可以更轻松地连接和分析来自Amazon Redshift中多个关系和非关系数据库的事务数据。
同时,客户现在可以使用Amazon OpenSearch对Amazon DynamoDB数据近乎实时地执行全文和矢量搜索,从而获得跨多个应用的整体洞察力,在提高运营效率的同时降低成本,并生成更好的决策。
不断重构
计算、存储与网络,引领云计算创新
当然亚马逊云科技的技术重构不仅仅停留在生成式AI领域,而是追求全方位提供更好的用户体验。
“客户对提升云上算力提升性价比的需求在不断攀升。”Adam在大会上表示。因此,不断提升算力效率是亚马逊云科技的重要发力点。自2018年发布首代Graviton通用处理器以来,亚马逊云科技在芯片研发上坚持突破自我,本次发布的全新一代Amazon Graviton4较上一代核心多出50%,内存带宽提升75%, 芯片速度提升30%,能够以更高性价比支持大规模数据库、实时大数据分析等应用,并减少能源消耗。
存储方面,除了归档数据的Amazon S3 Glacier存储、自动优化成本的 Intelligent Tiering等功能创新外,亚马逊云科技面向游戏、直播、量化交易等延迟敏感的应用突破性的发布了高性能、低延迟的对象存储服务Amazon S3 Express One Zone,能够提供个位数毫秒级延迟的高性能,以支持每分钟数百万请求、每秒数十万次的数据访问,相比Amazon S3标准版快10倍,请求成本降低50%,计算成本降低60%。
在网络方面,亚马逊云科技不再满足于“地球的边界”,发布了雄心勃勃的Project Kuiper私有卫星网络连接服务,用户无需通过公共互联网即可将数据从远程位置直接传入到亚马逊云科技,云端接入方式更加灵活。
最重要的是,所有技术创新的落地都离不开基础设施的高可用性。亚马逊云科技目前在全球拥有32个区域,每个区域都有3个或者更多的可用区(AZ),每个可用区在物理层面都单独隔离,同时与冗余光纤网络互联,拥有冗余的供电、用水,全方位保障用户安心上云、安心用云。
“我们不断重构,通过重构驱动技术创新,重塑用户服务体验。感谢今天来到我们舞台上所有的客户,也感谢每一位观众。让我们再次出发去重构,去将想象力变为现实,去见证未来将会发生的一切。”
正如Adam在主题演讲的结尾所说,亚马逊云科技未来还将围绕用户需求的变化,联合更多的合作伙伴,不断创新,不断重构,以更好的产品为不同规模的企业和组织提供创新动力。