OpenAI神秘项目“Q*”刚曝光不久,亚马逊云科技就推出了有着相似名字的企业级生成式AI助手Q。
在日前于拉斯维加斯召开的re: Invent大会主题演讲中,亚马逊云科技CEO Adam Selipsky正式宣布推出Amazon Q,“您可以使用Q轻松进行对话、内容生成并执行操作。Q完全了解你的系统、数据存储库和运营需求。”Selipsky说道。
据悉,Amazon Q由亚马逊云科技17年来积累的知识和经验训练而成,可以提出满足业务需求的云基础设施建议、输出博客文章、帮助应用程序代码,以及搜索和分析企业数据。
如何帮助开发者
加速业务开发
Amazon Q是用户在亚马逊云科技上构建、部署和操作应用程序及工作负载的专家。根据官方介绍,用户可以将Q接入组织指定的应用程序和软件(例如Salesforce、Jira、Zendesk、Gmail以及Amazon S3存储实例等),并据此进行自定义配置。
Q能够根据所有关联数据及内容进行索引,“学习”关于当前业务的方方面面,包括组织结构、核心概念和产品名称等。
例如,公司可以通过Web应用程序要求Q分析用户在使用哪些功能时遇到了问题、应该如何改进这些功能;也可以像使用ChatGPT那样直接上传文件(支持Word文档、PDF、电子表格等)并询问与内容相关的问题。Q则通过联系、整合和数据(包括特定业务数据)提供响应与参考。基于这些问题,Amazon Q会给出明确答案并列出引用出处。
用户可以追问任意多轮的问题,来获取更加详尽的答案,找到实现其工作负载的最佳选项,并得到基本操作的步骤指导。
Q不仅能够回答问题,还能作为助手生成或总结博文内容、新闻稿和电子邮件。它还为工作中的常规操作提供一组可配置的插件,包括自动创建服务工单、通过Slack中的特定团队以及更新ServiceNow中的仪表板等。
为了防止错误,Q要求用户在行动之前检查其操作建议,并展示结果以供验证。
Q可以通过亚马逊云科技的管理控制台、各类Web应用程序以及Slack等聊天应用进行访问,而且对亚马逊云科技家族的产品和服务有着透彻了解。亚马逊云科技表示,Q能够理解亚马逊云科技上各种应用工作负载间的细微差别,哪怕是只需运行短短几秒的应用、或者极少访问存储内容的程序也可以接受Q的指引和操作。
Q还能解决网络连接等常见问题,分析网络配置以提供修复建议。“如果控制台出现错误,您可以按下Amazon Q按钮进行故障排除。Q将研究该错误并建议如何修复它。Amazon Q还了解网络,“可以帮助快速解决连接问题,”Selipsky说道。
Selipsky表示,“我坚信这将是一场生产力层面的变革,希望来自不同行业、从事不同岗位的人们都能从Amazon Q身上获益。”
生成、解释代码
Q与Amazon CodeWHisperer服务相结合,可以生成并解释应用程序代码。在受支持的IDE(例如Amazon CodeCatalyst)当中,Q可以为用户代码生成测试,借此衡量其质量水平。
此外,Q还能创建软件新功能、执行代码转换,并为代码包、存储库和框架更新草案和文档,使用自然语言对计划进行完善和执行。
Selipsky表示,亚马逊云科技内部的一支小团队就成功在短短两天之内,使用Q将上千款应用程序从Java 8升级到了Java 17,甚至完成了相应的测试。
Q的代码转换功能仅支持从Java 8和Java 11升级至Java 17(后续将推出.NET Framework到跨平台.NET转换),且所有代码相关功能(包括代码转换)都需要配合CodeWhisperer Professional订阅服务。
Selipsky补充道,Amazon Q将能够将应用程序从Windows .NET Framework迁移到Linux上的跨平台.NET,这是一个好主意,但由于仅依赖于Windows,因此在实践中常常面临挑战。
亚马逊云科技表示,他们也在利用Q增强更多第一方产品,例如Supply Chain和QuickSight(一种商业分析服务)。
Q能够在QuickSight中为商业报告提供可视化选项,自动调整格式,或者根据报告中的引用及数据回答用户提问。而在Supply Chain当中,Q能够通过最新分析结果响应诸如“为什么我的配送单延误了?”之类的查询。
Q还在逐步进入联络中心软件Amazon Connect。在Q的支持下,客服人员现在可以快速获得关于用户提问的答复建议,对应的操作步骤以及背景资料链接,由此告别繁琐低效的手动搜索。Q还能生成通话摘要,帮助主管后续跟踪服务进度。
隐私安全
在整场演讲中,Selipsky多次强调Q给出的答案及操作建议完全可控且支持筛查。Q只会返回用户有权查看的信息,管理员可以限制敏感主题,要求Q在必要时过滤掉不当问题和答案。
为了缓解幻觉问题(即生成式AI系统中常见的捏造事实行为),管理员可以要求Q仅从公司内部文档中提取知识,而不得使用来自底层模型的知识。Selipsky表示,驱动Q的底层模型是Amazon AI开发平台Bedrock提供的模型组合,包括Amazon原研的Titan系列,且绝不会利用用户数据进行模型训练。
当前,已经有十几家公司明确禁止或限制使用ChatGPT,反映出了当下人们对向聊天机器人输入数据可能导致泄露风险的担忧。Selipsky强调,“如果你的用户本来就无权访问某些内容,那么在使用Q之后也仍然无权访问。Q理解并尊重用户的当前身份、角色和权限……我们也永远不会使用业务内容来训练底层模型。”
除了对隐私的高度重视,从各个方面来看,Q似乎都是亚马逊云科技对于微软Azure Copilot做出的有力回应,而Azure Copilot又是微软对谷歌Duet AI的回应。Azure Copilot与Duet AI均采用聊天助手的形式,负责为云用户提供应用程序和环境配置建议,并通过发现潜在问题和给出答案的方式协助故障排查。
题外话
Constellation Research创始人兼首席分析师Ray Wang在采访中表示,他认为Q是本届re: Invent上最具份量的发布。“这是在用AI武装开发者,帮助他们取得成功。”
很明显,亚马逊云科技看到了近期调查给出的关键结论,即大多数试用生成式AI的厂商都不知道该怎么将新技术纳入业务用例、将其真正转化为生产力。
宝马集团数据工程和分析顾问Christoph Albrecht表示:“宝马团队需要快速提取和解释新数据,以提供客户期望的精确体验。Amazon QuickSight中新增的Amazon Q功能可帮助我们的分析师在数小时内构建仪表板,而以前需要数天时间。”
值得注意的是,Anthropic首席执行官兼联合创始人Dario Amodei也在re:Invent上与Selipsky一起登台。9月份,亚马逊云科技向这家人工智能初创公司进行了高达40亿美元的投资,为Anthropic提供更多云基础设施和芯片来训练和运行其模型。Anthropic的Claude LLM将为一系列AWS产品提供支持,包括AppFabric。
Anthropic的7个创始人都来自OpenAI,曾经深度参与过OpenAI的GPT-3、引入人类偏好的强化学习等多项研究。对于离开OpenAI的原因,据说是因为其“从一开始就在模型安全性方面有着不同的愿景。”Anthropic在OpenAI高层斗争大戏落幕之后不久后亮相re: Invent,这也彰显了亚马逊云科技发力生成式AI的决心。