智东西（公众号：zhidxcom）
作者 | ZeR0
编辑 | 漠影
帮云客户快速构建生成式AI应用这件事，正被全球最大云计算巨头亚马逊云科技做得越来越完善。
在7月11日举行的亚马逊云科技纽约峰会上，亚马逊云科技大晒生成式AI成绩单：96%的AI/ML独角兽将其业务跑在亚马逊云科技上， 2024福布斯AI 50榜单中有90%的企业使用了亚马逊云科技。
亚马逊云科技AI产品副总裁Matt Wood博士阐述了企业如何通过亚马逊云科技高效、大规模地整合过去十年的重大技术突破。据他分享，过去18个月，亚马逊云科技已发布326项生成式AI功能，所提供的正式可用的机器学习和生成式AI的产品功能数量是其他主要云服务提供商总和的两倍之多。
在此基础上，亚马逊云科技发布了一系列生成式AI技术栈的更新，进一步降低根据个性化需求定制生成式AI的门槛，让人人都能轻松构建企业级生成式AI应用。
▲亚马逊云科技生成式AI三层技术栈
新发布包括Amazon Bedrock及Amazon Q的多项更新。其中，Amazon Bedrock更新了微调Anthropic Claude 3 Haiku、Guardrails（安全防护）和Agents（智能体）等功能；Amazon Q Apps让人人都能用自然语言指令在几秒钟内创建生成式AI应用；Amazon Q Developer集成到Amazon SageMaker Studio中并正式可用，使得机器学习模型的开发过程更加便捷。
这些更新将提供更高的生成结果准确性、更好的记忆功能、更方便的模型评估和治理、更全面的应用安全和隐私保护机制，帮助用户更加快速、安全、轻松地构建和部署生成式AI应用。
此外，亚马逊云科技还推出了一项生成式AI驱动的企业级应用Amazon App Studio的预览版，让IT项目经理、数据工程师和企业架构师等专业开发人员使用自然语言在整个组织内创建、部署和管理企业应用程序。
一、直击生成式AI应用多重痛点，构建更安全的防护措施
Amazon Bedrock是亚马逊云科技生成式AI技术栈的中间层，就像一个大模型货架般，提供了广泛的大语言模型及其他基础模型选择以及各种好用工具，使构建、部署和扩展生成式AI应用变得轻松快捷。
它已成为亚马逊云科技过去十年中增长最快的服务之一，被数万客户所使用。
针对生成式AI长期被诟病的无法获取专属知识、胡说八道的幻觉、缺乏长期记忆等应用痛点，Amazon Bedrock推出多项功能更新，以提升用户使用生成式AI应用的体验，具体包括：
1、知识库功能增强Amazon Bedrock的数据连据器范围，加入了对广泛使用的第三方Web域数据源的连接，包括Confluence、Salesforce、SharePoint上的数据都可以轻松接入到Amazon Bedrock中，使得在这些Web域中存储日常数据的用户能够更方便地将生成式AI带入日常应用场景中。
2、在Guardrails中推出基于上下文基础检查的幻觉检测功能。用户可在Guardrails中设置针对生成结果准确性的关联值，低于这一设定阈值的生成结果就会被Guardrails判定为不相关的幻觉结果并不予显示。这项功能通过对上下文的基础性检查来提供，以更好避免基础模型产生的幻觉问题。
3、推出新API服务ApplyGuardrail，用于评估所有基础模型的输入提示和响应，使得用户能够在任何基础模型上使用Guardrails，即使是那些不受Amazon Bedrock支持的基础模型。构建者都可以配置一套标准化的防护措施，以确保其应用中的模型输入提示和模型响应拥有更加一致的表现。
4、Agent功能推出跨多个交互的记忆保留特性，解决生成式AI“记不住”的问题，可记录用户之前的历史交互信息，并基于此提供更为精准的个性化服务推荐。基于该功能构建的Agent，能够随时间推移学习并适应每个用户的独特需求和偏好，同时多个记忆之间完全分离，每个用户的对话历史和上下文都会安全地存储在唯一的记忆ID之下，有助于提升复杂任务代理下的用户体验。
5、Agent功能上线代码解释，支持Agent在安全的沙箱环境中动态生成和运行代码片段，从而显著提升其处理复杂任务的能力，包括数据分析、可视化、文本处理、方程求解和优化问题等，并支持多种数据类型和格式，同时在需要时由大语言模型决定是否调用该功能，以确保灵活性和安全性。
6、推出微调Anthropic Claude 3 Haiku功能的预览版，至此Amazon Bedrock成为唯一一款可以对Anthropic Claude系列模型进行微调的全托管服务，支持开发者利用自有数据定制应用程序，或在确保私有训练数据安全的前提下，训练模型的专属副本。
与此同时，Amazon MemoryDB的向量搜索功能已正式可用。Amazon MemoryDB以最高的召回率提供最快的向量搜索性能，非常适合需要个位数毫秒延迟的使用案例。此前亚马逊云科技已在一些最受欢迎的数据服务中推出了向量搜索功能。
二、Amazon Q全面出击，让生成式AI触手可及
位于亚马逊云科技生成式AI技术栈顶端的Amazon Q，定位是一个全面的生成式AI助手，能生成精准的代码建议，还能自动执行升级Java应用程序、生成并实施新功能等复杂任务。
Amazon Q包括面向开发者的Amazon Q Developer和面向企业应用的Amazon Q Business。它可以帮助员工充分利用公司文档、系统和应用程序中的海量数据和信息，通过回答问题、提供总结、生成商业智能（BI）仪表板和报告，乃至生成自动化关键任务的应用程序。
先来看下已经集成到Amazon SageMaker Studio中的Amazon Q Developer，通过简单的聊天式交互，就能为构建机器学习模型推荐最佳工具、提供分步指导、生成入门代码、日常答疑解惑，并在遇到错误时提供故障排除帮助。它还能为开发者量身定制针对机器学习开发生命周期的详细执行计划。
机器学习模型开发过程很复杂，数据科学家往往要花费大量时间来寻找合适的工具、文档或方法。而现在借助这项服务，数据科学家有望节省数周甚至数月的工作时间。
Amazon Q Developer已经扩展到在用户自己的集成开发环境IDE中，并提供自定义功能，以在用户的IDE代码编辑器和聊天中提供基于开发者私有代码库生成的代码建议，使开发者能够更好地打造其专属的代码助手。
开发人员可在Amazon Management Console以及IntelliJ IDEA、Visual Studio、VS Code和Amazon SageMaker Studio等主流的集成开发环境中使用Amazon Q Developer，可使用内部代码库安全定制Amazon Q Developer，从而获得更相关、更有用的内联编码建议，大幅节省时间。
为了让每位员工都能轻松创建自己的生成式AI应用程序，实现任务自动化，Amazon Q Business中的Amazon Q Apps功能也正式可用。
Amazon Q Business支持软件开发、数据分析洞察和内容创作等多种生成式AI任务，Amazon Q Apps则更进一步强化这项服务的能力，使得不具备技术背景的用户也能在几秒钟内构建基于企业数据的生成式AI应用。
操作非常简便，只需用自然语言简单描述所需应用程序的功能，例如，用户提出“请从会议记录中提取行动要点”或“我需要协助撰写公司文件”，Amazon Q就能快速生成应用程序自动完成这些任务，并持续提供高效服务。
Amazon Q提供了一键生成应用程序的功能，让员工能够从现有对话中快速创建应用程序，并支持安全地将其发布到企业内部的应用程序库Amazon Q Apps Library中，并添加多个应用类型标签，从方便企业内的使用者快速查找其所需的Q Apps应用。
亚马逊云科技还推出了一款生成式AI服务Amazon App Studio的预览版，将开发企业级应用的能力扩展到开发人员之外，以便IT项目经理、数据工程师和企业架构师等专业开发人员使用自然语言在整个组织内创建、部署和管理企业应用程序。
同样，用户可以通过自然语言描述其特性和功能需求以及需要整合的数据源，App Studio便能在几分钟内构建出一个类似的应用程序，还能够通过点选式界面进行修改。相比之下，传统上专业开发人员从头开始构建，可能要花费几天。
App Studio的生成式AI助手消除了传统低代码工具的学习曲线，加速了应用程序的创建过程，并简化了设计UI、构建工作流程和测试应用程序等常见任务。每个应用程序都可以迅速扩展至数千名用户，同时由亚马逊云科技提供全面的安全管理，无需任何运营专业知识。
结语：全面加速生成式AI落地，亚马逊云科技给出参考样本
生成式AI提供了前所未有的生产力提升工具，但怎么让不具备技术背景的企业也能更快享受到生成式AI带来的便利，对云服务供应商提出不小的考验。已经稳坐全球最大云计算巨头的亚马逊云科技，同样希望成为企业构建和应用生成式AI的首选，其遍布生成式AI各技术栈的更新则正在进一步加速这一愿景的实现。
亚马逊云科技认为要让企业的所有员工能用生成式AI提升工作效率，不仅需要强大的基础模型，而且需要具备全方位的能力来构建和扩展定制化的生成式AI应用，包括内嵌生成式AI的应用程序、快速实验和构建自有生成式AI应用程序的工具、高性价比且高效的基础设施，以及严密的安全控制和防护措施。
对此，亚马逊云科技正通过构建全面的生成式AI技术栈，包揽从构建到部署过程中的常见“烦心事”，降低技术认知和实操门槛，将生成式AI落地的成本打下来，将简单留给用户。这为云计算企业如何更好服务于生成式AI落地提供了参考样本。
除了不断完善技术栈外，亚马逊云科技也通过积极拓宽合作伙伴版图，来推动对生成式AI生态的扩张。
继今年3月推出业内首个生成式AI能力认证后，亚马逊云科技在纽约峰会上宣布了全球第二批获得该能力认证的合作伙伴，其中有11家来自中国的合作伙伴，包括伊克罗德、柯基数据、八斗智能、墨奇科技、神州数码、聚云科技、神州泰岳、灵奥科技、Zilliz、跨海科技和华讯网络。
获得认证的企业在利用亚马逊云科技生成式AI技术方面拥有专业知识、实践经验和成功案例方面已经得到验证与认可。截至目前，全球有60余家合作伙伴获得了该认证。亚马逊云科技生成式AI与机器学习市场推广全球副总裁Rahul Pathak分享说，这些合作伙伴已经在全球范围内帮助客户构建和部署了许多生成式AI工作负载，取得了显著成就和积极影响。
