2023-07-31
今年 4 月,AWS 数据和机器学习副总裁 Swami Sivasubramanian 宣布推出 Amazon Bedrock 和 Amazon Titan 模型,这些模型属于在 AWS 上使用生成式人工智能进行构建的新工具。Amazon Bedrock 目前提供预览版,这是一项完全托管的服务,可通过 API 提供来自 Amazon 和领先人工智能初创企业(例如 AI21 Labs、Anthropic、Cohere 和 Stability AI)的根基模型(FM)。
今天,我很高兴地宣布推出Amazon Bedrock 的代理预览版,借助此项新功能,开发人员只需点击几下即可创建完全托管的代理。Amazon Bedrock 的代理可加速生成式人工智能应用程序的交付,这些应用程序可以通过对公司系统进行 API 调用来管理和执行任务。代理扩展 FM 以了解用户请求,将复杂的任务分解为多个步骤,进行对话以收集更多信息,以及执行操作来满足请求。
使用 Amazon Bedrock 的代理,您可以为内部或外部客户自动执行任务,例如管理零售订单或处理保险索赔。例如,由代理支持的生成式人工智能电子商务应用程序不仅可以使用简单的答案回答问题“你有这件蓝色的夹克吗?”,还可以帮助您完成更新订单或管理交易的任务。
要使代理发挥作用,您首先需要向其授予外部数据来源的访问权限,并将其连接到其他应用程序的现有 API。这可让助力代理的 FM 在更广阔的范围内进行交互,并将其效用扩展到语言处理任务之外。其次,FM 需要弄清楚执行的操作、使用的信息以及按何种顺序执行这些操作。这要归功于 FM 令人兴奋的新兴行为 — 它们的推理能力。您可以通过构建包含定义和说明的提示,向 FM 展示如何处理此类交互以及如何通过任务进行推理。设计提示以引导模型实现所需输出的过程称为提示工程。
Amazon Bedrock 的代理Amazon Bedrock 的代理可以自动对用户请求的任务进行提示工程和编排。配置完成后,代理会自动构建提示,并且使用公司特定的信息安全地补充提示内容,从而以自然语言向用户提供回复。代理能够指出自动处理用户请求任务所需的操作。它将任务分成多个步骤,编排一系列 API 调用和数据查找,同时保留内存以完成用户操作。
使用完全托管的代理,您不必担心预置或管理基础设施。无需编写自定义代码,即可无缝支持监控、加密、用户权限和 API 调用管理。身为开发人员,您可以使用 Bedrock 控制台或 SDK 上传 API 架构。然后,代理在 FM 的帮助下编排任务,并使用 AWS Lambda 函数执行 API 调用。
高级推理和 React 入门可以使用称为 React(协同推理和行动)的推理技术帮助 FM 推理和弄清楚如何解决用户请求的任务。使用 React,您可以构造提示以向 FM 展示如何推理任务,以及决定有助于找到解决方案的操作。 结构化提示包括一系列问题-想法-操作-观察结果示例。
问题是用户请求的任务或有待解决的问题。想法是推理步骤,有助于向 FM 展示如何解决问题并确定要执行的操作。操作是模型可从一组允许的 API 中调用的特定 API。观察结果是执行操作的结果。FM 可以选择的操作由示例提示文本前面的一组说明定义。以下是如何构建 React 提示的示例:
好消息是 Bedrock 会自动完成繁重的任务! 在后台,Amazon Bedrock 的代理会根据您提供的信息和操作构建提示。
现在我将向您展示如何开始使用 Amazon Bedrock 的代理。
创建 Amazon Bedrock 的代理假设您是一家保险公司的开发人员,想要提供一款生成式人工智能应用程序,帮助保险机构所有者自动执行重复性任务。您可以在 Bedrock 中创建代理并将其集成到自己的应用程序中。
要开始使用代理,请打开 Bedrock 控制台,在左侧导航面板中选择代理,然后选择创建代理。
这将启动代理创建工作流程。
open-claims
、identify-missing-documents
和 send-reminders。
部署 Amazon Bedrock 的代理要在应用程序中部署代理,必须创建别名。然后,Bedrock 会自动为该别名创建一个版本。
我们现在测试保险代理! 可以直接在 Bedrock 控制台中执行此操作。
我们要求代理“向所有具备待解决索赔和待处理文书工作的保单持有人发送提醒”。 您可以看到由 FM 提供支持的代理如何理解用户请求,将任务分解为多个步骤(收集待解决的保险索赔、查找索赔 ID、发送提醒),并执行相应的操作。
Amazon Bedrock 的代理可以帮助您提高工作效率、改善客户服务体验或自动执行 DevOps 任务。我很高兴看到您将实现的使用案例!