使用 Amazon Bedrock 代理启用复杂的生成性 AI 应用程序 机器学习博客

使用 Amazon Bedrock Agents 来实现复杂的生成式 AI 应用

关键要点

文章重点

在今年六月，我开始了一系列文章，重点介绍推动客户选择 Amazon Bedrock 的关键因素。第一篇文章探讨了 如何安全地构建生成式 AI 应用，第二篇则深入研究了 使用 Amazon Bedrock 构建自定义生成式 AI 应用。如今，我想更详细地介绍 Amazon Bedrock Agents，这一技术使我们的客户能够建立智能且具上下文感知的生成式 AI 应用，简化复杂的工作流程，并提供自然流畅的对话式用户体验。随著大型语言模型LLMs的出现，让人们能够用自然语言与计算机互动。然而，许多现实场景要求不仅仅是语言理解，它们还涉及执行复杂的多步骤工作流程、整合外部数据来源或无缝协调多种 AI 能力和数据流程。在这些现实场景中，代理技术可以成为变革者，提供更个性化的生成式 AI 应用，并改变我们与 LLMs 互动和使用的方式。

回应更复杂的查询

Amazon Bedrock Agents 使开发人员能够从整体上提高可扩展性、延迟性和性能来构建生成式 AI 应用。使用 Amazon Bedrock Agents 的生成式 AI 解决方案能够通过结合 LLM 与其他工具来处理复杂任务。例如，假设你要创建一个生成式 AI 助手，帮助人们计划假期。你希望它能够回答简单问题，例如巴黎下周的天气怎么样？或七月去东京的机票价钱是多少？基本虚拟助手可以通过预先编程的回应或搜寻互联网来回答这些问题。但是如果有人问一个更复杂的问题，比如我想计划明夏三个国家的旅行。你能建议一个包含参观历史地标、尝试当地美食并在 3000 预算内的行程吗？这会是一个更具有挑战性的问题，因为它涉及计划、预算和对不同目的地的信息查找。

使用 Amazon Bedrock Agents，开发人员可以快速构建生成式助手来回答这个更复杂的问题，通过将 LLM 的推理与额外的工具和资源结合，例如原生整合的知识库来建议个性化的行程。它可以通过查询旅行 API 来搜寻航班、酒店和旅游景点，并使用私人数据和公开的目的地信息、天气，同时跟踪预算和旅行者的偏好。要构建这个代理，你需要一个 LLM 来理解和回应问题，但你还需要其他模组来处理计划、预算和获取旅行信息。

代理的实际应用

我们的客户正在利用 Amazon Bedrock Agents 快速有效地构建代理和代理驱动的应用。例如，考虑 Rocket一家帮助人们实现拥有住房和财务自由的金融科技公司：

“Rocket 准备好以 AI 技术彻底改变住房之旅，代理 AI 框架对于我们的使命至关重要。通过与 AWS 合作并利用 Amazon Bedrock Agents，我们提升了与客户的技术驱动通讯速度、准确性和个性化。” Shawn Malhotra，Rocket Companies 首席技术官。

更深入地了解代理的运作

与仅提供简单查找或内容生成能力的 LLM 不同，代理整合了多个组件与 LLM，共同创建一个能够处理复杂用例的智能协调者，具备丰富的上下文和特定领域的专业知识。以下图表概述了 Amazon Bedrock Agents 的关键组件：

这一过程由 LLM 和协调提示两部分组成。LLM 通常使用诸如 Anthropic Claude 系列或 Meta Llama 模型等模型来提供基本的推理能力。协调提示则是一组引导 LLM 在决策过程中运作的提示或指令。

在接下来的部分中，我们将深入探讨 Amazon Bedrock Agents 的关键组件：

计划：从任务到目标的路径

LLMs 的计划组件涉及理解任务并制定多步骤策略以解决问题并满足用户需求。在 Amazon Bedrock Agents 中，我们使用 思维链提示 结合 ReAct 来提高代理解决多步骤任务的能力。在任务分解中，代理必须理解抽象请求的复杂性。继续以上的旅行情境，如果用户希望预订旅行，代理需要识别这包括交通、住宿、观光预约和餐厅的预订。将抽象请求，如计划旅行，分解为详细、可执行的行动是计划的核心。然而，计划不仅仅是初步制定计划，因为在执行过程中，计划可能会动态更新。例如，当代理完成安排交通并进入预订住宿时，可能遇到与原始抵达日期不相符的理想住宿选择。在这类情况下，代理必须确定是否扩大酒店搜寻范围或重新考虑其他预订日期，随著计划的演变而调整。

记忆：关键信息的存储地

代理拥有长期和短期记忆。短期记忆详细且准确，与当前对话相关，并在对话结束时重置。长期记忆是情境性的，以已保存的摘要的形式记住重要事实和细节。这些摘要作为先前对话的记忆大纲。代理使用存储中的信息以更好地解决当前任务。记忆存储与 LLM 分开，拥有专门的存储和检索组件。开发人员可以选择自定义和控制哪些信息存储或排除在记忆中。一个身份管理功能将记忆与具体的最终用户相关联，使开发人员可以识别和管理最后用户，并提升在 Amazon Bedrock 代理的记忆功能上进一步开发的可能性。Amazon Bedrock 的行业领先记忆保留功能在最近的 AWS 纽约峰会上推出使代理能够随著时间推移学习并适应每位用户的偏好，从而在多次会话中实现更个性化和高效的体验。使用简单，让用户仅需一键即可开始。

沟通：利用多个代理提高效率和效能

根据我们描述的强大组合功能，Amazon Bedrock Agents 使构建能够将一次性查询响应器转变为高效、灵活的协调者变得毫不费力。那么，使用多个代理呢？基于 LLM 的 AI 代理可以相互协作，以提高解决复杂问题的效率。目前，Amazon Bedrock 使开发人员可以通过 LangGraph 将它们轻松连接，这是流行的开源工具集 LangChain 的一部分。将 LangGraph 与 Amazon Bedrock 整合，让用户能够无缝利用多个代理的优势，促进增强整体效率和有效性的协作环境。

工具整合：新工具意味著新能力

新一代模型如 Anthropic Claude Sonnet 35、Meta Llama 31 或 Amazon Titan Text Premier 更能有效利用资源。使用这些资源要求开发人员跟进不断更新的变化，每次都需要新的提示。为了减少此负担，Amazon Bedrock 简化了与不同模型的接口，使开发人员能够轻松利用模型所提供的所有功能。例如，在最近的 AWS 纽约峰会上宣布的新代码解释功能使 Amazon Bedrock 代理能够在安全的沙盒环境中动态生成并运行代码片段，以解决复杂任务，如数据分析、可视化、文本处理和方程求解。它还使代理能够处理各种格式的输入文件包括 CSV、Excel、JSON并从数据中生成图表。

保护措施：安全构建

在处理复杂查询时，准确性至关重要。开发人员可以启用 Amazon Bedrock 保护措施，以帮助减少不准确情况的发生。这些保护措施改善了你所构建应用的行为，提高准确性，并帮助你负责任地构建。它们可以阻止用户恶意意图或 AI 生成的潜在有害内容，提供更高的安全性和隐私保护。

扩展生成式 AI 的能力与 Amazon Bedrock Agents

企业、初创公司、独立软体供应商ISVs和系统集成商今天均可利用 Amazon Bedrock Agents，因为它为开发团队提供了一个全面的解决方案，用于构建和部署能够处理复杂查询、使用私人数据源并遵循负责任的 AI 实践的 AI 应用。开发人员可以从经过测试的示例所谓的 金典话语输入提示和 金典回应预期输出开始。你可以不断地发展代理，使之适应你的主要用例，启动生成式 AI 应用的开发。代理解锁了重要的新机会，让你能够构建生成式 AI 应用，真正改变你的业务。期待看到 Amazon Bedrock Agents 带来的解决方案和效果。

资源

如需有关 Amazon Bedrock 自订的更多信息，请参考以下资源：

关于作者

Vasi Philomin 目前担任 AWS 生成式 AI 副总裁，负责推动生成式 AI 的相关阵线，包括 Amazon Bedrock 和 Amazon Titan。