沃达丰是欧洲和非洲领先的电信公司,拥有超过 3.4 亿客户。其服务涵盖移动和固定网络及服务、物联网以及企业解决方案,并高度重视创新。在人工智能和数据领域,沃达丰正在解决与欧洲数据中心网络相关的实时性能分析、基础设施管理和运营效率方面的复杂挑战。
为了简化数据运营并赋能其工程团队,沃达丰利用 LangChain 和 LangGraph 构建了多个 AI 助手,以促进智能数据访问、自然语言驱动的洞察以及复杂的故障排除。
沃达丰的生成式 AI 应用
目前,沃达丰已开发了两个由 AI 驱动的内部聊天机器人,这些聊天机器人部署在 Google Cloud 上,以支持在其数据中心进行多项运营的工程师。这些 AI 助手有助于沃达丰改善客户体验
- 性能指标监控(洞察引擎):该助手通过将自然语言查询转换为 SQL 来分析性能指标,从数据中心监控系统中检索关键数据。这为工程师和运营人员提供了动态的数据驱动洞察,而这些洞察以前只能通过自定义仪表板访问。
- 从 MS-Sharepoint 进行信息检索(Enigma):该助手支持高效访问数千份技术文档和资源。工程师可以提出问题来验证具体设计、检索库存详细信息或查找组织内的联系人,从而减少了筛选文档所花费的时间。
通过这些代理,沃达丰可以通过动态创建数据视图来更快地诊断和响应事件,从而支持快速、更准确的决策。因此,这减少了工程师对自定义仪表板或查询来查看性能指标的依赖,使他们能够更深入地了解内部资源。
使用 LangChain 灵活构建 RAG 管道
沃达丰因其可组合且全面的框架而选择 LangChain 来开展这些生成式 AI 项目。LangChain 集成了文档加载器、模型和向量数据库等基本组件,使沃达丰能够快速原型化和部署定制化的 AI 应用。沃达丰利用 LangChain 试验了多种大型语言模型,包括 OpenAI 的模型、LLaMA 3 和 Google 的 Gemini,以优化每个特定用例的性能。
具体来说,文档加载器帮助沃达丰的工程师处理各种文档 — 从高层设计 (HLD)、蓝图到建议请求书 (RFPs) — 这些文档将被加载到多向量数据库中。通过 RAG 管道,这些文档随后被其信息检索助手转换为可操作的洞察,生成最终用户所需的图像、表格和其他信息。
LangChain 通过提供现成的文档处理和管道测试工具,缩短了开发时间。它还使沃达丰能够有效地对各种管道的大型语言模型性能进行基准测试。
“我们使用 LangChain 的组件已经一年多了,” Cloud Solutions, Orchestration and Intelligence 的高级经理 Antonino Artale 说道。“这是我们从开源实验过渡到生产级 AI 系统的关键赋能者。”
使用 LangGraph 扩展多代理工作流
随着沃达丰的生成式 AI 能力的扩展,该公司的团队转向 LangGraph 来实施多代理架构并构建更复杂的 AI 系统。LangGraph 的灵活性以及对可控代理框架的关注,使团队能够超越简单的代理,开发具有代理间协调的复杂工作流。
沃达丰团队利用 LangGraph 的
- 模块化代理设计:沃达丰使用 LangGraph 将模块化代理构建为子图,每个子图都有负责特定任务的工具。这种架构使得添加新功能变得容易,例如数据收集模块、处理模块、报告生成器以及使用 RAG 管道进行的高级推理,而无需重新设计整个系统。
- API 集成:LangGraph 快速部署 API 的能力确保了与沃达丰更广泛生态系统的无缝集成,使 AI 代理能够根据事件驱动的架构模式动态地编排自己的工具。
- 可靠的代理性能:LangGraph 的验证工具帮助沃达丰测试多代理工作流,并通过验证不同的工作流状态、验证节点连接和测量节点延迟来确保一致的性能。
LangGraph 价值的一个例子是它在为多代理洞察引擎和 Enigma 配置多代理工作流中的作用。LangGraph 位于用户提示之后,它将理解用户查询的意图,并将请求编排到适当的链中。
对于 Enigma,如果查询与文档摘要相关,代理将把请求定向到适当的链。反过来,这将从多向量数据库中提取相关上下文,并将基于事实的摘要回复呈现给用户。
对于洞察引擎,如果查询与库存数据相关,代理将把请求定向到 NL2SQL 链,该链会将自然语言查询转换为 SQL 查询,并将响应发送回代理。然后,代理将把请求转发到另一个查询处理链,该链将查询库存数据库,接收结果,然后将信息传递给大型语言模型,以根据查询响应创建图形和图表。
总而言之,LangGraph 为沃达丰团队提供了强大的多代理工作流:
- Enigma | 该代理与知识库无缝集成。它采用向量数据库,可以跨文档更快、更准确地检索上下文,为大型语言模型提供更多上下文,使其能够提供更明智、更准确的答案。
- 洞察引擎 | 该代理执行无缝查询转换,轻松地将自然语言查询转换为结构化格式,如 SQL、NoSQL 和其他服务。它还将通过使用先进的机器学习技术快速访问数据中心性能指标、库存和检测到的异常来确保高效的数据检索。此外,还将结果传递给负责生成自定义可视化数据的另一个代理。
未来计划使用 LangSmith 为大型语言模型应用程序提供动力
LangSmith 为整个应用程序生命周期提供了全方位解决方案,包括调试、评估和性能跟踪。这使得它对于大规模、生产级的应用程序特别有用,可以更深入地了解大型语言模型的内部工作原理。
此外,LangSmith 支持开发人员和主题专家之间的协作,确保应用程序不仅功能齐全,而且符合用户需求。通过与现有工作流无缝集成,LangSmith 使团队能够快速有效地迭代,最终带来更可靠、更健壮的 AI 解决方案。
结论
通过 LangChain、LangGraph 和 LangSmith,沃达丰成功地为其工程和运营团队提供了先进的 AI 驱动解决方案。这些工具使得
- 关键基础设施问题的洞察时间缩短。
- 通过模块化、API 集成的代理设计增强可扩展性。
- 能够轻松适应新领域和数据源的面向未来的系统。
展望未来,沃达丰计划将其生成式 AI 管道扩展到更多数据湖,构建更复杂的多代理系统,并优化其更广泛 AI 应用的基准测试流程。