Acxiom 使用 LangSmith 增强受众细分

Acxiom^® 是全球客户智能和人工智能驱动的营销领域的领导者。作为Interpublic, Inc. (IPG) 的一部分，Acxiom 专注于提供高性能解决方案，以提高客户获取和留存率，并为全球最大的品牌和代理机构提供增长动力。凭借其人工智能驱动的身份基础、基于云的数据管理以及营销技术和分析服务，Acxiom 已经转变了全渠道营销策略和执行。55 多年来，其在美国、英国、德国、中国、波兰和墨西哥的团队一直帮助企业优化营销和广告投资，同时优先考虑客户隐私。

扩展人工智能驱动的受众细分面临的关键挑战

作为数据和消费者身份解决方案的领导者，Acxiom 不断寻求创新的方法来识别和交付精准的营销受众细分。在评估大型语言模型 (LLM) 以动态创建受众时，Acxiom 的数据和身份数据科学团队在构建可扩展、健壮的生成式人工智能解决方案以根据用户输入创建受众细分方面面临着独特的挑战。

Acxiom 团队最初开发了一个提示输入/输出日志系统来跟踪和排查 LLM 调用。然而，随着用户群的扩大，团队意识到像这样的轻量级日志解决方案无法有效扩展。相反，他们需要一个健壮的可观测性平台来充分支持代理应用程序不断增长的用户群。Acxiom 的目标是简化带注释的单元测试的创建并改进 bug 的故障排除。

Acxiom 旨在开发一个应用程序，能够解释用户的自然语言输入，并将其转化为其庞大数据目录中的详细受众细分。例如，用户可能会要求：“找出30岁以上、喜欢攀岩或徒步但未婚的男性受众。”然后，该应用程序需要 (1) 提供一个包含 Acxiom 交易和预测数据产品中的精选 ID 和值的 JSON 结构，以及 (2) 处理以下要求：

对话记忆：拥有长期记忆，以便在构建受众细分时跨不相关的用户对话保持上下文。
动态更新：能够在会话期间细化或更新受众细分。
数据一致性：执行准确的特定属性搜索，而不会忘记或编造先前处理的信息。

最初，该团队使用 LangChain 的检索增强生成 (RAG) 工具和自定义代理代码设计了一个工作流程。RAG 工作流程仅使用 Acxiom 核心数据产品的元数据和数据字典以及详细描述。然而，随着 Acxiom 团队扩展其解决方案，又出现了额外的痛点。这些包括：

复杂的调试：LLM 推理中的故障或遗漏会级联到不正确或编造的结果。
扩展问题：原始日志记录机制有限，难以跨多个用户进行扩展。
不断变化的需求：持续的功能增长需要迭代开发，从而增加了基于代理的架构的复杂性。

利用 LangSmith 实现可扩展的 LLM 可观测性

为了解决这些痛点，Acxiom 采用了 LangSmith，这是 LangChain 开发的 LLM 测试和可观测性平台。LangSmith 提供了关键的可观测性功能，实现了高效的调试和可扩展性；它还与 Acxiom 的开源和专有模型混合生态系统无缝集成，包括基于 LangChain 原始代码构建的自定义代理代码。

LangSmith 以很少的额外工作量与 Acxiom 现有的基于 LangChain 的代码库集成了。凭借其简单的装饰器，LangSmith 为 Acxiom 团队提供了对 LLM 调用、函数执行和实用工作流程的完全可见性，从而能够有效地进行问题排查。LangSmith 对各种模型的灵活支持 — 包括开源 vLLM、通过 AWS Bedrock 的 Claude 以及 Databricks 的模型端点 — 也允许 Acxiom 在不中断的情况下继续使用其现有的技术栈。

为了更深入地了解复杂工作流程和进行故障排除，LangSmith 中结构化为树状的跟踪可视化和元数据跟踪工具尤其有用。这些工具帮助 Acxiom 团队识别涉及 60 多个 LLM 调用和 200k 个 token 的单个用户交互的请求中的瓶颈。

随着 Acxiom 工作流程的演进，LangSmith 的可扩展性被证明是无价的。该平台记录和注释任意代码的能力使团队能够随着新代理（如监督代理和研究代理）添加到架构中以进行更细微的受众构建相关决策而进行适应。

影响

借助 LangSmith，Acxiom 的工程师在构建更精细的受众细分方面取得了显著的进步，具体体现在以下几个方面：

简化 campanha 优化调试：LangSmith 对嵌套 LLM 调用和 RAG 代理的深度可见性简化了故障排除，并加速了为营销活动构建更精细受众细分的发展。
提高受众覆盖率：该平台的层次化代理架构带来了更准确和动态的受众细分创建，使 Acxiom 能够为营销策略提供更相关、数据驱动的建议。
营销计划的可扩展增长：该系统能够处理不断增长的用户需求和复杂性，而无需重新设计可观测性层。
优化 token 使用：对 token 和调用使用情况的可见性为 Acxiom 团队的混合模型方法的成本管理策略提供了信息。