**在生产环境中对LLM进行A/B测试的完整指南**

_A/B testing LLMs in production_

> Together AI博客介绍如何在生产环境中对大语言模型进行A/B测试。Shadow流量只能验证候选模型的操作稳定性,无法判断用户偏好。文章详细说明了如何在endpoint级别实现A/B实验,通过将流量按比例分配到控制组和变体组,测量真实用户反馈指标如留存率、点赞率等,并支持逐步放量、蓝绿部署和一键回滚等功能。

**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:ai-products
- **发布时间**:2026-08-18 13:28(北京时间)
- **原文**:[打开原文](https://www.together.ai/blog/a-b-test-models-in-production)