AWS为SageMaker HyperPod推出Data Capture,打通推理数据到微调闭环
Build a model improvement flywheel with Amazon SageMaker HyperPod Data Capture
AWS发布SageMaker HyperPod Data Capture,可在端点、负载均衡、模型Pod三层捕获线上推理输入输出并写入S3,实测对延迟无明显影响。文章以家电客服路由为例,用Athena发现新品盲区、SQL策略打标、60秒LoRA微调,使新品类召回从0升至100%,并附完整代码与成本说明。
AAWS Machine Learning Blog阅读原文