亚马逊引入第三方独立审查AI安全评估数据集
Strengthening AI safety evaluation through independent third-party review
亚马逊与独立非营利机构AVERI合作,对其内部安全评估数据集开展第三方独立审查,重点检查评估本身的质量与严谨性。审查确认了主题覆盖、测试多样性和低污染风险等优势,并提出扩展多语言覆盖、增加多步对抗提示、保持评估新鲜度等改进建议。亚马逊已据此刷新测试集、引入分级难度框架并建立季度审查机制。
AAmazon Science阅读原文