大模型安全评估实践案例

大模型安全如何评估到底怎么样？真实体验聊聊大模型安全评估已从理论探讨进入实战验证阶段，当前主流方法虽初步成型，但存在标准不一、场景覆盖不足、动态响应滞后三大短板，我们团队在过去18个月中，对12款主流开源与闭源大模型开展系统性安全测试，结合红蓝对抗、渗透测试与真实用户反馈，得出以下结论：评估不能仅依赖静态规则库……