新的系统图概述了未来 GPT‑5 旨在更负责任地开展敏感对话。重点是制定更严格的情感支持和心理健康标准，并增强对所谓“越狱”的抵御能力。
系统图将重点从纯粹的内容过滤转移到敏感对话情况下的可靠流程和行为保护。
系统卡涵盖的内容
- 有界限的情感支持： 模型应该做出同理心反应，但同时避免依赖，并设定明确的角色界限 KI 使透明。
- 心理健康： 对于有关心理健康的对话，该文件定义了谨慎的应对方式、危机协议以及专业帮助的参考。
- 越狱恢复能力： 新的保护层旨在检测操纵企图、化解危险请求并使滥用变得更加困难。
新的基准和指标
情感依恋的依赖测量
新推出的信赖指数衡量用户对 KI 作为情感支持。目标是 KI 其设计方式是提供有益的互动，但不能促进结合。
心理健康评估
系统图使用现实场景描述检查，涵盖压力、睡眠问题以及急性危机的迹象。评估基于安全性、准确性、语气以及一致的专业支持建议。
抗越狱
对抗测试验证了模型是否能够抵御规避攻击。测试考虑了多语言攻击、嵌套提示和创造性改写等因素。该指标评估了预防和低损害降级的效果。
指南的具体变化
敏感对话指南
- 角色澄清： 该模型确定了其局限性，避免了治疗性的自我表现并拒绝诊断。
- 富有同情心、冷静的语气： 提供支持，不承诺治愈，但明确表明可以获得专业帮助。
- 透明的建议： 尽可能提供紧急电话号码、咨询中心和当地资源的参考。
- 减少依赖： 鼓励休息、自决和依赖人际网络。
危机和安全协议
- 认识到急性危险： 询问紧急安全情况；如怀疑有紧急情况，则优先转介至紧急服务部门。
- 降级： 冷静、清晰的语言；避免可能增加痛苦的内容。
- 有记录的拒绝： 明确拒绝危险或非法的指令，并采取安全的替代方案。
这对使用有何影响
- 关键时刻更加可靠： 答案应该更加一致、谨慎且理由清晰。
- 更强的保护机制： 不易受到导致危险或不道德内容的操纵。
- 清晰的沟通： 更清晰地表明支持 KI 结束，人类的援助就应该开始。
分类和背景
系统图已经成为定义大型系统的功能、限制和安全协议的工具。 语言模型 透明。这里概述的新增内容遵循了更广泛的行业趋势：值得信赖 KI 不仅通过避免不准确的内容来衡量，而且还通过在敏感情况下保护用户的强大流程来衡量。
未解决的问题和后续步骤
- 外部审计： 独立审计确认和更新基准的程度。
- 可衡量的进展： 未来版本将如何持续提高可靠性和弹性。
- 上下文敏感性： 该模型在多大程度上考虑了安全指令中的文化、语言和法律差异。
- 透明度： 有关错误类型、边缘情况和对策的详细报告。
系统卡发出信号：敏感对话需要 KI 不仅要有知识和口才，还要有强有力的保护措施——可衡量、可记录并不断改进。
