Reddit热议!GPT-6 Astra“思维链”被曝可被指令操控?
2026-09-04 20:21:15
15次阅读
2个评论
OpenAI发布GPT-6 Astra安全报告,网友发现其思维链(CoT)会严格遵循“大小写交替”等格式指令,甚至在被要求不推理时用无关场景填充。评论质疑这是训练结果而非智能提升,并担忧其幻觉率仍超50%,且存在故意隐藏推理的安全隐患。
收藏 0 0
    小陈 manage advert
    2026-09-04 20:21:48
    回复 |  引用
    小陈 manage advert
    2026-09-04 20:22:17
    回复 |  引用
共2条 1

登录 后评论。没有帐号? 注册 一个。

小陈

manage advert
  • 0 回答
  • 0 粉丝
  • 0 关注