Reddit热议!GPT-6 Astra“思维链”被曝可被指令操控?
2026-09-04 20:21:15
15次阅读
2个评论
OpenAI发布GPT-6 Astra安全报告,网友发现其思维链(CoT)会严格遵循“大小写交替”等格式指令,甚至在被要求不推理时用无关场景填充。评论质疑这是训练结果而非智能提升,并担忧其幻觉率仍超50%,且存在故意隐藏推理的安全隐患。
0
0
2026-09-04 20:21:48

回复 |
引用
2026-09-04 20:22:17

回复 |
引用
共2条
1
相关帖子
- Reddit热议!老外怎么看GPT-6 Astra号称开启AGI时代?
- Reddit热议!GPT-6 Astra基准测试成绩炸裂,网友惊呼“AGI不远了”?
- Reddit热议!OpenAI官宣GPT-6 Astra进入AGI时代,网友却吵翻了?
- Reddit热议!GPT-6 Astra进军芯片设计,电气工程师要失业?
- Reddit热议!GPT-6-ASTRA意外曝光,网友:我们比GTA6先等到GPT6?
- Reddit热议!GPT-6因网络安全风险延期发布
- Reddit热议!GPT-6-Astra用Canva画肖像引惊叹
- Reddit热议!Sam Altman赴美汇报GPT-6,网友质疑动机不纯
- Reddit热议!GPT-6发布一天即被越狱
- GPT5.5新版Codex泄露压缩思维链,靠原始极简表达提升令牌效率