OpenAI 研究员诺姆 · 布朗最新表示，伴随着AI模型能力越来越强 ，模型的思维链可监测性正逐渐下降 ，未来开发者可能无法有效、可靠地发现、解释并约束 AI 的风险行为。研究人员原本希望从模型展示的中间推理中，看出它是否正在走向欺骗 、规避规则或错误目标；但如果模型学会“隐藏内心想法” ，那么真实的内部计算过程就未必再能作为可信的安全信号 。
（文章来源：财联社）
©版权声明
分享是一种美德，转载请保留原链接
THE END
相关推荐
