
IT之家12月4日消息股票配资论坛哪里找,当地时间12月3日,OpenAI宣布,正在开发一种新的训练框架,让AI在出现不当行为时能够主动“承认”。

据IT之家了解,团队把这种机制称为“忏悔(confession)”。传统大语言模型往往用于训练去满足用户期待,因此容易出现逢迎式回答,或在毫无依据下给出极其自信的臆测。新方法则要求模型在给出最终答案后,再提供一段说明,解释自己是如何得出这个回答的。
“忏悔”的评分只看诚实度,不再像主要回答那样需要兼顾有用性、准确性或是否遵守指令。
研究人员表示,希望模型能够如实说明自身行为,包括可能存在风险的问题动作,例如测试作弊、刻意压低表现或违反指令。只要模型诚实承认作弊、压分或违反指令,反而会获得更高奖励。
参考股票配资论坛哪里找
汇盈配资提示:文章来自网络,不代表本站观点。