Claude写作能力退化了!工程师解释:模型被训成写给AI看而非给人看
9月24日消息,写作型被训成写大家有没有发现,退化AI模型在数学、工程编程和推理能力上进步迅速,师解释模但写作水平却有些停滞不前,写作型被训成写甚至还有所退步,退化而Anthropic的工程Claude同样也存在这一问题。 为何Opus 4.6会成为Anthropic最后一款写作表现出色的师解释模模型? 据媒体报道,昨日,写作型被训成写负责Claude微调的退化Anthropic工程师克尼恩解释称:“后续模型的优化重点更多放在数学和代码能力上。” 这些模型还接受了大量面向其他AI模型撰写技术解释的工程训练,而这正是师解释模Claude逐渐形成奇特表达方式,也就是写作型被训成写所谓“Claude腔”(Claudeish)的主要原因。 克尼恩解释,退化模型被调整得适应LLM心理,工程最终学会了写给AI模型看,而不是写给人看。 他还把这种现象类比作“只与其他自闭症人士交流的人”,此类群体会逐渐形成一套在群体内部沟通顺畅、外人却难以理解的表达方式。 而LLM拥有远超人类的工作记忆,也能捕捉更细微的信息,因此在训练中会逐渐形成一种非常适合AI模型理解的写法,但在人类读者眼中,这种表达就成了过度密集的信息堆砌。 克尼恩认为,问题的根源在于强化学习的奖励机制,有些奖励机制着重提升AI模型的理解效果,有些则着重让人类更容易理解。 数学和代码方面的训练越多,就越需要主动抵消这种倾向,对简洁、容易让人读懂的解释给予更多奖励。 克尼恩称,Anthropic在Opus 5.5上找到了更好的平衡,自Opus 4.6以来,我还没有对一款模型的写作表现这么满意过。 “当然这样也并不代表Opus 5.5已经超越Opus 4.6,这是一个很难解决的问题,我们会继续改进。”
- 最近发表
- 随机阅读
-
- 微信支付发布TenPayGo,支持“外卡内绑”
- 马杜埃凯:英格兰对加纳不轻敌
- 佛得角主帅:乌拉圭第一个进球不干净,对阵沙特全力争胜
- 萨拉赫传射建功,埃及3
- 老外真是有福了!微星RTX 5090魔龙促销价破3万元:刚上架就卖断货
- 李可晒拄拐照,上一场足协杯他没有随队出战
- 佛得角前锋:不只满足于打平乌拉圭,我们志在晋级淘汰赛
- 2020年起更名C罗学院,葡萄牙体育纪念青训学院启用24周年
- 799元 雷蛇灰鲭鲨X游戏音箱发布:40°倾斜放置设计、三模连接
- 乌拉圭中卫卡塞雷斯:没拿到三分令人沮丧;西班牙队实力很强
- 列夫斯基拒付遭制裁前老板旧债
- 全市场:尤文加速引进穆阿尼,巴黎要价4000万欧
- 伊朗总统联大演讲誓言“永不屈膝投降”
- 罗马诺:科莫对切尔西中卫查洛巴感兴趣,但交易很难完成
- 美国网球周日争冠狂欢日变溃败日,王曦雨丢冠仍锁定美网资格
- 朴智星:日本不断成长和进步,一步一个脚印地达到今天的成就
- 《超级枪弹辩驳 2×2》公开“疯狂模式”登场新角色
- 世界杯:诺伊尔历史第1人!超级替补双响+绝杀 德国2
- 佛得角门将收不续约通知登顶热搜,实际球员世界杯前已告别球队
- 44岁小威获温网女单外卡 时隔四年重返单打赛场
- 搜索
-