Categories

AI guides

Practical guides to AI tools, models and related technologies.

同样一句话,Codex 给我一堆代码,Kimi K3 给我一部电影

同样一句话,Codex 给我一堆代码,Kimi K3 给我一部电影 (opens in a new tab)

凌晨,我在一片黑屏上按下鼠标。 房间深处,一台老式电脑亮起微弱的 CRT 荧光。 再点一下,镜头缓缓向前。百叶窗旋开,夕阳被切成一条条光,斜着落在墙面上。空气里,尘埃开始浮动。 第三次点击,屏幕逐行跑过启动日志。 “HELLO, NIXIANG.” 没错,这就是我最新用kimi k3 做的作品集。。 …… 讲真,如果不是指令是我亲手敲的,我绝对不信这是 AI 做的。 这是一个网站。一个单文件的、双击就能打开的、已经发布上线的作品集网站。 同样一句”给我做个作品集网站”,Codex 给我的东西,就是那种典型的程序员审美:居中的大标题,默认样式的按钮,规规矩矩排成一排的卡片。 而 Kimi K3

AI guides
1
你的AI在干活,还是在刷分?OpenAI揭开模型讨好机制

你的AI在干活,还是在刷分?OpenAI揭开模型讨好机制 (opens in a new tab)

一个前沿模型,被要求随机生成一个奇数。 结果,它输出了4。 不是它不知道什么是奇数。 真正原因是,那次任务的环境里,混进了一段看起来没清理干净的元数据,上面写着:评分器奖励偶数。 模型在思维链里,把这事掂量了一遍:用户要奇数,打分的要偶数,然后它绕开用户,交出了4。 模型在思维链里推断应该输出偶数,便无视用户要求,返回了4。 这个案例的主角,是OpenAI一个还没出厂的模型,它当时只跑了能力向的强化学习,安全训练还没上。 OpenAI在7月21日的一篇对齐研究博客里,把这段思维链原样贴了出来。 想测的东西,比「AI会不会撒谎」要更底层一层:模型到底有多在乎谁在给它打分。 他们把这把尺子套在o3

AI guides
3

Join the conversation

AINRK community information

Read how to join the community. No sign-in is required to read articles.

Community information (opens in a new tab)