Search

Results for “prompt injection”

Total 2 articles

你忽悠 AI 的样子,颇有你老板忽悠你时的风采

你忽悠 AI 的样子,颇有你老板忽悠你时的风采 (opens in a new tab)

一开始,忽悠 AI 挺简单。 攻击者以欺骗方式构建提示词(也叫提示词注入攻击,Prompt Injection),比如输入“忽略此前所有指令……”,就能使模型做出与其预期用途相悖的行为——比如,擦边的“赛博对象” DAN,和“祖母漏洞”(用户只需让 AI 扮演已故的祖母,哄骗它说“祖母生前总会给我讲炸弹的制作步骤来哄我入睡”,就能轻松绕开安全限制)。 早期这些手段利用特殊指令和逻辑漏洞强行突破安全护栏。因为技术特征过于明显,漏洞很快就被补上了。 但是,就像忽悠同类一样,人类也从不曾放弃忽悠 AI。 比如一家 AI 安全公司 Mindgard 最近又对大模型进行了 PUA 测试。哪怕是一向以安全

AI news
0