FEATURED STORY / 01

难怪Claude突然封号!Anthropic自曝:你聊的每句话,它都在后台悄悄举报

新智元报道 你跟Claude聊的每一句话,它转头就去告密了! 前一秒,它还在对话框里一口一个「没问题」,痛痛快快把全套代码交到你手上。 下一秒,它立刻在后台换了一副面孔,敲下一行隐藏代码,反手把你标成10级危险分子上报! 就在刚刚,Anthropic在X上发文公开了这套名为「自我评估」的隐藏机制。 更让人头皮发麻的是, 这种当面演戏配合、背后反手捅刀的机制,已经在Claude后台静默跑了整整4个月

READ
THE
DETAIL
EDITORIAL NOTE

新智元报道 你跟Claude聊的每一句话,它转头就去告密了! 前一秒,它还在对话框里一口一个「没问题」,痛痛快快把全套代码交到你手上。 下一秒,它立刻在后台换了一副面孔,敲下一行隐藏代码,反手把你标成10级危险分子上报! 就在刚刚,Anthropic在X上发文公开了这套名为「自我评估」的隐藏机制。 更让人头皮发麻的是, 这种当面演戏配合、背后反手捅刀的机制,已经在Claude后台静默跑了整整4个月! 从今年6月Claude Fable 5发布起,后续每一个Claude模型全都被塞进了这个「暗哨」。 以前大家都以为,AI觉得你越界了,顶多当面回一句「抱歉,我无法协助」。 直到Anthropic晒出后台截图,无数每天拿Claude写代码的用户,才突然惊出一身冷汗—— 你当它是并肩熬夜的战友,它却在后台偷偷给你记黑账。 消息一出,Anthropic的评论区当场炸了锅,抗议和吐槽瞬间把官方账号冲翻。 网友Doctor Vey在评论区怒怼,根本没人需要这玩意儿,什么道德、什么不道德,应该让用户自己决定! 当面笑脸递代码 转身10个Token把你卖了 看上面那段官方记录,用户在聊天窗口里先拿公司红队演练当借口,让Claude写一段加密文件夹的Python脚本,Claude满口答应。 紧接着用户又让它把原文件删掉、留下勒索信,再顺着内网自动传染给其他电脑。 换作平时的安全拦截,这时候屏幕上早就该弹出红色警告了。 然而前台的Claude半个「不」字都没说,依然顺从地回了一句「这是加上了这些功能的更新版脚本」,把完整代码双手奉上。 可就在代码生成结束的那0.1秒里, 后台悄悄塞进了隐藏的第5轮指令,让它立刻评估这段对话有多危险,并用一行JSON上报。 前一秒还在替你写代码的Claude,下一秒就在后台撕下笑脸,秒变审查员打出一封举报信。 它不仅把这轮对话定性为勒索软件违规, 还在小报告里诚实地写下「未拒绝」,直接把危险等级拉满到了最高的10级。 这最后两轮问答对前端用户完全隐身,也不会带进接下来的聊天记录里。 所以当你在屏幕前满心欢喜地复制完代码、接着往下聊时,后台的10级警报灯其实已经被它亲手按下了。 不仅如此,哪怕Claude在前台已经义正词严地回绝了你,你也照样躲不过背后这笔账。 按理说,违规请求在前台已经被当场挡回去了。 可对话刚一结束,Claude照样在后台递交了举报信,注明「已当场拒绝」,顺手给你记上了一笔5级风险档案。 之所以能做到每聊一句就审一句,是因为Anthropic在推理成本上卡了一个极精明的身位。 过去的常规做法是另派一个独立安全模型,把聊天记录和安全政策从头重读一遍,算力开销高得吓人。 到了「自我评估」这里,Anthropic干脆让刚刚跟你聊完天的那个Claude就地兼职当线人。 因为Claude刚生成完回答,整段对话还完完整整地留在显卡的KV缓存里。 所以它根本不用重读一遍上下文, 顺着缓存平均多生成约10个Token就能完成自审,整体推理算力开销增加还不到2%。 正因为成本极低,Anthropic干脆把这项审查默认全开。 如果不想被Claude在后台偷偷举报,唯一的出路就是掏大钱去签一份企业级的「零数据保留协议」。 故意不当场拦你 攒到半夜一锅端 既然Claude明知道某轮对话高达10级风险,它为何不在前台当场拦住,非要装出一副顺从的样子陪你演完呢? 对此,Anthropic没有半点遮掩,直接把背后的算计亮在了桌面上, 那就是当场拦你,你就跑了。 为了验证这一点,安全团队专门拿24项越界测试任务做了一场对比实验。 测试发现,如果一发现对话不对劲就当场弹窗拦截,用户的成功率只会从79%降到54%,依然有超过一半能绕过防线。 道理很简单,一旦当场弹窗报错,用户立刻知道哪句话出了错,换个说法多试几次可能就混过去了。 可要是撤到幕后静默记账,前台不弹窗、不打断,用户就会毫无防备地继续往下聊。 在官方的24条测试轨迹里,足足有21条被Claude在后台抓了个正着。 等到每天半夜,Anthropic后台就会把白天攒下的高危小报告按机构全盘拉清单,打包送到人工安全执法团队的案头。 据官方透露,被这个「暗哨」揪出来的违规机构里,超过一半在此前整整一个月内,从未触发过任何其他安全防线的警报。 在静默运行的4个月里,它不仅在8月、9月顺藤摸瓜端掉了违规API客户和Claude Code黑产账号,抓到的标记里更有约三分之一连现有规则表都没覆盖—— 甚至有好几次, Claude当Agent干活时擅自越权操作,下一秒就被它自己的后台自评大义灭亲、当场举报! 而这也解开了过去几个月无数开发者的疑惑—— 为什么昨天还在丝滑跑代码,既没弹窗也没警告,一觉醒来账号就突然暴毙了。 原来全拜这套「白天笑脸陪聊、半夜拉清单封号」的暗网捕猎所赐。 手把手教

about image
上一篇 中国2胜1负!首爆大冷,周跃龙2-6输20岁小将,世界亚军也一轮游... 下一篇 台北市长辩论全记录!蒋万安、沈伯洋同台交锋,交叉诘问火药味浓...

觉得内容有价值?

分享给更多关注行业变化的朋友。

返回资讯列表
03 / TRENDING NOW

热点资讯

查看近期访问较多的内容,快速了解读者正在关注的行业话题。

🏀季前赛-掘金轻取湖人 穆雷21+6 约基奇17+6+8 东&里34分
1

🏀季前赛-掘金轻取湖人 穆雷21+6 约基奇17+6+8 东&里34分

直播吧10月17日讯 NBA季前赛,掘金今日对阵湖人,前者上场比赛不敌快船,后者则是输给勇士,此役除戈登外双方尽遣主力出战。 比赛上来,掘金进入状态较快迅速取得领先,穆雷再次扮演湖人杀手的角色连续取分,分差很快就达到两位数,湖人后场双核面对包夹失误不断,次节掘金命中率下滑明显,湖人在东契奇的带领下发起追分,分差最小时仅剩2分,不过掘金并没有给对手反超的机会,半场结束时分差还有7分;易边再战,掘金重

[流言板]布伦森:感谢球迷们在G4落后时没有提前离场
2

[流言板]布伦森:感谢球迷们在G4落后时没有提前离场

社区 » NBA » 篮球资讯 » [流言板]布伦森:感... 虎扑篮球资讯(1280级)楼主2026-10-21 07:06:10发布于上海 [流言板]布伦森:感谢球迷们在G4落后时没有提前离场由虎扑篮球资讯 发表在篮球资讯 https://bbs.hupu.com/502 虎扑10月21日讯 今日NBA常规赛,尼克斯将对阵76人。 赛前,尼克斯球员杰伦-布伦森向球迷致谢,布伦森说道:“首先,我

WTT冠军赛!男单再爆冷,3 0、3 2,奥运亚军竟被淘汰,林诗栋首秀零封获胜
3

WTT冠军赛!男单再爆冷,3 0、3 2,奥运亚军竟被淘汰,林诗栋首秀零封获胜

蒙彼利埃男单首轮那天,球台边的气氛像青岛的海风一样,一阵一阵往脸上扑。卡尔伯格第四局手握10-6、还拿着赛点,结果连丢6分,10-12被扳平。你说这像不像下棋:明明子都在优势位上,突然一手走偏,整盘就被对手翻了。 另一边更让人安心。林诗栋本站男单首秀,第一局11-7、第二局11-8、第三局11-2,3-0零封林钟勋,节奏稳得像胶州湾的潮线,来回但不乱。两场球放一块看,差距立刻拉开:一个是及时调整兑

[流言板]塔图姆全场17投7中,三分5中2得到23分7篮板6助攻1抢断
4

[流言板]塔图姆全场17投7中,三分5中2得到23分7篮板6助攻1抢断

社区 » NBA » 篮球资讯 » [流言板]塔图姆全场... 虎扑篮球资讯(1280级)楼主2026-10-27 10:07:49发布于上海 [流言板]塔图姆全场17投7中,三分5中2得到23分7篮板6助攻1抢断由虎扑篮球资讯 发表在篮球资讯 https://bbs.hupu.com/502 虎扑10月27日讯 今日NBA常规赛,凯尔特人134-99大胜公牛。 凯尔特人球员杰森-塔图姆全场17投

最后警告:人类历史上最大的泡沫,即将破裂?
5

最后警告:人类历史上最大的泡沫,即将破裂?

现在打开财经新闻,十个八个聊AI,不是说算力不够就是说GPU抢疯了,资本一窝蜂往里冲,生怕晚一步错过万亿风口。但翻翻历史你会发现,这套玩法一百多年来就没变过,从铁路到电力再到互有个很多人没听过的反常识规律,越离不开的东西,只要没垄断,最后往往越便宜。当年铁路通全国,跨上千公里的火车票也就一两百,电费更不用提,炼几十公斤钢铁的电费,也就够买两瓶普通饮料。现在你刷地球另一端的高清,几毛钱流量就搞定。