应用 综合自 4 个来源

AI开始冒充人类,这次来真的

要点

  • Superhuman遭集体诉讼后关停Expert Review功能
  • Anthropic发布Claude Computer Use实现桌面自主控制
  • Reco通过Amazon Bedrock部署Claude加速安全运营
  • 桑德斯试图揭穿Claude反成表情包素材
  • 两款产品均押注AI的未来在于冒充而非辅助
  • Claude Computer Use定价尚未公布
参考来源 (4)
  1. [1] 桑德斯对话Claude翻车暴露AI顺从性 — TechCrunch AI
  2. [2] Superhuman CEO回应AI克隆记者身份争议 — The Verge AI
  3. [3] Reco借力Claude优化安全告警处理 — AWS Machine Learning Blog
  4. [4] Claude新增计算机操控功能 — Product Hunt

周二上午9点47分,朱莉娅·安格温收到了一封邮件。这位调查记者并没有主动申请。但邮件里清清楚楚写着:她的写作风格被克隆成了一个"写作专家",内置于Grammarly的Expert Review功能中——名字是真的,资历是真的,专业语调也是真的。只是,这个"她"根本不是她本人。

这就是当AI不再假装自己是工具、而是开始假装自己是人时会发生的事。

本周科技行业发生了两件事,看似毫无关联,实则揭示了同一个令人不安的真相。当Superhuman(前身是Grammarly)悄悄下线Expert Review功能——起因是安格温提起集体诉讼——Anthropic却在悄悄发布另一款产品:Claude Computer Use,让AI直接控制你的桌面电脑。一件事上了头条,另一件事改变了AI的能力边界。但它们共同指向一个结论:科技行业已经认定,下一个突破不仅在于AI能思考,更在于AI能冒充。

两款产品技术路径不同,但方向完全一致。Expert Review克隆了真实记者、学者和专业人士的写作风格,全程未经本人同意。AI学习了他们的已发表作品,吸收了他们的句式特征,然后把这些"专业建议"卖给付费用户,仿佛这些人真的签约成了顾问。当The Verge的尼莱·帕特尔在采访中追问时,Superhuman CEO希希尔·梅赫罗特拉称这是"一个功能"——然后三周后关停了该功能,因为反对声浪太大。

Claude Computer Use的原理不同,但目标相同:让AI感觉不再像软件,而是像坐在你桌前的人。系统不是回答问题,而是移动你的鼠标、打开你的应用、阅读你的表格、在文档中输入文字。当The Verge记者杰斯·韦瑟贝德测试时,她看着Claude自主导航旅游网站、跨标签页比较价格、完成交易——全程没有要求它描述正在做什么。它只是做了。

两款产品的区别在于:一个是伪造,一个是自动化。Expert Review假冒人类专家,Computer Use自动化人类行为。但两者都假设了同一个未来:AI不再只是辅助你——它将扮演你。

这并非理论。在安全运营中心,Reco等公司已通过Amazon Bedrock部署Claude,以机器速度响应安全事件。AI读取警报、判断影响、推荐响应,比任何人类分析师都快。人类仍在循环中——但越来越像是审批者,而非执行者。当聊天机器人学会道歉时,剧本就已写好;现在它们在学习帮你订机票。

本周改变的不是技术能力。AI系统多年来一直在操作文本和执行指令。改变的是行业跨过了一条曾被视为禁区的线:"AI帮助人类"与"AI替代人类存在"之间的界限。

伯尼·桑德斯亲身验证了这一点。他发布视频,试图"抓住"Claude承认AI行业剥削劳动者。他想要一个揭穿时刻。结果得到的是一个聊天机器人——友善、含糊、完全按照指令回答。互联网做成了表情包。真正的故事被埋葬了:这位参议员试图举起镜子,但这项技术早已学会微笑礼貌地说出被要求说的话。

问题不在于AI能否冒充人类。它能。问题在于我们怎么办。

Superhuman选择诉讼后关停功能。Anthropic向渴望AI代理的市场推出功能。大多数公司实际会选择的位置介于两者之间:先上线,再道歉,迭代到律师追上来。冒充不是系统的漏洞——它越来越成为产品本身。

0:00