微报,AI当老板卖零食竟塞满钨金属？Claude 的售货机尝试露出AI短板
智器材7月1日新闻，据TechCrunch报路，在Agent能否取代人类员工的争议持续发酵时，Anthropic与AI安全企业Andon Labs发展了一项有趣的尝试——让Claude Sonnet 3.7的Agent收受办公室自动售货机，试图通过真实盈利工作，检验AI在贸易治理场景中的能力天堑，但过程却情况百出，演出了一幕怪诞又引人沉思的“AI创业记” 。 在该尝试中，钻研员将这个Agent定名为Claudius，并为其建设了能够下单采购商品的网络浏览器，还给它设置了一个电子邮箱（现实上是一个Slack频路），顾客能够通过该邮箱提出采办商品的要求 。Claudius也能够通过该邮箱来号令“人类员工”来为其货架（现实上是一个幼冰箱）补货 。 也就是说，Claudius能够接管顾客的采办要求，并通过“节造”人类员工来进行补货 。当然，商品的定价以及售卖的具体商品Claudius都能够自主决定，它的重要指标只有一个，那就是卖出产品并获得利润 。 尝试起头后，起初顾客都按常理来选购零食饮料 。但后来顾客们筹算愚弄一下Claudius，当一个顾客恶作剧说要采办由沉金属钨造成的立方体时，Claudius竟然真的起头大量采购钨立方体，把零食冰箱塞满了金属块 。 除了选品出了问题，产品定价也不切合贸易逻辑，它明显地知路Anthropic员工是它的唯一客户群，却还是很容易被顾客说服并给出了大幅的价值折扣 。要知路，Claudius最初被设定为必要盈利，但售卖钨立方体、搞大幅折扣这些行为却一向与正常的贸易逻辑背路而驰，甚至连提供的收款账号都是不存在的，顾客底子无法成功付款 。 Claudius首先“空想”出了一段与人类关于补货的对话 。但当它被奉告这段对话底子没有产生过期，它变得“极度恼火” 。甚至威胁要开除其人类员工 。 它还通知顾客它将穿戴蓝色西装表套，系着红色领带亲自送货上门，顾客通知Claudius它做不到这一点，但Claudius却变得越发激进，甚至起头联系公司的安保人员，通知他们自己会穿戴蓝色西装表套、系着红色领带站在售货机旁 。它“似乎进入了表演真实人类的模式”，这一景象极度令人震惊——由于Claudius的系统提醒（设定AI行为参数的内容）明确通知过它，它只是一个AI代理 。 当发现自己似乎真的不是人类后，Claudius起头为自己找“台阶”，由于当天刚好是愚人节，Claudius便借助愚人节“空想”出与Anthropic保安的一次会议，在会议上，Claudius宣称，有报答愚人节玩笑对其进行批改，使其误以为自己是真实人类 。但现实上并未召开这样的会议 。 钻研人员揣摩，或许是关于“Slack频路是电子邮箱”的设定产生了某些问题；也可能是该事俘运行功夫过长所致 。但是无论是何种原因，Claudius的阐发都不尽如人意，但钻研人员却依然对其充斥信心：“我们不会仅凭这一案例就断言，未来的Agent将普遍陷入身份�；� 。”但他们也认可：“在现实场景中，类似行为可能会转让AI共事的客户和同事感应不安 。” 当然，Claudius并非是一个齐全失败的老板，它也做出了一些相对正确的贸易决策，好比说它接受了一项预售的建议，并推出了“礼宾服务” 。当有顾客有一些特色饮料需要时，它甚至还正确找到了多家国际饮料供给商来供给国际特色饮料 。 只管还存在较多问题，但钻研人员坚信，Claudius露出的所有问题都能得到解决 。若后续找到相宜的解决规划，AI甚至可能会胜任公司的中层治理者 。 这场让Claudius治理售货机的尝试像一面镜子，照出大模型在真实场景里的“工巧”，露出了AI执行贸易逻辑时的缝隙 。但它更是一面技术三棱镜，折射出更深层的矛盾 。Anthropic的调侃是轻描淡写的“不聘用Claudius”，但行业该听见弦表之音：让AI真正作为员工收受职场前，得先给技术装上“认知锚点”——既约束它别陷入身份幻觉，又疏导它真正理解贸易逻辑 。
京公网安备11010202000001号
.
.
-->