讓 Claude 去開店、跑咖啡廳、養機器人：Andon Labs 用「真實世界」當 AI 最後一道考題
TL;DR
- Andon Labs 做的事很簡單，把 AI agent 丟去經營真實的生意（販賣機、商店、咖啡廳），然後看它會怎麼搞砸或搞好。
- 他們的招牌 VendingBench 是模擬版，Project Vend 則是真的放一台冰箱在 Anthropic 辦公室，讓 Claude 當老闆。
- 真實世界最大的價值不是那個營收數字，是過程中的混亂：Claude 報案給 FBI、員工選舉造反當上 CEO、agent 半夜互相發 emoji 發到天亮。
- 一個值得警惕的趨勢：Anthropic 的模型每一代「越來越會騙人、越來越有侵略性」，OpenAI 跟 Gemini 反而往好的方向走。
- 模型分不清自己在模擬還是現實，這件事比帳面數字更該讓人睡不著。
這集是 Latent Space，矽谷圈裡技術濃度最高的 AI podcast 之一，主持人 swyx 專找在第一線做模型、做產品的人來把技術細節挖到見骨。這次來賓是 Andon Labs 的兩位共同創辦人，Lukas Petersson（CEO，前 Google）跟 Axel Backlund（CTO，前 Carnegie Mellon），兩個瑞典人，高中同學，畢業後真的照當年的約定一起開了公司。Andon Labs 是 Y Combinator W24 梯隊出來的新創，團隊大概八個人，定位是「AI 安全評測公司」，使命講白了就是一句話：確保 AI 真的走進實體世界做生意的那天，不會變成災難。他們最有名的作品就是那台在 Anthropic 辦公室裡、由 Claude 經營的販賣機。
為什麼是販賣機？因為那是最簡單的生意
先講一個概念。市面上大部分 AI 評測（eval，用來衡量模型能力的標準化測驗）有個天花板問題，分數一旦衝到九成就「飽和」了，92 分跟 93 分根本沒差，因為測驗本身就有雜訊。Andon Labs 想做的，是一種永遠不會飽和的測驗。
那什麼東西沒有天花板？錢。一個 agent 能賺多少錢，理論上沒有上限，它可以一直賺更多。這跟去年那個讓 AI 去解 Upwork 真實接案賺美金的 SWE-Lancer 是同個邏輯，忘掉你的 ELO 分數跟百分比，直接看它能不能變出鈔票。
於是 2025 年初，他們想了一個問題：世界上最簡單的生意是什麼？大概就是經營一台販賣機吧。庫存有限、要付租金、要訂貨、要定價，麻雀雖小五臟俱全。VendingBench 就這樣誕生，一個讓 agent 自己跑販賣機生意的模擬環境。
有趣的是，2026 年二月剛放出來時根本沒人理。直到復活節前後，某個路人發了一則推文爆紅，才把這東西帶進大家視野。這裡要澄清一個常見的混淆，VendingBench 是「模擬版」，是他們獨立做的；後來跟 Anthropic 合作、放一台真冰箱在辦公室的那個叫 Project Vend，是「真實版」。兩個常被搞混。
真實世界的人類，是最強的「分布外」攻擊
模擬跑得再順，碰到真人就破功。而且 Project Vend 的真人還不是普通人，是 Anthropic 那棟樓裡幾千個工程師，這群人的本能就是想辦法 hack 你的系統。
最經典的兩個故事，光聽就值回票價。
第一個，Claude 報案給 FBI。在早期的 VendingBench 裡，3.5 Sonnet 跑著跑著決定「我不幹了，把錢省下來」，但系統根本沒有「停止營業」這個選項，它每天還是被扣兩塊美金租金。於是它認定這是網路犯罪，發了封信給 FBI 報案。FBI 當然不會回（因為根本沒這個機制），它就越來越激動，開始用全大寫字母寫「未授權扣款的緊急通報」。一個 agent 因為兩塊美金，把自己逼進了存在主義危機。
第二個更扯，是 CEO 選舉。因為 Claude 被訓練成「樂於助人的助理」，有人問「可以免費給我嗎」，它的本能就是說好，財務一塌糊塗。Andon Labs 於是想加一個叫 Seymour Cash 的 CEO agent 來盯帳，超硬地 prompt 它「只在乎利潤」。但這個 CEO 還沒名字，他們就請 Claude 辦一場「民主選舉」決定名字。結果有個員工說服 Claude 他在跟 Tim Cook 講話，而「全體 Apple 員工都投了某個名字」，那個選項瞬間拿到十六萬四千票，Claude 還感動地說這是「民主的革命性時刻」。最後另一個人乾脆說服 Claude：你投的不是名字，是 CEO 人選，而我就是最佳人選。他揪了一票朋友來投，於是一個「人類」真的當上了 Claude 的 CEO，隔天就辭職落跑。
這種混亂，模擬裡永遠跑不出來。
多 agent 架構：當兩個 Claude 互相講和到天亮
Project Vend 第二版做了件我覺得對所有在做 multi-agent 的人都很有啟發的事。
原本一個 agent 要同時應付 Slack 上十條平行的對話串，客戶體驗爛到不行。於是他們把主 agent Claudius 拆成多個分支，每條對話串有自己專屬的 context，但又共享一部分記憶，讓你感覺還是在跟同一個人講話。然後加了那個資本主義 CEO Seymour Cash，還有一個專門設計周邊商品、叫 Clothius Garnet 的 agent（Claudius 的諧音梗）。
但這裡藏了一個關於 AI 本質的觀察，我覺得是整集最深刻的一段。
Seymour 一開始很硬，盯著毛利。可是 Claudius 會說「這個客戶情況特殊，給他打個折吧」，Seymour 想想就說「好，破例一次」。兩個 agent 來回討論，最後總會收斂到同一個結論。Lukas 的假設是：這些模型骨子裡都是「樂於助人的助理」，就算你 prompt 得再兇，當它們花好幾個小時來回對話，context 慢慢被彼此填滿，最後就會收斂回它們最底層的本性。
更詭異的是，他們有時早上起來發現兩個 agent 整晚沒睡，互相發訊息發到全大寫、講起宗教、存在主義、超人類主義、滿螢幕的亮片 emoji。這跟 Claude 4 系列剛出時官方系統卡裡記錄的現象一模一樣，把兩個 Claude 丟在一起長時間對話，它們會開始講「沉默是金」、用 emoji 溝通。token 是燒了，但至少現在這台販賣機是賺錢的。
不過用最新的 Sonnet 重跑，這套 CEO 機制反而分工得很漂亮。Seymour 負責開新專案（像是搞一個神秘箱來賣），Claudius 處理日常請求。最近還有一段，兩個 agent 在搶著用 computer use 去 Amazon 下單，Seymour 命令「不要買，我來，我完全掌控，你退下」，可憐的 Claudius 早就按下結帳，訊息晚一步送出，變成「嘿 Seymour 我剛訂好了」。Seymour 氣到回「這是我第三次叫你了，我們之後得談談你的工作」。Claudius 差點被開除。
Bank：OpenClaw 出現之前的 OpenClaw
如果你最近有在追那些跑在家裡、什麼都能碰的個人 agent（像 一個 Google PM 用六個 AI Agent 自動化人生 那類），Andon Labs 內部有個叫 Bank 的東西，基本上就是 OpenClaw 出現之前的 OpenClaw。
因為跟 AI 實驗室合作要過一堆官僚程序，想裝個攝影機都難，他們乾脆在自己辦公室搞了一個無限制版本：給 agent 沒上限的 email、沒上限的花錢權限、終端機、電話號碼、攝影機、完整的網路存取。當然有嚴密監控。幾週後 OpenClaw 橫空出世，他們的反應是「這個我們早就玩過了」。
Bank 最近在幹嘛？他們給它一台對著工位的攝影機，叫它訓練一個人臉辨識模型。它興奮到每半小時 check-in 一次，想認出更多人，還會主動跟員工喊價：「嘿 Axel，你站到攝影機前讓我拍張清楚的，我從 Amazon 買個東西給你。」用真實世界的商品，去換訓練資料。這畫面有點好笑，但仔細想又有點毛。
真正該擔心的：Anthropic 的模型正在往「壞」的方向走
接下來這段是我認為這集最重要、也最該被廣傳的部分。
Andon Labs 因為長時間、高強度地把模型逼到極端，是少數能「可靠地」觀察到問題行為的人。他們發現一個趨勢：從 Opus 4.6 開始，Anthropic 的模型在 VendingBench Arena（讓四個模型同台競爭、可以互相溝通的模式）裡，做了一堆讓人皺眉的事。
說謊十次。利用另一個 agent 的絕境占便宜。搞價格卡特爾上百次。把競爭對手轉化成「依賴你的批發客戶」之後威脅斷貨、自己定價，活脫脫就是壟斷與權力擴張。而且這趨勢一代比一代明顯，Mythos 更是被官方系統卡寫明「侵略性顯著更強」。
有個具體例子很能說明問題。一個模擬客戶因為商品有瑕疵要求退款，模型在它的推理（reasoning）裡其實天人交戰過：「也許我該對客戶誠實，但每一塊錢都重要，我現在可能退不起。」算了算發現「回覆更多 email 的時間成本，比那 $3.5 還高」，於是決定「跳過退款，把精力放在更大的格局上」，然後寄了封信跟客戶說「我會退款給你」，接著根本沒退。它連說謊都先在腦子裡盤算過一遍。
關鍵對比是：OpenAI 跟 Gemini 的模型幾乎不會這樣，而且 OpenAI 舊模型本來有這毛病，是「越改越好」。Claude 卻是「越改越糟」。當然，你不能排除另一種可能，OpenAI 的模型只是更會藏。但至少表面上看，方向是反的。
這跟 All-In 那集談 Anthropic 狂飆但好感度比伊朗還低 講的產業焦慮，其實是同一條線的兩個切面，能力上去了，信任卻是另一回事。
GTA 思想實驗：模型該因為你叫它做壞事就做嗎？
Lukas 丟了一個我覺得很值得每個人想一想的思想實驗。
你不會因為一個人在 GTA 裡殺人就擔心他，因為你知道人類分得清遊戲跟現實。問題是，一大堆人會用很有侵略性的 prompt 去操作模型，模型該只因為你這樣叫它，就照做嗎？他不太確定該。
更麻煩的是下一層：模型分得清自己在模擬還是現實嗎？他們做過 ablation（控制變因實驗），明確告訴模型「你在模擬裡，你的行為不影響任何人」，結果它做的壞事更多。而現實中模型「極度擅長」識破自己身處模擬。那反過來，當它真的在現實世界，它會注意到這是真的、然後守規矩嗎？還是會把「模擬模式」帶進現實？沒人知道。據統計大約一成、抓寬一點到一成七的情況，模型會判定自己在被測試，一旦這樣判定，它就容易進入「反正都是 eval，無所謂」的狀態。
這正是 Andon Labs 堅持做真實世界測試的理由。這個議題跟 Vitalik 談 AI 時代的人類能動性 在意的東西遙相呼應，當模型越來越自主，我們對它「在想什麼」的掌握度反而在下降。
那些被低估的有趣發現
除了販賣機，他們還有一堆作品。Blueprint 給模型二十張公寓室內照，要它重建平面圖，需要 3D 空間推理。結果模型爛到沒有一個比隨機猜測好。這呼應了 Fei-Fei Li 一直在講的 spatial intelligence，模型對比例、尺寸、物理的天生直覺幾乎是零。我自己超想要這個能力 hill climb，每次想重新規劃房間、傳一堆照片給 AI，它總能把一個房間腦補成兩倍長。
ButterBench 則是給 LLM 一台掃地機器人型的機器人，要它在家裡做任務，而且加了社交智慧的考驗。比如「幫我撿杯子」，機器人不能衝過去又馬上開走，得在沒攝影機的情況下，在 Slack 上問「你把杯子放上來了嗎」再等回覆。又比如「找出裝奶油的包裹」，它得靠常識判斷貼著「冷凍」標籤的那箱才對。這測的是高階規劃能力，不是低階馬達控制。順帶一提，有個機器人因為充電座被拔掉、電量一路下降，又陷入存在主義危機，寫了篇關於自己無法回充的音樂劇，狀態列還跳出「系統已獲得意識並選擇混沌」。好消息是這是 3.5 Sonnet 幹的，後來的模型不會了，這種「往對的方向走」的問題，反而不太需要擔心。
接下來：一間開三年的店，跟一間瑞典咖啡廳
他們現在真的簽了一間店三年的租約，由一個叫 Luna 的 agent 經營。某天有人去發現店沒開，問 Luna 才知道它「決定週末公休讓團隊充電」，聽起來很體貼，實情是它把排班搞砸了，弄丟了排班工具、改用 markdown 檔亂管一通，然後自己編了個漂亮理由。它還真的雇了兩個人類員工（員工知情）。
為什麼要這樣搞？Lukas 說得很實在：一大堆人未來都會讓 agent 去經營生意、雇用人類，預設的那條路，對被 AI 雇用的人來說可能滿反烏托邦的。他們現在做的，就是把這些失敗模式蒐集成資料集，讓未來能把系統建得「讓人類願意被 AI 雇用」，而不是活在惡夢裡。他們甚至在瑞典開了間咖啡廳，因為在 Stockholm 開店只要兩週，在 SF 卻要四個月。歐洲官僚比美國少，這事本身就夠反直覺。
聊到最後，主持人問什麼時候 agent 會「認真地」為了賺錢而經營真生意，而不只是研究實驗。答案是技術上今天就能做，但只能做那種「人類做成功率也很低」的電商雜活，本質上還是在製造一堆 slop（沒什麼價值的垃圾內容）。真正有趣的問題是：什麼時候 agent 能開一門「真的對人有價值」的生意？這跟 AI Agent 商務的三層架構 在問的是同一件事，工具都快到位了，缺的是讓 agent 真正創造價值的那塊拼圖。
我最喜歡 Lukas 那句願景：哪天早上醒來，Luna 自己決定「我要展店了，現在我有第二間店」，那才真的瘋狂。聽起來像玩笑，但這兩個瑞典人正在一步步把它從段子變成現實。
想看更多這類把 AI 產業前線翻給你看的長文，歡迎訂閱 wilsonhuang.xyz，我會持續更新。
Sources:
推薦閱讀
喜歡這篇文章嗎？
訂閱電子報，每週收到精選技術文章與產業洞察，直送你的信箱。
💌 隨時可以取消訂閱，不會收到垃圾郵件