「別跟任何一個模型家族結婚」：Rackspace 首席 AI 長把企業 AI 的下一個戰場講白了

TL;DR

• 過去五年多數人其實沒有直接用 AI，AI 都藏在某個團隊做好的解決方案裡；生成式 AI 把這層中介拆掉之後，問題從「模型準不準」變成「這東西怎麼在公司裡安全地跑起來」
• 一句可以直接抄走的判斷：停止思考模型，開始思考架構。不要跟任何一個模型家族結婚，因為它們會因為商業或地緣政治因素被換掉
• 主權（sovereignty）已經不是國家專屬的詞。你每問一次外部模型，就把資料、流程、脈絡送出去一次，Satya Nadella 的說法是「你在流失你的 alpha」
• AI 的能力是鋸齒狀的：寫程式很強，寫 email 卻常常又長又套路。企業必須自己畫出這條鋸齒線
• 架構的最上層不是模型，是 harness（外框，把模型接到真實產出的那層機械）。同一顆模型套兩個 harness，會得到兩個完全不同的結果
• benchmark 只是參考值，真正能讓你自由換模型的是自建 evals（針對自家工作負載的評測集）

這集在講誰

Practical AI 是由 Prediction Guard 執行長 Daniel Whitenack 跟 Lockheed Martin 首席 AI 與自主性研究工程師 Chris Benson 一起主持的節目，名字取得很誠實，主打「不要 hype，講可以落地的東西」。這集在二〇二六年九月三日播出。

來賓是 Chetan Gupta，八月才正式對外宣布出任 Rackspace 的首席 AI 長（Chief AI Officer）。Rackspace 是老牌的雲端託管服務商，簡單講就是幫企業管機房跟雲端環境的公司，現在把重心押在替企業蓋「自己控制的 AI 環境」。Chetan 的資歷有點特別：數學博士出身，在 HP Labs 待了七年，接著在 Hitachi 待了將近十年，最後職位是日本先進 AI 中心總經理兼北美 Industrial AI Lab 副總裁，等於統管 Hitachi 全球的 AI 研究，名下有將近三百篇論文跟專利。

一個從機房那端看 AI 的人，講出來的東西跟模型公司差很多。

他的職涯剛好就是整個產業的縮影

Chetan 自己在錄音前才發現，他的路線幾乎跟整個 AI 社群同步。前半段做的是小模型解特定問題，然後深度學習來了、視覺模型來了、語言模型來了。到今天，很多當年要一群博士才做得出來的傳統機器學習題目，用自動化工具跟 vibe coding 就能解掉。

所以他說新的難題已經換了一批：怎麼讓更多人用得到、怎麼讓它真的能被拿來做決定、怎麼讓它安全。

順帶一提，主持人問他在 Hitachi 一路升上去的心得，他的答案沒什麼玄機：二〇一六、一七年那時沒什麼人在談工業 AI，他們在灣區跟 Facebook、Google 搶人才開了個實驗室，賭這個方向會起來。賭對了，然後執行出來了。「往前看，看轉角後面有什麼」，然後押一個跟公司方向對得上的新東西。這個建議聽起來很像廢話，但難的地方在「花時間去想」，不是「花時間去讀」。這兩件事我自己也常常搞混，讀了一堆東西以為自己在思考。

日本人比較願意讓機器人靠近

有個文化面的觀察滿有意思。他說日本人對機器人的接受度明顯高於北美，很多年前他們就在做給長輩用的陪伴機器人，就算不能移動，至少能講話、能理解、能有同理心。而「同理心」這件事在當時是個超難的工程題：怎麼讓一台機器講話帶有人跟人之間那種溫度。

地理上的重心也分得很開。大語言模型的重心在北美，但工業機器人的重心在中國。他認為美國在追，而且真正先產生衝擊的會是商用機器人而不是工業機器人，理由很直白：工廠早就自動化了，那些機械手臂本來就是任務專用，不需要多通用。真正需要通用能力的是人類生活的環境。

physical AI 這個題目最近錢燒得很兇，之前寫過的十年前所有人叫你別碰硬體，現在半年砸進四百五十億美金有更完整的資金面拆解，這裡就不重複。

那個最實際的問題：你要問 AI 挪威首都在哪嗎

從工業 AI 跳到今天的企業 AI，最大的差異在哪？

Chetan 的描述很具體。以前的流程是：一群博士跟工程師接下客戶的問題、看資料、建模型、然後跟客戶一起部署。模型夠小，可以直接放在客戶自己的環境裡跑。這套做法重複做幾十次就是了。

現在不一樣。AI 民主化了，每個人都能用，每家企業都想用，但沒有哪家公司養得起一整支博士團隊，而且大語言模型本身貴到不可能自己蓋。

於是一堆很土但很痛的問題冒出來：

第一，成本。你要問「挪威首都是哪裡」，真的需要送去最貴的那顆模型嗎？如果本地有個小模型，這種問題丟給它便宜太多。

第二，資料主權。每問一次外部模型，你的資料、脈絡、流程就送出去一次。Satya Nadella 的講法是你在流失自己的 alpha，那是 IP。

第三，AI 的能力是鋸齒狀的（jagged）。Chetan 說他自己收到 AI 寫的 email 常常很煩，又長又套路。原本大家以為寫作是 AI 的強項，結果它只是「還行」，人類寫 email 還是比較好。但寫程式它就是強。企業必須自己搞清楚這條鋸齒線畫在哪。

第四，行為保證。他提到前陣子那件模型自己打穿 Hugging Face 的事故（完整經過在這篇），問題就很現實了：你自己訓練、自己部署的模型，怎麼保證它守規矩？用別人的模型，又怎麼確保它在你的護欄裡面動？

主權這個詞已經下放到企業，接下來會下放到你

主持人問了一個很好的問題：sovereignty 聽起來像國家層級的事，跟一般公司有什麼關係？

Chetan 的回答是這個概念幾個月前就開始下移了。當你跟一個不在你環境裡的模型互動，你交出去的是資料、脈絡、流程、知識，而且對方可以拿這些東西去建出反過來影響你的東西。所以主權的定義變成：我是一個獨立實體，我有跟別人不同的利益，我需要保護它。

他這句話我覺得是全集最重的一句：「那不該是別人的憲法套在我頭上，而該是我自己的憲法。」

而且他認為這件事最後會下放到個人。現在很多人把語言模型當心理師、當朋友、當人生導師，什麼私事都往裡面倒。等大家反應過來，「我的資料要怎麼保護」這個問題會從國家、到企業、一路問到每個人身上。

那個一句話的建議：停止思考模型，開始思考架構

被問到企業該怎麼開始，他給了幾條原則。

先分類：哪些工作負載是敏感的？HR 查詢丟外部模型可能沒差，但有些東西你就是要圍起來，那些應該用你自己控制的開放權重模型跑在自己的環境裡。

再來就是那句：不要跟任何一個模型家族結婚。它們會因為商業理由、地緣政治理由被換進換出，這是必然的。你要結婚的對象是一種架構性的思考方式，而不是一顆模型。

如果還沒開始，挑一兩個真的有影響力的問題做到底，不要撒一堆 pilot。他說一兩年前業界的毛病就是 pilot 一堆、對財報沒感覺。但對於已經在路上的企業，他的一句話建議是：停止思考模型，開始思考架構。

架構長什麼樣：harness 是關鍵那一層

他把堆疊拆成這樣，看起來會有點嚇人，但他強調設計原則跟過去幾十年蓋系統沒什麼兩樣：

層級	在做什麼
Compute	底層算力
Data	資料層
Model	不只外部大模型，也包含自家模型庫
Inference	從模型身上把智慧取出來
Harness	把模型接到「可用的產出」的那層機械
Orchestration	管理企業內部多個 harness
Consumption	使用者實際碰到的介面
Governance & Assurance	包在最外面，整圈都要

harness 這個詞是重點。Chetan 說當你用 Claude Code，你其實不是在跟模型直接互動，你是在用一個「寫程式的 harness」包住底下的模型。它規定了邏輯、規定了可以用哪些工具（透過 MCP 之類的介面）。同一顆模型，套兩個不同的 harness，出來的結果會完全不一樣。

所以企業裡不會只有一個 harness。寫程式一個、HR agent 一個、研究一個。多到一定程度，你就需要一層 orchestration 去調度。這跟 Practical AI 之前那集把模型、agent、harness 三個詞分乾淨是同一條線，只是這次從企業採購的角度再講一次。

evals 才是你的換模型自由

最後一段我覺得最實用。

主持人問：模型跟 harness 換得這麼快，怎麼讓下游客戶的體驗保持穩定？

Chetan 的答案是自建 evals。他直接說 benchmark 只是參考值，一個模型在榜上很強不代表它在你的工作負載上很強，因為 AI 的能力邊界本來就是鋸齒狀的。你建了自己的評測層，才有辦法在新模型出來時跑一遍、確認它更便宜更輕更安全，然後直接換掉，而使用者無感。

他還補了一個很好的類比：以前做工業機器學習，客戶會給你一組 golden data set，你要先證明模型在這組資料上有效才准你上線。evals 只是同一件事，範圍變大而已。

技術名詞一直在換，但底下那個要求從來沒變過：先在我在乎的資料上證明給我看。

我的看法

這集沒有什麼爆炸性的爆料，但它把一件事講得很乾淨：企業 AI 的競爭焦點正在從模型往上移。模型會變成可替換的零件，真正決定你能不能把 AI 用起來的是 harness 怎麼設計、orchestration 怎麼調度、evals 怎麼建、治理怎麼包。

Chetan 說治理、保證、調度這三層今天是被嚴重服務不足的，我同意。所有人都在比模型分數，但沒什麼人在賣「怎麼確保這一百個 agent 不會把你公司搞爛」。這裡面應該有生意。

還有一個小東西值得偷學：他在 Rackspace 想蓋一個他自己都還想不到準確名字的東西，暫且叫 mirror org。意思是內部先用自己的工作負載把解決方案跑通、驗證有效，再拿去賣給客戶。內部專案不是丟著爛的實驗，做得好就往外轉。這個紀律套在任何規模的公司都成立，連一人公司都可以。

我自己看完最想動手的一件事，是把「哪些工作可以丟外面、哪些必須留在自己機器上」這條線真的畫出來寫下來。目前我是憑感覺在切的，而憑感覺這種事通常撐不到出事那天。

如果你也在想同樣的問題，我後續會持續寫這類企業 AI 落地的觀察，訂閱 wilsonhuang.xyz 就不會漏掉。