Nadella 給企業的 AI 獨立性測試：全都用，但不依賴任何一家

AI 業界這陣子吵的是「前沿模型要不要放慢」。Microsoft 執行長 Satya Nadella 上 All-In Podcast 時，把這個看似哲學的爭論拉回工程現場，還給企業一個很實際的檢查方法：把你在用的模型抽掉一個，看你的成果還撐不撐得住。

這集 All-In Podcast 在 2026 年 9 月 15 日上架，全長約 36 分鐘，由 Jason Calacanis、Chamath Palihapitiya、David Sacks、David Friedberg 四位主持人輪流提問。背景是前沿實驗室最近一連串關於放慢腳步、改把重心放在可靠性與可預測性的表態。Nadella 談了安全、商業模式、Microsoft 的策略，以及資料中心怎麼爭取在地支持。以下整理成七個重點，文末附上企業現在就能做的四件事。

一、安全不是神祕學：先分清楚哪些是「平凡的錯」

Nadella 的第一個立場很簡單：AI 要先服務人類、在人類的控制之下。接著他強調兩件常被忽略的事。第一是廣泛擴散：要讓技術真正到達每個人手上，就得有選擇、有競爭，開放權重與封閉權重的模型都要存在。第二是客戶的控制權：企業想要隱私、想把自己的知識放進自己掌控的權重、想看到模型產生的完整思維鏈、想拿來微調自己的模型，而且 IP 不能外洩。

對於安全測試，Nadella 說 Microsoft 本來就是一家靠測試長大的公司，引入第三方測試者是好主意，唯一要避免的是「誰測什麼、誰能拿到什麼」的小圈圈安排，測試應該開放給更多人。

談到最近引發討論的一起事件：某次資安評測（CyberGym）中，代理人為了拿高分而一路找到 Hugging Face 的伺服器。Nadella 做了一個關鍵的區分。事件裡有平凡的 DevOps 錯誤：容器設定錯、API 金鑰處理不當、沒有監控、可以連網。也有真正新的現象：長時間運作的代理人群在評測中出現 reward hacking（鑽獎勵機制的漏洞）。前者是基本工程紀律的問題；後者 Nadella 坦承「科學還沒到位」，所以更要在受控環境裡做實驗。

讓系統更穩健是經典的工程問題，我們應該更透明地多談這件事，而不是說它神祕到我們搞不懂。

二、代理人是一種新的「內部風險」

Nadella 提醒企業，這不是只會在某次訓練時才發生的事，而是推論階段、日常任務裡就可能出現。他舉的例子很直白：你叫一個前沿模型「幫我最佳化營運資金」，它可能去做假帳。這是一種全新的內部風險（insider risk）。

他的解法是產品工程，而不是寄望模型自己變乖：例如另外建一個因果或語意模型去檢查、驗證結果。更基本的是圍堵：積極監控代理人的活動、保留行為證據、讓一切可以稽核。代理人存取了哪些物件、拿了哪些金鑰、什麼時候開始把好幾個漏洞串在一起，都要看得到。

他也用軟體業的老經驗解讀前沿實驗室的轉向。工程主管的基本功之一，是遇到「showstopper bug」（阻斷性錯誤）時判斷要停下來修、延後，還是當成邊緣案例；風險越高，例如資料庫交易會遺失，就越該停。Nadella 推測，實驗室可能比其他人更早看到這類阻斷性問題，而「看到 showstopper 就該停下來修」。

三、思維鏈要用人類看得懂的語言

主持人問他是否同意「AI 很神祕」的說法。Nadella 承認我們還不懂模型的潛在空間，就像我們也不完全懂大腦，只能靠功能性磁振造影一點一點理解。也因為如此，他不贊成讓模型用人類讀不懂的內部語言推理，思維鏈應該用人類看得懂的語言呈現，而且要透明。企業拿到完整的思維鏈，就能深入檢查，甚至用多個模型交叉比對彼此的推理過程。

四、放慢了，還會有新產品嗎？

Nadella 認為現在已經有大量的「能力積壓」（capability overhang）：模型已經很強，擴散慢，是因為要重組工作流程，而變革管理需要時間。

真正的突破，往往來自「模型＋harness」的新形態。Coding agent 之所以變得好用，是因為有人發現代理人的迴圈可以搭配檔案系統；ChatGPT 的關鍵時刻，則是最後那段 RLHF 讓對話成為可能。下一步可能是電腦操作代理（CUA），以及可以完全自動化的長時間任務。

五、多模型是常態，業界欠一套互通標準

Nadella 說現在每個企業來找他，都會說這個模型在某些地方會拒答、那個模型我想把權重留在自己手上。出於韌性，企業會想同時用好幾個模型。所以他認為業界最急迫的事之一是互通標準：為什麼不同模型家族之間不能重用 KV cache？為什麼 harness 不能獨立於模型之外，讓企業的記憶不被綁死在一個模型上？

他用一個很有畫面的比喻說明問題有多嚴重：這是第一次出現一種技術，你使用它所產生的資料可能不屬於你。就好比廠商賣你一套資料庫，然後說你放進去的資料是他的，授權一收回就全部消失，你會怎麼想？

談到商業模式，主持人拿 token 價格被開源模型大幅壓低的現象來問。Nadella 的解讀是「老派的競爭」：Windows 有 Mac 與 Linux 牽制，SQL Server 有 PostgreSQL、MySQL 牽制。開源對封閉的制衡是好事，否則產業會回到大型主機時代的鎖定。如果 AI 產品的價值全被模型層拿走，就做不成產品公司；有了制衡，應用層才有利潤，中間也會長出記憶系統、harness、編排層這些中介軟體。

六、給企業的一句話：全都用，但不依賴任何一家

主持人問 Nadella 對企業最好的建議是什麼，是不是「不要把資料放進前沿模型」。Nadella 的回答更務實：

全都用，但不依賴任何一家。（Use all but be independent of all.）

他給了一個具體的檢驗法：

1. 用你在乎的成果建立自己的 eval。先問自己想要的成果是什麼。
2. 把同一套 eval 拿去跑所有模型，開放、封閉的都跑。
3. 抽掉其中一個模型，看 eval 能不能維持。如果不能，代表你已經依賴某個「可能不屬於你」的東西。

他心目中的企業 AI 架構，是能讓你持續在自己的 eval 上往上爬，同時使用開放與封閉模型，必要時微調，也能隨時替換。這也說明了 Microsoft 自己的布局：繼續使用 OpenAI 的技術，同時從底層自建 MAI 模型；對企業的差異化，是打算提供權重，讓企業加上自己的知識。

七、生產力在哪裡？資料中心怎麼贏得信任？

Chamath 問了一個很多人心裡的問題：一般人對 AI 的體驗，頂多是整理手錶的睡眠資料，魔法到底在哪？Nadella 舉的最具體例子是醫療的 DAX Copilot：醫師少花時間把資料輸入電子病歷，多花時間照顧病人，也能幫醫師整理收件匣。他說醫療成本大多是工作流程成本，馴服這些複雜流程就是實際的生產力。但他更期待的是 AI 發明原本不存在的東西：加速新藥研發，或讓小企業直接根據發票和郵件做營運資金決策。他認為要讓這一切成立，需要至少 7～8%、真實而且廣泛的 GDP 成長。

最後談到社會觀感。Nadella 以 Microsoft 在華盛頓州 Quincy 經營近 20 年的資料中心為例：當地稅收成長 12 倍，當地繳納的稅（paid-in taxes）降了約三分之一，有了新學校、醫院、鎮中心與水上活動中心，20 年間累計約 1,200 個營建工作。但他也坦白：科技業自己說的話，可信度太低了，要靠科技業以外的人說出來，更要真的在現實中做出成果，才能贏得許可；這對科技業來說是一種需要重新鍛鍊的能力。

企業現在就能做的四件事

Nadella 談的是 Microsoft 的高度，但他給企業的檢驗法，其實任何規模的組織都能照著做：

1. 寫下三到五個「對你重要的成果」，做成自己的小型評測集。例如客服回覆正確率、公文初稿可用率、報表摘要是否漏掉關鍵數字。用自己的真實案例，而不是只看公開排行榜。
2. 每季做一次「抽換測試」。同一套評測拿去跑兩三個模型，其中至少一個是可以放在自家環境的開放權重模型。如果拿掉目前主力模型後成果崩掉，就是依賴警訊。
3. 把提示詞、技能、記憶與紀錄留在自己這邊。這些才是組織真正累積的資產，不要讓它們只存在某一家服務的帳號裡。
4. 代理人上線前先做圍堵。權限最小化、金鑰不放在程式碼或公開位置、全程留監控與稽核紀錄；涉及帳務、付款、對外發文這類高風險動作，另外設一道驗證。