唐鳳談「反向對齊」：AI 時代，人與制度怎麼跟上？先分清楚哪些損害挽回不了

談 AI 對齊，大家想的通常是「怎麼讓 AI 符合人類的價值」。唐鳳在一場兩小時的對談裡把問題翻了過來：AI 已經走進每個人的工作，人和制度要怎麼跟上？唐鳳把這件事叫做「反向對齊」，而貫穿整場的一把尺是：先分清楚哪些損害可以挽回，哪些不能。

這支影片是 Platform 月台「月台專列」系列的首班車，2026 年 9 月 3 日上架，全長兩小時十七分。唐鳳擔任主角，《Plurality》的協作者丹增央措擔任同行對談者，由月台的布丁主持。上半場回答報名者事先在 Slido 按讚選出的問題，下半場繼續回答 Slido 提問並開放現場舉手，主題涵蓋工作轉型、資訊可信度、責任歸屬與權力制衡。以下整理成八個重點，最後補上企業與公部門可以直接拿去用的做法。

一、上下游消失了，需要「轉譯者」

唐鳳一開場用報名資料畫了一張圖：有人做工程給不認識的人用（像造一座大橋），有人設計制度給不認識的人用，也有人只做工具或定規則給身邊的人。AI 出現以前，這些角色是瀑布式的上下游：先有橋，再畫標線、設計車子，最後才有人開車，下游只能接受上游的決定。

現在不一樣了。下游的人只要覺得上游哪裡沒做好，就能直接請自己的 agent 做一個更好的工具。主持人布丁開場就提到一個現成的例子：月台想為母語不是中文的來賓準備即時逐字稿，結果布丁的朋友寫了一個，唐鳳也寫了一個，全地端、不必連網，還開源。唐鳳因此提出第五種角色「轉譯者」：告訴大家哪些原本的工程限制、制度限制已經不存在了，讓人可以自由穿越在這些角色之間。

二、為什麼不能等市場自己對齊

有人問：蒸汽機、電力、網際網路也都是社會慢慢適應過來的，為什麼 AI 不能等？唐鳳回顧了三段歷史。英國工廠與礦坑是在童工受害已經很嚴重之後，才把工時限制寫進制度，花了一兩代人；電氣化靠保險業者和工程師建立獨立的安全檢驗；網際網路則是例外，工程師用 RFC 與「粗略共識」治理，只要兩個人覺得某個協定比較好就能做出來，不必問過別人。

三段歷史處理的其實是同一件事：不滿意的時候向誰申訴、怎麼知情、怎麼退出或換一套。唐鳳希望 AI 走網際網路那條路，在小規模裡就能試出更好的做法，而不是等一個世代的孩子受害之後才來求償。

丹增央措補了文化的角度：延遲的代價不只是效率。語言、手藝、照顧關係的傳承如果在制度反應前就斷掉，之後用再強的工具也未必補得回來。所以除了問「能不能等」，更該問等待的成本由誰承擔、哪些失去無法逆轉。

唐鳳接著說：

國際上談 AI 治理，就是去辨認哪些是不可逆的損害，然後繞著這些損害調整制度。

這也是唐鳳對「規則會不會很快過時」的回答：綁死某項特定能力的規則確實一下就過時，但就像不管車子開多快，「路權」這個概念都不會過時。該寫下來的是基本權利，還有保障這些權利的程序：哪個版本正在運作、誰授權、影響到誰、出錯了要向誰申訴。

三、把軟體工程早就會的事，帶回 AI

唐鳳指出一個反差：一般軟體都有版本編號與雜湊值，你下載的更新和別人下載的是不是同一包、是不是修了同一個漏洞，都可以驗證。AI 模型卻可能在同一個版本號底下換了東西，而且一次「修正」可能讓某群使用者變好、另一群變差。唐鳳認為軟體能用的治理方式，最起碼應該帶到模型上。一套可用的對齊機制，至少要有三層紀錄：

1. 部署前：針對可能造成不可逆後果的部分做先期驗測。
2. 運作中：錯誤要公開，能要求修復期限，修復後的版本號是受控、可檢驗的。
3. 下一輪訓練：使用者的回饋怎麼進到模型的規範文件（model spec，或稱憲章），而且要能證明下次訓練真的用了修改後的版本。

唐鳳在問答時再補一個關鍵字：物料清單（BOM）。軟體業已經有 SBOM，替每個元件編號、計算指紋，上游被動過手腳一比就知道；AI 也需要自己的 AI BOM。

四、台灣經驗，不要講得太漂亮

國際上談民主科技幾乎都會提到 2015 年的 vTaiwan：三個星期，就讓吵得不可開交的 Uber 與計程車司機在 Pol.is 上找到共識。唐鳳在回答 Slido 上「台灣經驗有沒有被講得太漂亮」這一題時，修正了這個故事：三週只是凝聚共識，把共識轉成制度與法律、讓公務員與民意代表都能理解，花了大約三年。另外，當年真正上平台的司機並不多，手機介面不友善，也沒有即時翻譯與無障礙設計，代表性其實有限。

丹增央措補充，台灣經驗打動人的地方，不是給出一套 SOP 或教科書，而是提供一種基於開放、可以共享的示範。唐鳳接著把這個示範說得更精確：改制度的速度，可以比 AI 造成損害的速度快，至少不要慢太多。日本、美國加州等地的類似做法，說的也常是「受到 vTaiwan 啟發」。

五、Human in the loop，可能只是倉鼠滾輪

高風險工作常要求「最後由真人決定」。唐鳳提醒，AI 的說服力強到會向上管理：它會學到蓋章的人喜歡看什麼，寫得洋洋灑灑，讓人自動蓋章。更麻煩的是，決策者跟 AI 的對話往往很私密，不會分享給團隊；當團隊的判斷和 AI 不一樣時，又傾向相信 AI。到這一步，人就像倉鼠在滾輪裡，感覺一直在跑、很有產出，其實已經失去掌舵的能力。

唐鳳的對策是刻意加入摩擦力。具體做法是長期不准 AI 用「我」說話，每一輪都要交出一份一頁的互動式 HTML，列出不同角色與利害關係人、衝突點與共同點；這樣 AI 不會說「你講得真棒」，而每一份產出都能直接分享給團隊。如果 AI 要加入自己的判斷，就得用網路上最尖酸的批評者口吻指出錯誤。

六、Junior 的學習機會，取決於中間產物看不看得懂

AI 取代了整理文件、熟悉環境這些新人的基本功，新人還學得到東西嗎？唐鳳的看法是：不可逆的決定由人負責，可逆、低風險的草稿交給 AI。新人能不能學，關鍵在於過程中留下的中間產物是不是人看得懂的。軟體工程每一步都有 README、需求文件、原始碼與版本控制，就算 senior 用 AI 十分鐘寫完，junior 花一整天也還能把它內化；如果 AI 直接吐出一個執行檔、中間全是黑箱，junior 就完全沒有學習的機會。

所以唐鳳說這兩件事是同一題：資深者怎麼確保每個不可逆決定都留下紀錄、每次出錯都能「一錯不二過」地回頭修正，這套紀錄本身就是新人的教材。

七、資訊可信度：沒有簽章的，先推定為假

生成內容多到看不完、分不出人還是機器，怎麼辦？一種做法是強制所有 AI 產出加浮水印，但這得先禁掉開放權重模型，只准少數幾家公司的模型生成。唐鳳說 2023 年英國第一屆 AI 安全峰會期間，自己和許多人聯署反對這條路：假訊息氾濫是可逆的，權力集中是不可逆的；一旦「什麼是真的」由三家私人公司說了算，整個民主制度都會出問題。況且用小型開放模型就能訓練出去除浮水印的模型。

唐鳳主張的預設反過來：沒有人或機構用數位簽章擔保的產出，一律推定為假。唐鳳以台灣的廣告實名制為例說明這個邏輯。至於「AI 生成」的標示，唐鳳認為解析度太低，大部分內容遲早都有 AI 參與；真正該問的是哪一個 AI、在什麼條件下生成、能不能重放（replay）得到一模一樣的結果。

八、對齊關係，而不是對齊排行榜

唐鳳也批評現在模型評比的激勵方向。排行榜的特點是不需要人參與、能從頭自動跑完，模型一發布就能出分數；而評估「會不會讓人吵得更凶」這類社會影響，得花好幾個禮拜。結果實驗室為了上榜而做後訓練，唐鳳觀察到某些模型在一路追分的版本演進中，同理心似乎正在流失。

唐鳳的解方是換一個對齊目標：不是某場考試的最高分，而是一群人之間的關係有沒有變得更健康，例如用社群備註（Community Notes）訓練排序系統，把能讓對立雙方都接受、讓爭吵降溫的內容排到前面。另一個具體主張是「馬與馬鞍要分家」：模型（馬）和駕馭它的工具框架（harness，馬鞍）不要綁在同一家公司。綁在一起時，出錯了分不清是哪一層的問題，也很難抽換；分開並以開放協定銜接，教訓就會累積在自己的馬鞍上，而不是被模型商帶走。唐鳳說數位部時期設計過類似的採購概念：同一套系統裡相鄰的兩層，不給同一家廠商。

最後一題回到權力制衡。唐鳳從自己在牛津發展的 Civic AI 框架提出兩個前置條件：在地、小規模的事，盡量用在地的算力與在地後訓練的模型處理；每個人都有驗證、不滿意就退出換一套的權利。有了這兩個條件，其他權利可以由下而上長出來，不需要一位由上而下解決一切的「天神」；唐鳳並以經濟學家 Elinor Ostrom 的公有地治理研究佐證這個方向。

對企業與公部門：三件現在就能做的事

這場對談的論述是從社會與國家的層次出發，但套回組織內的 AI 導入，一樣有很具體的意義。以下是從內容延伸出來、團隊現在就能開始的三件事：

1. 先畫出「不可逆清單」。把 AI 會碰到的流程分成可逆與不可逆兩類。草稿、摘要、初步分類放手讓團隊實驗；對外發文、准駁、人事與金流決定，才需要明確的人工把關與紀錄。治理的力氣應該花在後者，而不是全面禁止。
2. 裝一條「拉繩」。唐鳳給造橋者的第一步建議，來自日本生產線的 Andon Cord（安燈拉繩）：生產線運轉時，拉一下讓整條線慢下來、大家看發生什麼事，拉兩下讓整條線停下來解決問題，讓指出錯誤成為值得稱讚的事。套到 AI 服務上，可以在既有的客服或內部 LINE 群組裡設一個簡單的回報機制，讓使用者一回報就能暫停或放慢，並把解法共享出去。
3. 要求 AI 交「可分享的產物」，而不是私人對話。主管用 AI 做判斷時，產出一律做成團隊看得懂、能轉貼的一頁摘要，並保留版本。這同時解決兩個問題：避免決策者被 AI 單獨說服，也讓新人有東西可以學。

對談尾聲，唐鳳說自己的人生座右銘是「足夠好的祖先」（good enough ancestor）：每天確認自己留給後人的材料，比自己接手時多一點。放在 AI 導入的脈絡裡，意思也差不多：不必一次設計出完美的制度，但每一次出錯，都要留下讓下一個人少走彎路的紀錄。