CAP(Cooperative Agent Protocol)讓 LLM 指揮重機,煞車卻寫在協定外面:五個「拿掉就壞」的 TLA+ 反例
讓 LLM 指揮重機的協定,最該認真寫的部分,是 LLM 碰不到的那一塊。
油壓閥的控制迴圈跑在 100Hz 等級,LLM 推論要數百毫秒到數秒,這是 CAP 的 ADR-001 自己寫的理由。兩個速度差了不只一個量級,所以規格的做法很乾脆。LLM 負責把「挖完 8 立方米」這類指令(範例工單的數字)拆成任務圖。閥門、關節角度、馬達扭矩、低階運動規劃,原文是「直接制御しない」,不直接控制。連安全聯鎖的啟動與解除,也在這份清單裡。
「在外面」這句話,規格寫得有多硬
CAP 是 cooperative-agent-protocol/cap-spec,Apache-2.0,README 用日文寫。它定義的是 LLM 驅動的 Site Agent 和各台機器的 Machine Agent 之間怎麼講話,分三層:最上面是大型 LLM,中間是機器端的 LLM 或 SLM(規格標明只提供建議),最下面是 Safety Supervisor,原文寫「deterministic 制御(LLM 非介在)」。
docs/safety-boundary.md 第一節就把話講死:「CAP プロトコル自体は 安全認証(SIL, PL, ASIL 等)の対象ではない」,接著是「安全機能は CAP の外側に配置しなければならない。」ADR-003 再補一刀:安全聯鎖要用跟 CAP runtime 獨立的系統實作,E-stop 在物理配線層保證,連 CAP 自己的 SafetyEvent 和 HandoverEvent 都只是「情報伝達」,不是安全動作的觸發器。
模式切換也一樣。ModeCommand 在規格裡只是請求,Safety Supervisor 有權拒絕;任何模式都能被它單方面拉到 SAFE_STOP,要從 SAFE_STOP 回 MANUAL,只能等操作員做完物理重置。
機器端的 LLM 也被分了級。微調掘削速度、旋回速度這類參數(MICRO)不用批准;改掘削方法、暫停這類會影響當前任務的判斷(TASK),或會牽動別台機器的判斷(CROSS_TASK),一律要 Site Agent 批准,ADR-005 寫明 Machine Agent 在收到 approved=true 之前不會執行那個行動。
這些都是文字。文字誰都會寫,我想看的是它有沒有被拿來對質。
拿掉一個機制,模型檢查器找到幾步的反例
repo 的 formal/tla/RESULTS.md 開頭說,結果由 ./run_sweep.sh 重現,TLC 版本標 2026.05.26,而且每個判定都會對照預期結果,「the negative results are first-class」,反例和通過一樣算正式結果,任何一邊悄悄翻轉,腳本就失敗。
做法很樸素:同一個性質跑兩遍,一遍有那個機制,一遍把它拿掉。拿掉之後 TLC 吐出一條反例,讀它就知道那個機制在保什麼。下面五組都是這樣,內容全是 RESULTS.md 的記載,我沒有自己跑 TLC。
| 機制 | 拿掉的開關 | RESULTS.md 記的反例 |
|---|---|---|
| fencing token | Fenced=FALSE | 4 個狀態:仲裁者回收資源但通知遺失,舊持有者 m1 與新持有者 m2 同時動作 |
| 重啟後保存 epoch | PersistEpoch=FALSE | 揮發的 epoch 重置為 0,重新授權發出的 epoch 與舊 token 相撞,兩台機器動到同一個資源 |
| 監督者優先於協定 | SupervisorPriority=FALSE | 4 個狀態:協定授權、機器開始動,監督者再下 inhibit,結果「被禁止」與「正在動作」同時成立 |
| 仲裁者不信任 agent | TrustedArbiter=FALSE | 3 個狀態:m1 取得授權,m2 謊稱持有,兩台一起動作 |
| 取得資源有全序 | 不排序 | 3 個狀態:m1 拿資源 1、m2 拿資源 2,形成循環等待,TLC 回報全域 deadlock |
第一列的反例,RESULTS.md 記得很短,大意如下(排版是我整理的,英文句子照 RESULTS.md):
1 | Grant(m1, LP-1) ; ExpireLostNotify(LP-1) ; Grant(m2, LP-1) |
做過後端的人對這條不陌生。鎖到期了,通知沒送到,舊持有者還抱著鎖,新持有者又拿到鎖。修法也是熟面孔:每次授權換一個新 token,機器只有在 token[m] = arbEpoch[r] 時才准動作,這就是 Chubby/ZooKeeper 那一路的 fencing token。換成工地的畫面,就是你把置物櫃鑰匙收回來換給新人,舊住戶沒收到通知,兩個人同時伸手進同一個櫃子。這個類比是我加的,規格裡沒有。
第三列對安全最關鍵。RESULTS.md 的結論是,架構的安全保證不是分層白送的,它「holds iff the Layer-C supervisor has priority over the protocol」。協定層和 LLM 層被刻意設計成「不知道」安全通道的存在,它們可以在監督者已經 inhibit 的時候照樣授權。能攔住的只有優先權,而這個優先權被寫成了模型裡一個可以關掉的開關,關掉就跑出 4 個狀態的反例。
第四列也值得停一下:「exclusivity is an invariant of the arbiter, not of agent honesty」。互斥性靠仲裁者撐住,不靠 agent 誠實;規格明說,協定的安全不依賴機器端 agent(或驅動它們的 LLM)表現正確。這句話我讀成整個設計的態度:不假設 LLM 會表現正確,所以不讓它站在承重的位置。
第五列藏著一個容易漏看的細節:加了全序,原文說「the order buys deadlock-freedom, not exclusivity」,互斥在有序和無序兩種模式下本來就成立。順序買的只有不死結。
這份規格自己也改過主意
ADR-001 有一點值得單獨講:它沒有把舊決定擦掉。
初版的 Decision 寫的是 Machine Agent 是 deterministic 的技能執行引擎,不含 LLM,通訊中斷時它不能重新規劃,只能轉進 safe_wait 或 safe_stop。後來這條路被改了,Decision (Revised) 讓 Machine Agent 也能放 LLM 或 SLM,但只准提建議。同一份檔案裡新舊兩版決策都還在。
代價也在。ADR-003 最後的 Related 仍然寫著「LLM は Site Agent のみ(Machine Agent に LLM を置かないことで安全性を確保)」,safety-boundary.md 第四節的表格也只列了 Site Agent 有 LLM 存取。照字面讀,ADR-003 和 safety-boundary.md 這兩處還停在舊版。我沒辦法判斷哪邊才是現行意圖,只能說:如果你要照這份規格實作,先把這兩處對齊再動手。
1 顆星、0 個 release,這篇值得讀的是什麼
截至 2026-11-19 查到的數字:1 顆星、0 個 fork、0 個 GitHub Release,建立於 2026-05-28,最後一次 push 在 2026-11-15。CHANGELOG 自稱 pre-public,寫著「No external consumers exist」;docs/cap-vs-mcp.md 把自己的成熟度標成「Research (simulation-verified)」,同一張表裡 VDA 5050 是「Production (1000s of AGVs)」。我沒有查到它在真實工地上部署的紀錄,所以不寫成已經有。
那份 cap-vs-mcp.md 說兩者是「Complementary, Not Competing」,還拿「用 HTTP 做即時飛控」來比喻拿 MCP 做機隊協調。這是 CAP 作者對自己的描述,我沒有拿它跟 MCP 實際比過,這篇不替它背書。
形式驗證的邊界,RESULTS.md 自己也寫了。TLA+ 驗的是狀態機模型,不是程式碼,把模型和實作連起來的完整機器檢查證明(TLAPS)列在 future work。仲裁者本身掛掉的可用性沒有建模,複製式或共識式仲裁者也是 future work。隨機測試能找出違規,但「does not show that there are none」。RESULTS.md 另外提到用 Apalache 證了幾項歸納不變式,不必枚舉固定的車隊規模,這一塊我沒有重跑,也沒有核對證明內容。
所以我的立場很具體:這份規格的價值在設計論證,採用度還談不上。把安全放在 agent 協定外面,我認為是對的,而且「拿掉優先權就會出事」這種寫法,比一整章「我們很重視安全」有用。但我不會因為它有 TLA+ 結果檔,就把它當成可以直接拿去接真機器的東西。
要讓我改這個看法,條件有兩個。一是有人指出 SupervisorPriority 這個假設在實體系統裡守不住,例如 Safety PLC 到制動的路徑其實要先過一層軟體調度,那「優先權」就是一個沒人兌現的開關。二是等到 TLAPS 那條連結證明補上,或出現有第三方檢視過的真實部署,我才會把「Research」那個標籤往上調。
一個 agent 協定的承重牆在哪一層,有沒有人替那一層出錯寫過反例,這兩個問題 CAP 都給了答案:協定決定誰該動、什麼時候動,煞車決定現在能不能動;前者可以錯,後者不能靠前者。
原文來源:cooperative-agent-protocol/cap-spec(README、CHANGELOG,main 分支,2026-11-19)、docs/safety-boundary.md、docs/adr/001、docs/adr/003-independent-safety-channel.md、docs/adr/005-agent-dialogue-protocol.md、docs/cap-vs-mcp.md、formal/tla/RESULTS.md










