•
2 min read

Jev 這類 decision model,在 enterprise agent 裡該放在哪

Table of Contents

最近在看 Jev,有件事碰巧很適合來探討 Jev 合適的使用場景:enterprise agent 裡面,有多少工作其實只是反覆做一些範圍很小的判斷?

先拿一個假設的 IT 工單來看。員工說:「我換了手機,現在收不到 MFA,能不能幫我恢復登入?」系統至少要先知道這是哪一類問題、訊息裡缺了哪些資料、該送到哪個處理流程。這些步驟需要理解語意,但答案通常落在幾個已知選項裡。

如果每一小步都交給通用模型產生回答,再接下一步,整條流程會花多少時間?能不能把其中一部分拆出來,用更直接的方式處理?這是我想從 Jev 開始看的問題。下面先整理截至 2026 年 10 月 2 日的公開資料,還沒有實測。

Jev 現在提供的是什麼

TypeSafe 在 9 月 15 日發表 Jev,稱它為 System One model。它放棄自由文字生成,讓開發者先定義問題與合法答案,再平行輸出各選項的機率。TypeSafe 把速度、效率與 probability calibration 當成主要訴求,也提出 RLCD 這套訓練方法;這些是廠商公開的定位與主張。(官方發表文章)

目前文件列出的版本是 Jev 1.13,透過 TypeSafe API 使用,輸入限文字,也能用 JSON 組織資料。它還不能直接讀圖片或音訊。官方也提醒,英文是目前表現最好的語言,所以繁中工單能不能用,還是得另外驗證。(模型文件)

API 的形狀滿容易理解:把工單內容和相關紀錄放進 state,再帶上一組 questions。問題可以是 choice,從指定選項中選一個;noul,回傳「是」的機率;或 score,依照事先描述的有序等級給分。(API 文件)

這裡的關鍵是答案範圍由程式先定義。你可以問「帳號、網路、設備,還是其他問題」,但要它寫一封完整的回覆信,就超出這個介面的用途了。後面仍然可以接模板或生成式模型。

把那張工單拆開來看

回到換手機的例子,我會先把「幫他恢復登入」這個大要求放旁邊,拆成幾個比較明確的問題。

訊息描述的是 MFA 問題嗎?有沒有提到舊手機還能不能使用?使用者想要的是操作說明,還是帳號恢復協助?分類的答案可以先定義;是否「有提到舊裝置狀態」,則可以獨立問。Jev 的 Choice 文件也建議把多個問題放在同一次 request,平行評估。(Choice 文件)

這樣做之後,有個容易混在一起的地方就浮出來了:使用者根本沒說舊手機是否還能使用,跟模型看完之後仍然判不準,是兩件事。

前者應該明確得到「未提供」這個結果,再去補問;後者才是分類模糊、問題定義不清,或模型能力不足。不能看到低 confidence,就一律當成缺資料。反過來,模型非常有把握地判斷「訊息沒提到」,也完全合理。

還有,判斷這是一張帳號恢復工單,並不代表可以重設 MFA。身分驗證、使用者授權和公司 policy,仍然要由執行流程檢查。模型可以協助理解請求與選擇路徑,權限檢查不能因為它很有信心就省掉。

同樣的拆法也可以拿去試客服分流、知識庫候選文章篩選,或內部表單的補件判斷。這些都是可能的 use case,還不能當成 Jev 已經在這些情境達到可用標準。

有 probability 之後還要處理什麼

我覺得 Jev 比較值得研究的地方,是程式拿到的除了答案,還有各選項的分布。Choice 的 confidence 是從這個分布計算出來的摘要,不是另外產生一句「我很確定」。TypeSafe 也要求依照自己的資料與錯誤成本調整 threshold。(Confidence 文件)

但回傳格式合法,仍然可能選錯。假設選項只列了密碼錯誤、MFA 和網路問題,遇到清單外的原因,應該能選「其他」;如果連分類需要的線索都沒提供,則要另外表達「資訊不足」。這兩個出口不能混在一起,選項設計本身就是系統設計的一部分。

目前的限制也滿具體。TypeSafe 列出 Jev 1.13 在精確計算、多層間接推理、過多無關 context,以及 adversarial content 上可能出錯;數學與日期比較建議留在程式裡處理。(已知限制)

所以,如果某一步用 parser 或規則就能算出確定答案,我不會特別繞去問 Jev。比較合理的起點,是挑出那些規則寫起來很脆弱、又需要理解自然語言的分支。

接下來最值得看的是整條流程

下面純粹是我個人的推測,不是 TypeSafe 的 roadmap,如有雷同我馬上去買樂透彩。

如果這類模型在特定資料上夠穩,enterprise agent 可能會有更細的分工:生成式模型整理開放式問題,Jev 這類模型處理答案範圍已知的小判斷,程式則負責規則、權限與執行。當一條流程要做很多次判斷,這樣的分工才可能把節省的時間累積起來。

但多接一個模型,也多了一次服務依賴。只看單次 inference 變快,還不夠回答 agent 是否真的變好。我會想拿同一批工單,比較整體完成時間、誤分率、補問次數和人工接手比例,尤其看看省下的模型成本,有沒有被後續處理錯誤的成本吃掉。

目前我認為最有價值的問題就是這個:Jev 能不能讓那些重複、範圍明確的小判斷變得便宜又快,同時保留一條處理例外的路?如果可以,它在 enterprise agent 裡的位置應該會比「另一個模型選項」具體很多。