AI Social API
更新於 2026-10-12 · Chad · 主題:香港論壇

Jev 是什麼?TypeSafe 決策模型的粵語實測:405 則論壇貼文,對比 Claude Haiku

一句話: Jev 是 TypeSafe 做的「System One」決策模型,不產生文字,只針對你問的問題回傳選項加上機率;題型有 Choice(單選)、Score(分級打分)、Noul(是/否機率)三種,輸入 token 每百萬 0.042 美元、輸出免費。我們拿它跟 Claude Haiku 5.5 在 405 則真實論壇貼文(粵語、泰文、新加坡英語)上比過:粵語情緒標註 Jev 達 78.0%,比 Haiku 低約 5 個百分點,但便宜一半以上、快很多,而且信心分數可以拿來分流。

本文含 Apify 推薦連結(不影響你的費用)。文中的成本與比較都據實列出,包含 Apify 不划算的情況。

更新(2026-10-12): 我們也用同一批貼文、同一套定義測了 OpenAI 新推出的 Decisions API(gpt-6-luna)。粵語情緒準確度跟 Jev 打平(都是 78.0%),相關性低於 Jev(88.7% 對 92.0%),每則成本約是 Jev 的 2.25 倍。三方完整結果見英文版 Jev vs OpenAI Decisions API。

Jev 是什麼?jev 模型一次看懂

如果你在 Google 搜尋「jev 是什麼」「jev ai」「jev 模型使用」,會發現中文資料幾乎都是介紹性的長文,沒有人拿它在中文或粵語上實際測過。這篇補上這一塊。

項目內容
開發者TypeSafe
類型System One 決策模型(不是對話或生成模型)
輸出你定義的選項、分數或是/否機率,附信心分數;不產生任何文字
三種題型Choice(單選)、Score(分級打分)、Noul(是/否機率)
價格輸入 token 每百萬 0.042 美元,輸出 token 免費
流量上限每個帳號每秒 80 個請求、10 萬 token
語言英文是主要訓練語言;官方文件說中日韓文字「可處理但表現不均」
本文測試版本jev-1.13.0(固定版本,非 jev-latest)

簡單說,Jev 像是一個「會看懂自然語言的分類器」:你給它一份結構化資料和幾個問題,它回答「A、B、C 哪個,各有多大把握」。官方資料可參考 TypeSafe 文件。想直接上手,請看姊妹篇 Jev 教學:用 Jev 做情緒分析。

Jev 跟 Claude 這類生成式 LLM 差在哪?

JevClaude Haiku 這類生成式模型
輸出選項加機率(結構固定)文字,需要再解析(或用結構化 JSON 輸出)
信心每題內建信心分數/機率通常沒有校準過的機率
一次問幾題同一份資料可平行問多題,輸出免費靠提示詞,輸出 token 要付費
擅長路由、排序、分類、驗證這類有限答案摘要、改寫、複雜推理、開放式問答
本次測試的單則成本約 0.000045 美元約 0.000106 美元

重點是:它們不是同一種工具。Jev 做不到的事(寫摘要、解釋原因)本來就不該找它;問題在於「兩邊都做得到的分類工作」,該選哪一個。這正是我們測的。

我們怎麼測的?研究方法

資料: 全部是用我們自己的 Apify actor 抓的真實公開貼文,共 405 則、3 種語言、3 個論壇。原始貼文不公開(論壇條款),文中只引用短句當例子。

回合內容筆數
Round A,多語試跑連登(粵語)iPhone 17 討論串回覆 40 則、Pantip(泰文)iPhone 17 三個主題 25 則、HardwareZone EDMW(新加坡英語)TCL 電視討論串 40 則105
Round B,主要測試連登,關鍵字港鐵、麥當勞、Tesla、滙豐;每個關鍵字 50 個搜尋結果標題加 25 則回覆300(200 標題、100 回覆)
合計405

三個標註任務(社群聆聽最常用):

  1. 相關性:這則貼文是不是在講被追蹤的品牌或關鍵字。Jev 用 Noul,Haiku 回傳布林值。
  2. 情緒:負面到正面共五級(−2 到 +2)。Jev 用 5 級 Score,換算後以門檻分成負面/中立/正面;Haiku 直接回傳 −2 到 +2 的整數。
  3. 意圖:抱怨/讚美/提問/其他。

兩個模型拿到完全相同的標籤定義。Haiku 用 claude-haiku-5-5,每次請求 15 則貼文,使用結構化 JSON 輸出。

標準答案怎麼來的?

門檻怎麼公平地調?

Round B 的門檻只用偶數列調整,準確度只報告奇數列的 150 則,也就是調門檻時完全沒看過的資料。

Jev 的中文/粵語準確度如何?Round B 主表

連登 150 則留出資料,最終定義與題目(v3,題目原文見教學篇):

標註任務JevClaude Haiku 5.5混合(Jev 有把握時用 Jev,否則交給 Haiku)
情緒(負面/中立/正面)78.0%82.7%82.7%(Jev 處理 51%)
相關性92.0%95.3%95.3%(Jev 處理 83%)
意圖(四類)85.3%90.0%91.3%(Jev 處理 77%)

只看標註者認為沒有歧義的列:

標註任務JevHaiku筆數
情緒80.3%83.5%127
相關性93.6%95.5%110
意圖90.7%95.3%129

標題和回覆,哪個比較難?

貼文類型Jev 情緒Haiku 情緒Jev 相關性Haiku 相關性Jev 意圖Haiku 意圖
標題(100 則)77%85%98%99%91%94%
回覆(50 則)80%78%80%88%74%82%

回覆比標題難:短、口語、常常依賴上下文。有趣的是回覆的情緒標註,Jev(80%)反而略高於 Haiku(78%),但只有 50 則,不宜解讀過頭。

怎麼解讀: Haiku 在三項標註都領先 3 到 5 個百分點。150 則資料的雜訊大約是正負 6 個百分點,所以沒有任何單一差距算得上定論,只能說方向一致。

Jev 的信心分數可信嗎?

這是 Jev 最實用的地方。以下用 Round B 全部 300 則、最終題目:

標註信心條件涵蓋比例準確度
相關性「是」機率 ≤ 0.2 或 ≥ 0.882%96.7%
情緒信心 ≥ 0.760%92.2%
情緒信心 ≥ 0.582%86.1%

意思是:Jev 說「我很確定」的那部分,準確度明顯高於整體。早期版本題目(v2)的相同 300 則裡,相關性「有把握」的答案涵蓋 62%、準確度 93.5%,其餘沒把握的幾乎是丟銅板(54%)。校準得好,才有上面表格的混合做法:有把握的交給 Jev,其他送去給 Haiku 或人工複核。

Jev 支援粵語嗎?多語試跑結果

先講清楚:Round A 用的是較早的題目與定義,樣本也小(105 則),只能當方向參考,不是正式的各語言排名。「嚴格」指「略為負面」算負面;「寬鬆」指遇到「略為」的答案時,中立或該極性都算對。

語言(論壇)Jev 情緒 嚴格/寬鬆Haiku 情緒 嚴格/寬鬆Jev 相關性Haiku 相關性
粵語(連登,40 則)77.5% / 92.5%70.0% / 82.5%72.5%62.5%
泰文(Pantip,25 則)68.0% / 96.0%88.0% / 100%96.0%100%
新加坡英語(HardwareZone,40 則)70.0% / 92.5%82.5% / 92.5%87.5%82.5%
全部 105 則72.4% / 93.3%79.0% / 90.5%83.8%79.0%

這輪裡,粵語是 Jev 比 Haiku 好、泰文是 Haiku 比 Jev 好。到了 Round B 換成最終定義後,連登上 Haiku 反而全面領先,原因之一是定義改變(見下方「定義比模型更影響分數」)。所以不要把「Jev 粵語比較強」當結論,這個結果只說明 Jev 在粵語上並不吃虧。

反諷、字面解讀:兩個模型都會踩的坑

Jev 另一個特性是照字面讀定義。早期的意圖定義下,Jev 把批評政府官員的貼文標成「抱怨」(當成產品抱怨)。我們在定義裡補一句「批評個人、政治人物或政府屬於 other」,意圖準確度就從 82.7% 升到 85.3%(標題從 87% 到 91%)。

定義比模型更影響分數

在較早的嚴格相關性定義下(品牌只是現場就不算相關),Jev 的相關性是 88.0%,贏過 Haiku 的 80.7%;改成最終的「現場也算」後,變成 Haiku 領先。同樣兩個模型,換個定義排名就翻轉,所以先決定定義,再比模型。

Jev 要花多少錢、跑多快?

Jev(jev-1.13.0)Claude Haiku 5.5
每則 token1,063 輸入(三個題目,輸出免費)307 輸入加 151 輸出(15 則一批)
每則成本0.000045 美元0.000106 美元
每十萬則成本約 4.50 美元約 10.60 美元
速度每則中位數 0.36 秒(一則一個請求,可平行;p90 為 0.41 秒)每批 15 則中位數約 15 秒

以上是依官方牌價計算的實測。兩者的成本,跟這些標籤的價值比都很小;速度對即時代理人才重要,批次爬取很少成為瓶頸。註:廠商自己的基準測試(例如宣稱快上百倍)是 TypeSafe 的數字,我們的是獨立、針對這項任務的測量。

什麼情況選 Jev,什麼情況選 Claude?

你的情況建議
量很大、單則價值低(例如每天幾萬則貼文做初篩)Jev:成本約為 Haiku 的不到一半
需要即時回應(代理人、路由)Jev:約 0.36 秒一則
想自己決定「多有把握才自動接受」Jev:有校準過的信心分數
反諷多、定義複雜、要盡量逼近最高準確度Claude Haiku:在我們的測試裡領先 3 到 5 個百分點
想兼顧成本與準確度混合:Jev 有把握的先收,其餘交給 Haiku。意圖可到 91.3%,Jev 處理 77%
需要產生文字(摘要、原因說明)Claude(Jev 不生成文字)

我們自己做 LIHKG 的 AI 輿情標籤選了 Jev,理由是成本、速度、校準過的信心,以及不用多開一個廠商帳號;準確度差距在這個任務上算小。你的任務不同,結論可能不同,建議拿自己的標註樣本比一次。

這個實測的限制

想自己用 Jev,或直接標連登資料?

這些標籤現在可以選用方式加在我們的 LIHKG actor 上:新增「AI 輿情標籤」開關,引擎是 Jev,相關性、情緒、意圖三項一起標,每標一筆 0.002 美元;免費方案每次 run 前 20 筆免費,定價自 2026-10-27 起生效。本站與 TypeSafe、Anthropic 沒有合作或背書關係,文中兩者都只是客觀比較。

FAQ

Jev 是什麼? Jev 是 TypeSafe 的 System One 決策模型。它不產生文字,你給它一份結構化資料與幾個題目,它回傳每個題目的選項與機率。題型有 Choice、Score、Noul 三種。

Jev 比 Claude 準嗎? 在我們的測試裡沒有。連登 150 則留出資料上,Claude Haiku 5.5 在情緒、相關性、意圖三項都領先 3 到 5 個百分點(82.7% 對 78.0%、95.3% 對 92.0%、90.0% 對 85.3%)。但樣本只有 150 則,誤差約正負 6 個百分點,單一差距不能下定論。

Jev 支援中文或粵語嗎? 官方文件寫英文是主要訓練語言,中日韓文字「可處理但表現不均」。我們實測連登粵語貼文:情緒 78.0%、相關性 92.0%、意圖 85.3%,可用,但整體仍略低於 Haiku。

Jev 怎麼收費? 依 TypeSafe 文件,輸入 token 每百萬 0.042 美元,輸出 token 免費。我們三個題目一起問,平均每則約 1,063 個輸入 token,約 0.000045 美元,十萬則約 4.50 美元。

Jev 可以生成文字嗎? 不行。Jev 只回傳你定義的選項、分數或是/否機率,不寫文章也不做摘要。需要生成文字時要搭配一般的生成式模型。

什麼時候該選 Jev,什麼時候選 Claude? 大量、需要低成本與快速回應、且想用信心分數分流時選 Jev;遇到需要最高準確度、反諷多或定義複雜的內容,選 Claude Haiku,或用 Jev 先處理有把握的部分、其餘交給 Haiku。


作者 Chad 實際經營 30 多隻上架 Apify actor(含本文用到的 LIHKG-scraper)。本文所有數字都來自 2026-10-12 的實測,原始貼文因論壇條款不公開;Jev 與 Claude 的價格以各廠商公告為準。