告别“废话连篇”：Jev 模型如何用“只做判断题”颠覆 AI Agent 的成本结构？

当大模型还在逐字逐句“写作文”时，一个叫 Jev 的模型决定只做选择题，结果速度提升了 200 倍，成本降到了四百分之一。这不是一个“更小的 GPT”，而是一条分岔的技术路线。

核心要点预览：

• Jev 是一个来自 TypeSafe AI 的“System One”决策模型，它不生成任何文字，只输出带概率的结构化判定。
• 它把大模型的“自回归解码”过程直接跳过，用单次前向计算完成判断，在分类决策任务上比前沿大模型快近 200 倍。
• 中国公司 APUS 率先完成了全球首批开源复现，在一台 M2 Pro 笔记本上离线跑通了浏览器自动化任务。
• 但它不是万能的：自动驾驶、实时控制等场景并不适合它，因为延迟和联网依赖是硬伤。

---

1. 先讲人话：Jev 到底是什么？

如果你用过 ChatGPT，你知道它的工作方式是“你问一句，它写一段”。Jev 完全不是这样。

Jev 是一个专门做“判断题”的模型。 你给它一段文本或程序状态，再给它一组预先定义好的选项——比如“这封邮件是销售线索吗？是/否”“这条评论的情绪是正面/中性/负面/愤怒”——它不会跟你解释原因，也不会生成任何多余的字，直接返回一组概率数字。

举个例子：客服系统收到一封邮件，开发者可以让 Jev 同时判断：“这是销售线索吗？”“用户情绪是否激烈？”“是否需要人工介入？”“属于账单还是技术问题？”Jev 只读一遍邮件，几百毫秒内同时返回四道题的答案概率，比如：销售线索 0.91，需要人工介入 0.12，技术问题 0.83。

关键在于：选项是你定死的。 Jev 不可能在输出中凭空编造一个不存在的类别。你的程序拿到概率后，直接写 if (probability > 0.8) 走对应逻辑，不需要解析 JSON，不需要防御“模型说了奇怪的话”。

它不写诗，不写代码，不跟你聊天。 你让它写一首关于秋天的诗，它直接报错。它压根没有自由文本生成的接口。

---

2. 它背后的架构原理：为什么能快 200 倍？

要理解 Jev 为什么快，得先理解大模型为什么慢。

2.1 大模型的“逐字吐字”瓶颈

今天几乎所有的大语言模型都是自回归生成的。每输出一个词，模型都需要把前面所有内容重新在注意力机制里算一遍。你让 GPT 写一篇 500 字的文章，它就要做 500 次这样的循环。每一次循环都要读取整个 KV-Cache，计算量巨大。

这就是为什么你向 ChatGPT 提问，它回复前总有一个明显的“思考停顿”，然后一个字一个字往外蹦。

2.2 Jev 的做法：跳过解码，直接打分

Jev 的核心逻辑是：既然做判断题只需要一个答案，为什么要走“逐字生成”的过程？

它把整个“解码阶段”跳过了。模型读完输入后，直接对预定义的选项输出 logits（未归一化的分数），然后 softmax 成概率。整个过程只有一次前向计算，不需要循环。

打个比方：大模型像一个作家，每次写一个词都要停下来想想前文；Jev 像一个阅卷老师，看一眼试卷，直接在答题卡上涂 A/B/C/D，涂完就交卷。

APUS 的开源复现中详细描述了这一机制：他们复现了“单 Token Logits 快速决策”，跳过自回归解码，利用 KV-Cache 广播和并发批量评估，让本地运行的 Qwen 模型通过单次前向计算直接完成决策。

2.3 三类“题型”

Jev 目前支持三种判断形式：

而且，同一份输入可以同时用于多道题，四道题并行求值，几百毫秒全部交卷。

---

3. 它凭什么“没有幻觉”？

幻觉（Hallucination）是大模型的一个顽疾：你问它“配烧烤喝红酒还是黄酒”，它可能回答“地瓜”。因为自回归生成的目标是“生成最可能的文本序列”，而不是“从给定选项中选对的”。

Jev 从机制上消除了这类幻觉。它的输出空间被严格限制在你提供的选项集合内。 答案可能错，但答案不可能超出集合。有开发者称其为“强类型模型的开始”。

这种“强类型”特性对工程系统极其友好：你的代码不需要担心模型返回一个格式不对的 JSON，不需要写一堆 try-catch 和 fallback 逻辑。概率值低于阈值就交给大模型或人工处理，高于阈值就走自动化流程。

---

4. 怎么调用它？代码示例

Jev 目前是闭源模型，只提供云端 API 调用，没有开源权重。但社区已经围绕它构建了大量工具和集成方案。

4.1 基本调用范式（概念性）

官方 API 的核心概念很简单：你发送一份 State（当前状态/上下文）和一组 Questions（问题），获得一组概率。

# 概念性伪代码，展示 Jev 的调用逻辑
import requests

state = """
客户邮件：我上周买的耳机左耳没声音了，能换个新的吗？我已经试过重启和重新配对。
"""

questions = [
    {"id": "is_warranty", "type": "noul", "prompt": "客户是否在申请保修或退换？"},
    {"id": "emotion", "type": "score", "prompt": "客户情绪激烈程度", "scale": [1, 2, 3, 4, 5]},
    {"id": "category", "type": "choice", "prompt": "问题类型", "options": ["物流问题", "产品质量", "退款申请", "技术咨询"]}
]

response = requests.post(
    "https://api.typesafe.ai/v1/jev",
    headers={"Authorization": "Bearer YOUR_API_KEY"},
    json={"state": state, "questions": questions}
)

# 返回示例：
# {
#   "is_warranty": 0.94,
#   "emotion": {"1": 0.05, "2": 0.12, "3": 0.48, "4": 0.27, "5": 0.08},
#   "category": {"物流问题": 0.03, "产品质量": 0.89, "退款申请": 0.06, "技术咨询": 0.02}
# }

4.2 本地离线运行：APUS 的开源方案

如果你想不联网、不付费、数据不出本机地跑类似 Jev 的决策，APUS 在 2026 年 9 月 19 日开源了 fast-browser-use，完整复现了 Jev 的底层决策范式，并用 Qwen3.5-9B 作为本地推理引擎。

该项目在 Apple M2 Pro 消费级笔记本上实测：全程离线完成维基百科检索任务的中位耗时约 18 秒，表单填报、站内导航等任务仅需 3 秒左右，单任务模型打分次数仅 4 次。

# APUS fast-browser-use 的一行接入命令（概念示意）
npx fast-browser-use --skill claude-code

# 它将浏览器页面上的真实可交互元素整理为带编号的候选动作集合
# 由本地模型单次前向计算直接完成“点哪里、选哪个”的决策

4.3 社区热门用例速览

发布仅三天，开发者社区就涌现了大量 Jev 应用：

• 模型路由：根据任务类型（机械任务/智能任务/长程任务），在 50ms 内决定路由到 Haiku、Opus 还是外部 harness。
• PR 审查：粘贴一个 diff，一次性返回 14 项类型检查的概率（硬编码密钥、SQL 注入、删除测试等），代码据此转为 BLOCK/安全/合并的判决。每个 PR 成本约 $0.00007。
• 上下文压缩：fast-jev-compaction 插件用 Jev 判断 Claude Code 的工具调用输出中哪些内容仍与当前任务相关，再压缩上下文，快速获得大量关注。
• 广告分析：一位开发者用 Jev 在 40 秒内分析了 724 条实时广告，做了 8724 次判断，Token 成本约 9 美分。

---

5. 趋势分析：Jev 会走向哪里？

5.1 短期：Agent 的“快慢分工”正在成型

Jev 的爆发验证了一个架构趋势：昂贵的大模型负责“慢思考”（规划、推理、生成），高频的轻量决策模型负责“快判断” 。

今天的 AI Agent 运行中，大量步骤其实不需要“写作文”：点哪个按钮、选哪个工具、这条结果要不要保留、任务是否完成。这些全是判断题。以前为了做一道判断题，你得调用参数几百亿的大模型，等它慢吞吞吐两秒钟字，花上几分钱，还要写防御逻辑从废话里抠结果。

Jev 把这类需求抽象成了一个独立的模型品类。TypeSafe 创始人 Diogo Almeida 称之为“System One 模型”，借用心理学中“快思考”的概念。

5.2 中期：闭源 API 与开源复现的赛跑

Jev 本身是闭源的，目前仅提供云端 API，且尚未向中国大陆开放。但 APUS 的开源复现证明了一件事：这套范式可以用开源模型在消费级硬件上本地运行。

这意味着，对于数据安全敏感的场景（政企、金融、医疗），企业可以选择自己部署一套“Jev 式”的本地决策系统，用 Qwen、Llama 等开源模型作为底座，复现“单次前向、结构化输出”的工作流。

5.3 需要警惕的边界：Jev 不是万能药

Jev 走红后，立刻有人提出“用它做自动驾驶”。这个想法被自动驾驶工程师迅速驳斥了：

• 延迟不够：Jev 的 API 往返约 300ms，而量产自动驾驶的感知决策循环预算是 20ms，差了一个数量级。在 300ms 内，一辆 70mph 的车已经跑了 9 米。
• 不能离线：高速公路的“死亡地带”没有网络，依赖远程 API 的安全关键系统是不可接受的。
• 它看不见：Jev 接受的是结构化输入，不是像素。它假定“感知问题已经解决”，而感知恰恰是自动驾驶最难的部分。
• 端侧分类器已经存在：FSD 类系统早就以 50Hz 的频率在本地运行专用分类器了。

Jev 的合理位置不在控制回路里，而在 Agent 的编排层：决定用哪个工具、审查代码、路由任务、压缩上下文、评估输出质量。这些场景对 300ms 的延迟不敏感，但对成本极其敏感。

5.4 一个更深的信号：AI 应用的“成本结构”正在被重构

TypeSafe 的定价策略本身就值得玩味：输出 Token 免费，只按输入收费，每百万 Token 4 美分。这和大模型“按输出长度计费”的逻辑完全相反。

原因很简单：Jev 没有“输出长度”这个概念。它的输出是一个固定大小的概率向量。这种定价模型迫使开发者重新思考：如果你在用大模型做一件本质上只需要一个概率的事，你就在为“生成”支付不必要的溢价。

当决策成本降到四百分之一时，以前因为成本太高而不敢做的判断可以放开做了。这或许就是 Jev 名字背后的“杰文斯悖论”：当智能的使用成本暴跌时，智能的用量反而会暴涨。

---

参考资料：

1. explainx.ai，《Jev for Self-Driving: Why the Latency Case Fails》，2026-09-16