读懂 TypeSafe AI Jev:System One 模型与智能体工作流
了解 Jev 的 System One 决策模型、智能体应用、与 LLM 的区别,以及概率、成本和能力边界。
TypeSafe AI 于 2026 年 9 月 15 日推出 Jev,称其为首个 System One Model:在软件内部快速作出带类型的判断,而不是生成供人阅读的文本。
应用向它提交文本或结构化状态,以及预先定义的问题。Jev 返回选项、分数和是非概率,供普通代码检查;它不写回复、不解释推理、不编造工具名,也不自主决定下一步。
这个有限接口正是产品重点。许多生产系统调用大模型,仅为获取分类、风险分数、路由或少量结构化答案。Jev 用并行输出、明确的不确定性,以及供应商宣称的较低成本与延迟,专门处理这些步骤。
Jev 是什么?
它是托管决策模型:接受自然语言状态,只从请求前定义的结构中返回答案。TypeSafe 将其概括为“状态输入,类型化决策输出”。请求包含:
- 状态: 工单、智能体追踪、文档或包含相关字段的 JSON。
- 问题: 答案形状和判断标准预先明确的有限判断。
- 应用逻辑: 由代码负责的阈值、业务规则、副作用、回退和升级路径。
模型文档列出 jev-1.13.0,稳定别名为 jev-latest。接受文本、JSON 对象和文本数组,目前不接收图片、音频或视频。请求上限为 64,000 token,状态加最长单个问题另受 32,000 token 限制。
Jev 本身不是智能体,没有自主循环、记忆系统、浏览器或工具执行器。它更像在工作流特定位置调用的学习型决策原语。
System One 模型是什么?
这是 TypeSafe 对快速、聚焦判断模型的命名,借用了卡尼曼《思考,快与慢》中的区别:系统一快速直觉,系统二缓慢审慎。
合适的问题,是熟悉业务的人看到证据后能较快判断的事情:工单交给谁、段落是否含提示注入、事件严重程度、哪些文档支持主张、拟议操作能否撤销。
不合适的任务包括写客户回复、规划并执行市场研究、按复杂账本计算退款、调试仓库并修复,或详细解释决定。它们需要生成、精确计算或多步推理。
TypeSafe 称使用 Reinforcement Learning for Calibrated Decisions(RLCD,校准决策强化学习),目标是让概率与类似判断的正确率相符,而非让文字更讨喜。
校准是总体性质,不保证单次正确。90% 的结果仍可能出错。软件应在自己的数据上测量概率表现,再决定自动化、确认、调用推理模型或交给人。
三种决策原语
API支持三类问题,可在同一请求中混用,针对同一状态独立求值。
| 原语 | 问题形状 | 结果 | 用途 |
|---|---|---|---|
| Choice | 从给定选项选一个 | 所选项、各项概率、置信度 | 意图、处理器、工具或技能路由 |
| Score | 在有序标准上处于哪级 | 数值分数、等级概率、置信度 | 严重度、质量、优先级、相关性、风险 |
| Noul | 命题是否成立 | 0 到 1 的概率 | 独立标记、政策检查、存在性、多标签 |
Choice 是相对选择,应在可能全部不匹配时加入 other 或 no_match。Score 按描述等级评判,适合低风险、有明显风险、严重风险,不适合作为财务计算器。Noul 是真假原语,没有单独 confidence 字段;多个条件可以同时为真。
同一请求中的问题并不是隐藏思维链,而是独立并行执行。若前一个答案要改变下一题的证据或选项,应由代码构建新状态并发起第二个请求。
智能体路由示例
账户请求可能只需查数据库,也可能需要专门 LLM,敏感或不明确的情况则交给人。通用模型可以输出 JSON,但还需要解析、验证、重试并监测虚构值。JavaScript SDK 的有限判断可以这样实现:
import { choice, noul, score, TypeSafeClient } from "@typesafe-ai/sdk";
const client = new TypeSafeClient();
const result = await client.systemOne({
state: {
userMessage,
accountStatus,
availableHandlers: ["lookup", "specialist_llm", "human_review"],
},
questions: {
handler: choice("Which handler should receive this request?", {
lookup: "A factual request answerable from account data",
specialist_llm: "A request that needs language generation or reasoning",
human_review: "A sensitive, ambiguous, or exceptional request",
}),
risk: score("How risky would it be to act on this request incorrectly?", [
"Low: easy to reverse and no sensitive change",
"Medium: meaningful user impact but recoverable",
"High: financial, destructive, or difficult to reverse",
]),
missingContext: noul(
"Is information required to handle this request missing from the state?",
),
},
});
const handler = result.answers.handler;
const risk = result.answers.risk;
if (
result.answers.missingContext.noul > 0.6 ||
handler.confidence < 0.65 ||
risk.score > 1.5
) {
await sendToHumanReview(userMessage);
} else if (handler.choice === "lookup") {
await runAccountLookup(userMessage);
} else {
await runSpecialistModel(userMessage);
}代码里的数字仅为示例,不是通用建议。生产阈值应根据标注样本、错误代价和真实流量校准。
Jev 提供语义判断,代码掌握合法处理器、阈值、副作用和回退。工具执行不在模型输出空间中,因此模型无法自行调用未列出的工具。
在智能体工作流中的位置
智能体是有状态控制循环,理解目标、选择行动、调用工具、观察结果并继续。Jev 是有限评估器,适合放在需要收紧自由度的决策点。
运行之前
- 分类意图,将简单请求直接交给代码。
- 识别需要专家模型或人工的情况。
- 评估紧迫性、复杂性和政策风险。
- 检查越狱尝试和业务特定风险。
- 决定提供哪些上下文或工具。
数据库查询、已知流程、垃圾请求或不该自动化的情况,由此可避免昂贵的完整运行。
循环内部
- 按当前回合排序工具和技能。
- 在代码或其他模型给出的候选行动中选择。
- 检查证据是否足够继续。
- 在廉价、专业、推理模型间路由。
- 判断可撤销性及审批需求。
- 在同一请求中并行处理独立判断。
技能推荐示例分两阶段处理 182 个技能:先低成本排序全目录,再细看候选,并可全部拒绝。Jev 在此缩小上下文,实际使用技能的仍是智能体。
模型或工具返回之后
可检查输出是否符合政策、主张和引用是否被原文支持、检索片段相关性、追踪是否需要立即复核,以及不确定或高风险结果应交给谁。
它适合作为生成模型的搭档:保留需要语言、规划或深入推理的 LLM,替换周围“提示输入、标签输出”的小调用。
与 LLM 的区别
| 维度 | Jev | 通用 LLM |
|---|---|---|
| 工作 | 为软件做有限判断 | 生成语言、代码、计划、解释 |
| 输出 | 预定结构的 Choice、Score、Noul | token 序列,可约束为 JSON 或工具调用 |
| 求值 | 问题独立并行 | token 逐个生成,推理也可能串行 |
| 不确定性 | 结果概率,Choice/Score 有置信度 | 常为文本,自报置信度未必校准 |
| 控制流 | 代码负责分支和副作用 | 模型常可选工具及下一步 |
| 适合 | 分类、评分、路由、排序、验证、护栏 | 对话、写作、规划、编程、综合、开放推理 |
| 主要失败 | 类型正确但判断错误 | 内容错、格式错、虚构字段或违规生成 |
LLM 的结构化输出约束序列化;Jev 的整个接口就是受限决策,附带完整概率、校准置信度和并行问题。这说明它专用,不代表普遍更好。若需新句子、补丁、解释或计划,仍用生成模型;若只需六选一处理器和不确定性信号,则 Jev 接口更自然。
哪些步骤可以替换?
寻找输出远小于模型完整回答的调用:
- 仅返回标签的提示词分类器。
- 选择流程、智能体、工具、队列或模型的路由器。
- 判定输入、输出或行动违反哪些规则的政策评估。
- 为已检索候选评分或选取的重排。
- 由代码或模型找出候选片段后,确认目标值的提取验证。
- 相关性、紧迫性、严重度、质量或复核需求门槛。
- 对大量记录重复执行的有限判断。
可用一个问题判断是否适合:调用前能否枚举合格输出? 若不能,可能仍需生成、检索、确定性计算或推理。
不要因价格低就替换普通代码。算术、日期精确比较、数据库约束、访问控制、架构验证和已知业务规则仍应由确定性程序执行。
速度、价格与基准声明
截至 2026 年 9 月 18 日,Jev 1.13 标价为每百万输入 token $0.042,即每十亿 $42,输出不另计。供应商称端到端延迟约 70–500 毫秒。
首页宣传比所比较的 LLM 流程快 193.6 倍、便宜 444.6 倍,来自其内部四项工作流评估:安全事件、智能体追踪、发票处理和客服。
这不是独立且普适的基准,披露限制包括:
- 工作流由公司内部创建,虽然其称未特意偏向 Jev。
- 准确度参考两个大型外部模型的平均概率,而非客观真值标签。
- 193.6 倍与 444.6 倍可能处于实际收益的高端。
- 效果高度取决于任务是否符合 System One 形状。
实际结论是,有限判断可能不需要自回归生成的延迟和输出成本。估算节省前,应在真实历史流量上比较 Jev、LLM 基线和完整路由代码。
真的没有幻觉吗?
“不会幻觉”需要精确定义:Jev 不能输出预定类型之外的值。Choice 只有 billing、technical、sales 时,不会编造 legal_department、附加道歉或产生无效 JSON。
但它仍可能误判分类、过度相信危险操作或误解歧义状态。置信度文档也明确校准不保证单次答案正确。
- 接口保证: 输出符合声明类型。
- 语义表现: 仍需代表性数据评估。
带类型的错误便于代码通过明确回退处理,却不等于永不出错。
当前限制和失败模式
Jev 1.13 能力边界指南指出,它擅长常识语义判断,精确计算和多步推理较弱。
- 不生成: 不写回复、代码、计划或推理解释。
- 仅文本: 图片、音视频须先变成相关文本或字段。
- 算术与计数较弱: 总额、日期和数值规则交给代码。
- 偏字面: 模糊指令、双重否定、隐含边界可能误判。
- 间接推理: 多跳降低可靠性,应直接给相关状态。
- 上下文退化: 无关内容即使不超限也可能降低准确率。
- 对抗输入: 默认不把状态当恶意内容;注入与政策场景仍需精确问题和红队测试。
- 跨问题不保证恒等: 分别询问命题与否定,概率未必恰好相加为一。
- 英语优先: 其他语言表现不均,需领域测试。
应由代码检索和计算,只给 Jev 单个判断所需证据,再用明确政策控制后果。
如何接入生产?
- 盘点调用: 找出只要标签、分数、布尔、ID 或路由的步骤。
- 分开规则与判断: 精确计算、权限、阈值、副作用留在代码。
- 定义输出: 互斥选 Choice,独立条件选 Noul,有序标准选 Score,必要时加入无匹配。
- 精简状态: 用命名字段给当前相关证据,不每次倾倒完整历史。
- 并行批量提问: 共享状态的独立问题可并发求值,减少串行。
- 不确定性路径: 按每类错误代价决定高、中、低置信度行为。
- 回放流量: 比较准确率、校准、延迟和完整成本。
- 固定版本并观测: 阈值按版本调优,记录模型版本与概率,切别名前重新评估。
- 安全回退: 超时、限流、低置信度、异常状态都有确定路径。
先替换一个有限分类器,比重构整个智能体更容易建立基线并测量取舍。
TypeSafe 智能体技能不是 Jev
智能体技能向 Claude Code、Codex 等提供最新 API、问题类型、架构和评估知识。安装技能不等于应用已接入运行时;应用仍需 TypeSafe API 密钥,并经 HTTP、Python 或 JavaScript SDK 调用。
- 技能: 帮助编程智能体正确实现集成的文档与指令。
- Jev: 生产代码调用的托管决策服务。
- 你的智能体: 负责目标、状态、工具与多步执行的系统。
可在开发时用技能,在运行时用 Jev 做路由、选择、验证与置信度门控。
常见问题
它是 LLM 吗?
TypeSafe 将其定位为新类别。它理解语言,但公开接口输出受限决策和概率,而非生成文本。已披露新架构、并行采样和 RLCD,但细节不足以让外部独立确认全部内部实现。
能替代 LLM 吗?
可替代有限分类、评分、路由、排序、验证;不能替代写作、深入推理、编程、规划、开放提取或对话。多数系统可能同时用两者。
能调用工具吗?
不能自行调用。它可从应用给定选项中选择工具或带类型参数,权限检查和执行仍由代码或运行时完成。
会犯错吗?
会。保证结构,不保证每次判断为真。请在真实领域数据评估,并用概率设置复核路径。
名字由来?
源于经济学家 William Stanley Jevons,以及效率提升可能增加总消耗的杰文斯悖论。公司认为廉价机器智能会解锁更多需求。
多少钱?
Jev 1.13 每百万输入 token $0.042,输出免费。价格、别名、限流可能变化,生产估算前查模型页。
结论
Jev 减少开放能力,以固定类型、概率分布、置信度和并行评估,为软件中的有限判断提供接口。它不写作、规划或操作工具。
在生成模型周围,它可选择处理器和技能、判定审批、决定通过重试或升级。代码仍掌握权限,LLM 处理语言与推理。评估时应逐个寻找昂贵而脆弱的决策调用,衡量替换是否改善整体架构。
Agent 工作流的快速类型化决策与校准概率
从高频、低风险的路由或分类开始,在真实历史输入上对比现有实现,再根据实际错误设置置信度阈值。