应用和智能体在整个工作流中会做出许多小决策:如何对输入进行分类、将请求路由到哪里,或接下来采取哪个操作。单独来看,它们很简单。但在规模化时,它们的延迟和成本会累积起来。

今天,我们正式发布 Decisions API。Decisions API 由 GPT‑6 Luna 构建,将 Luna 的智能聚焦于答案有界的问题,帮助应用和智能体基于文本、图像和结构化输入做出近乎实时的决策,通过 Responses API 比 GPT‑6 Luna 快最多 10 倍。

自公开测试版以来,我们新增了原生 GPT‑Live 集成、用于复用上下文的提示缓存,以及在美国和欧盟的推理驻留。开发者还可以传入原生 JSON 输入、在问题指令中包含图像,并且每个请求最多可提出 400 个问题,是此前上限的两倍。我们还持续改进延迟,包括在亚洲多个地区增加容量。

团队如何使用 Decisions API

Decisions 的早期采用已表明其适用于各种用例。

在 OpenAI 内部,各团队正在将 Decisions API 应用于产品和业务工作流。dots 团队正在使用它来缩短响应时间并提升交互性。我们的个人财务团队正在使用它对交易描述进行分类,而我们的传播团队正在使用 Decisions 按主题和评分对报道进行分类,判断其是强化还是挑战关键叙事——帮助识别哪些内容值得更仔细审查。

这些早期示例表明,快速、结构化的决策如何将传入信息转化为广泛用例中的有用行动。客户对 Decisions API 的应用同样广泛,从准确归因 AI 成本到让语言学习体验更具交互性。

1 / 5

选择你的应用所需的决策类型

使用 Decisions API 很简单:开发者定义一个问题和其允许的答案,然后以文本、图像或原生 JSON 提供上下文。该 API 返回三种受支持答案类型之一——概率、选择或评分——应用可用其决定接下来发生什么。答案类型的多样性使 Decisions 适用于各种用例。 Decisions API 支持三种答案类型:

类型 用于 主要结果
predicate 估计某个条件为真的概率,例如产品是否有可见损坏。 probability:条件为真的 0 到 1 的估计值。
choice 从你预定义的选项中选择一个,例如智能体应继续、重试还是请求澄清。 choice:你提供的值之一。响应还包括概率和置信度。
score 根据评分标准中的有序等级对输入进行评分,例如损坏的严重程度。 score:等级索引的概率加权平均值。

使用 Decisions API 和 GPT‑Live 构建实时语音体验

借助 GPT‑Live,你可以为语音应用带来自然、富有表现力的对话,并通过流畅的打断处理让对话保持连贯。Decisions API 现在与 GPT‑Live 原生集成⁠(在新窗口中打开),帮助应用在实时对话中做出快速、聚焦的决策。客服智能体可以决定是提出澄清问题、路由请求,还是升级问题。虚拟形象可以在用户对其说话时调整面部表情,并根据用户的话语以眨眼或微笑回应,从而创造更具交互性的体验。

下面的示例使用转录更新来选择虚拟形象的表情。将此配置添加到现有 GPT‑Live 会话中的 session.triggers。

Live 会发出 decision.event;应用读取所选的 reaction 并相应地为角色制作动画。了解更多关于将语音连接到 Decisions API 的信息。⁠(在新窗口中打开)

亲自试用 Decisions 与 GPT‑Live

音频 4

表情面板

点击一张脸进行预览。

实时决策

观看 Decisions API 如何根据你们各自所说的话选择面部表情。

你的话语

在你说话时观看反应。

助手的话语

在助手回复时观看面部表情。

试着说

我为我的猫排练了试镜。她中途走开了。

此演示有时间限制。使用它即表示你同意 OpenAI 的条款⁠并确认我们的隐私政策⁠。

构建并评估你的第一个决策

Decisions API 今日正式发布,通过专用 Decisions 端点提供 GPT‑6 Luna。请参阅定价和可用性指南⁠(在新窗口中打开)了解当前费率和缓存详情。

从你的应用经常做出的一个重复性决策开始。定义问题、可能的答案以及区分它们所需的上下文。在 Decisions Playground⁠(在新窗口中打开)中使用你自己的文本或图像,在反映真实用法的示例上测试它,或按照开发者指南⁠(在新窗口中打开)发出你的第一个请求。

Decisions API 的费用为每百万输入 token 0.10 美元。缓存输入的费用为每百万 token 0.01 美元。有关 30 分钟和 12 小时缓存写入,请阅读我们的定价指南。⁠(在新窗口中打开)你只需为输入 token 付费:没有输出 token 费用。美国和欧盟提供区域处理,符合条件的客户可使用零数据保留⁠(在新窗口中打开)。详情请参阅定价和缓存⁠(在新窗口中打开)以及数据控制⁠(在新窗口中打开)。

本文内容采集自官方网站,排版和翻译可能与原页面存在差异。

阅读官方全文