跳到正文
IFAI

AI工具

OpenAI 优化 Codex 与 Work:靠缓存技术提升用户实际可用额度

首次发布 传播指数 39

OpenAI 宣布对 Codex 和 Work 进行效率优化,变相提高了用户的实际使用额度。官方通过在子智能体间复用上下文、延长缓存保留时间以及改进请求路由提升命中率来实现。这意味着运行复杂多智能体任务时能消耗更少配额。

OpenAI 优化 Codex 与 Work:靠缓存技术提升用户实际可用额度
图:note.com

用 AI 写代码或者处理复杂任务时,额度总是在不知不觉中被频繁的上下文传递消耗光。

OpenAI 工程师在连续产品更新的第 12 天宣布,团队针对 Codex 和 Work 推出了一系列效率优化,直接提升了用户的实际有效用量。

把算力省在底层细节里

这次优化并没有改动模型结构,而是从工程底层挖潜,主要靠三项改动。

首先是在多个子代理之间复用上下文,避免每个子步骤都重复搬运相同的信息。其次是延长了上下文的缓存时间,减少重复计算。最后是优化了请求路由逻辑,从而大幅提高缓存命中率。

据相关更新汇总,这一系列调整还伴随着对 Pro 订阅用户 GPT-6 Pro 体验的改善,用户更新应用即可体验到这些调整。

为什么重要

对于每天泡在 Codex 里写代码或依靠多智能体跑工作流的用户来说,这相当于在不涨价的前提下变相拿到了更多额度,用起来会更抗用。

我们认为 OpenAI 这一步走得很务实。多智能体系统在协同工作时,往往会因为各子模块各自为政而产生大量冗余的 token 浪费。

OpenAI 没有盲目去拼更大的上下文窗口,而是通过子代理上下文复用和路由缓存来抠效率。这种工程层面的查漏补缺,看起来比单纯堆算力更能解决复杂 Agent 落地的成本痛点。

来源 (1)

  1. [1]
    x.com(在新标签页打开)原文x.com

每日 AI 内容精选