OpenAI, 코덱스·워크 효율성 개선…캐시 최적화로 실질 사용량 확대

AI로 코딩을 하거나 긴 작업을 처리하다 보면 컨텍스트 전송에 할당량이 금방 소진되곤 합니다.

OpenAI는 제품 업데이트 시리즈의 12번째 일정으로 Codex와 Work의 효율을 개선해 사용자가 실제로 체감하는 유효 사용량을 늘렸다고 밝혔습니다.

서브에이전트 컨텍스트 재사용과 캐시 개선

이번 개선은 모델 자체가 아닌 백엔드 엔지니어링 최적화에 집중했습니다.

핵심 변경 사항은 세 가지입니다. 여러 서브에이전트 사이에서 컨텍스트를 재사용하도록 개선했고, 컨텍스트 캐시 유지 시간을 늘렸으며, 요청 라우팅 방식을 다듬어 캐시 히트율을 끌어올렸습니다.

관련 업데이트 요약에 따르면 Pro 구독자를 위한 GPT-6 Pro 개선도 함께 이뤄졌으며, 앱을 업데이트하면 변경 사항이 적용됩니다.

왜 중요한가

Codex를 상시 활용하거나 멀티에이전트로 복잡한 작업을 돌리는 사용자라면, 동일한 한도 내에서 훨씬 더 많은 작업을 처리할 수 있게 된 셈입니다.

여러 에이전트가 협업하는 워크플로는 각 단계마다 동일한 프롬프트를 중복 호출하며 자원을 낭비하기 쉽습니다.

OpenAI가 단순히 사용 한도를 늘리는 대신 컨텍스트 재사용과 라우팅 최적화로 누수를 잡은 점은, 에이전트 환경의 실질적 비용과 지연 문제를 해결하는 현명한 접근으로 보입니다.