Share GPT-6は、永続的なエージェントがコードベースの再構成、調査済みの文書やプレゼンテーションの作成といった複雑なタスクに何時間も取り組めるようにすることを目指している。これらのエージェントが連続して行うAPIリクエストでは、繰り返し使用される指示、ツール定義、コンテキストがキャッシュされ、計算が再利用されるため、応答時間が短縮され、開発者はキャッシュされた入力トークンで最大90%の割引を受けられる。GPT-6ファミリーは、デフォルトでより高いヒット率を実現する新しいキャッシュシステムを導入する。適合する共通プレフィックスは、30分間のウィンドウ内で再利用された場合に割引の対象となる。
- Prompt Caching Dashboardは、キャッシュから提供された入力の量と時間経過に伴うヒット率を表示し、キャッシュされたトークンとキャッシュされなかったトークンを比較できる。
- Prompt caching diagnostics toolは、キャッシュミスが発生した際に、モデル、ツール、設定、または入力の変更を比較する。例では、理由が「tools_changed」、比較可能な再利用可能トークン数が5629、ミスしたトークン数が5629と示されている。
- 明示的なキャッシュブレークポイントにより、どの指示プレフィックスを保存するかを選択できる。
- GPT-6モデルでは、キャッシュを破壊することなく、応答ごとにreasoning effortを変更できる。
- ツール定義、スキーマ、順序を固定でき、allowed_toolsまたはtool_choiceを使用できる。
- 新しいdeveloperメッセージをコンテキストの末尾に追加し、以前の指示を無効にできる。
- Prewarmingは、ユーザーのリクエスト前に共通コンテキストを準備する。Codexはコードを確認し、改善を適用するのに役立つ。
なぜ重要なのか
この変更により、長時間稼働するエージェントが各ステップで同じ指示、ツール情報、コンテキストを再処理することで生じるコストと遅延を管理しやすくなる。特に、コードベース上で動作するアプリケーションや、ドキュメントを生成するアプリケーション、複数のAPI呼び出しを行うアプリケーションの開発者は、パフォーマンスをモデルの応答だけでなく、キャッシュがどれだけ効果的に利用されているかによっても評価できるようになる。Dashboardと診断ツールは、キャッシュミスがツール、設定、または入力の変更によって生じたものかどうかを可視化し、デバッグプロセスを具体化する。明示的なブレークポイントとreasoning effortの変更機能により、エージェントの挙動とキャッシュ利用の間に、より制御された関係を構築できる。ただし、その効果がどこまで及ぶかは、共通プレフィックスとツール設定をワークフロー全体でどの程度維持できるかという問題に左右される。
背景
GPTは、FikirPilotアーカイブにおいて新しい名前ではない。直近90日間にこの名前が登場する記事を4本公開しており、最も新しい記事は2026年9月29日付だ。
用語：エージェント
AIエージェントとは、単一の応答を生成するのではなく、目標を達成するためにツールを呼び出し、複数ステップの作業を実行するソフトウェアである。