[!NOTE] 本稿は査読前のプレプリント（arXiv:2512.25052）に基づいています。

これは何の話？

RAG（検索拡張生成）システムを構築・運用する開発者向けに、トークン予算の制約下で効率的にコンテキストを選択する新手法を解説します。

RAGでは検索された上位kチャンクをLLMに渡しますが、これらのチャンク間に重複や冗長性があると、限られたトークン予算を無駄に消費し、生成品質も低下します。AdaGReS（Adaptive Greedy Redundancy-aware Scoring）は、クエリとの関連性と冗長性ペナルティを同時に考慮し、トークン予算内で最適なコンテキストセットを選択するフレームワークです。

何がわかったか

AdaGReSの技術的特徴は以下の通りです。

  1. 集合レベル目的関数: 個別チャンクの関連度だけでなく、選択済みチャンク間の冗長性をペナルティとして目的関数に組み込み
  2. 適応的キャリブレーション: 関連性と冗長性のトレードオフパラメータを、候補プールの統計と予算制限に基づいて閉形式で自動設定（手動調整不要）
  3. 理論保証: 提案する目的関数が実用的な埋め込み類似度条件下でε近似劣モジュラ性を持つことを証明し、貪欲選択アルゴリズムの準最適性を保証

Natural Questions（オープンドメイン質問応答）と高冗長性の医療（薬剤）コーパスで評価し、冗長性制御とコンテキスト品質の両面で一貫した改善を確認しました。エンドツーエンドの回答品質も向上しています。

記事のインフォグラフィック

他とどう違うのか

標準的なtop-k検索は個別チャンクの関連度のみを見るため、似たような内容のチャンクが複数選ばれがちです。AdaGReSは選択過程で冗長性を明示的に考慮し、多様で情報量の高いコンテキストセットを構築します。パラメータの自動調整機能も実用上の大きな利点です。

なぜこれが重要か

LLMのコンテキストウィンドウは拡大傾向にありますが、トークン単価やレイテンシを考えると効率的なコンテキスト利用は依然として重要です。冗長なチャンクを排除することで、同じトークン予算内でより多くの有用情報を詰め込めます。

未来の展開・戦略性

AdaGReSのような冗長性考慮型手法がRAGパイプラインの標準的なコンポーネントになる可能性があります。特に、ドキュメント数が多く冗長性が高いドメイン（法律、医療、技術文書など）で効果を発揮するでしょう。

どう考え、どう動くか

RAGシステムの回答品質やコスト効率に課題を感じている場合、コンテキスト選択方法の見直しが有効かもしれません。

  • 現在のtop-k選択で冗長なチャンクがどの程度含まれているか分析する
  • AdaGReSのアルゴリズムを自社パイプラインに試験導入する
  • 冗長性削減によるトークンコスト節約効果を試算する

次の一歩：

  • 今日やること：既存RAGシステムで上位5チャンクの冗長度を目視確認する
  • 今週やること：AdaGReSの論文で目的関数とアルゴリズムの詳細を確認する

限界と未確定

  • 具体的な性能数値は論文本文を要確認
  • チャンク間類似度の計算コストがどの程度かは明示されていない
  • 極端に長いドキュメントでのスケーラビリティは検証が必要

用語ミニ解説

  • 劣モジュラ性（Submodularity）：集合関数の性質で、「追加要素の限界効用が減少する」ことを表す。貪欲アルゴリズムの近似保証に関係

出典と日付

arXiv（公開日：2025-12-31）：https://arxiv.org/abs/2512.25052