powered by TechFeed
表示モード
ハウツー

Spring AIのRAGで検索精度を上げる「クエリ変換」— 曖昧な質問をベクトル検索の前にLLMで自動整形する3つの手法

11月20日、Java Code Geeksが「Query Transformation in Spring AI Modular RAG」と題した記事を公開した。RAGシステムの検索精度はクエリの質に直結する。どれだけ優れたベクトルストアを用意しても、ユーザーの入力が冗長だったり、ドキュメントと異なる言語で書かれていたり、直前の発言を前提としたフォローアップ質問だったりすると、意図した文書を拾えない。LLMを活用した回答生成の精度向上に注目が集まる中、「検索そのものの入口」であるクエリ品質の改善は、RAG実装における重要な課題として認識されるようになってきた。Spring AIはこの問題をクエリトランスフォーマー(Query Transformer)で解決する。LLMを使ってベクトル検索の前にクエリを整形する小さなコンポーネント群だ。

11月20日、Java Code Geeksが「Query Transformation in Spring AI Modular RAG」と題した記事を公開した。RAGシステムの検索精度はクエリの質に直結する。どれだけ優れたベクトルストアを用意しても、ユーザーの入力が冗長だったり、ドキュメントと異なる言語で書かれていたり、直前の発言を前提としたフォローアップ質問だったりすると、意図した文書を拾えない。LLMを活用した回答生成の精度向上に注目が集まる中、「検索そのものの入口」であるクエリ品質の改善は、RAG実装における重要な課題として認識されるようになってきた。Spring AIはこの問題をクエリトランスフォーマー(Query Transformer)で解決する。LLMを使ってベクトル検索の前にクエリを整形する小さなコンポーネント群だ。


Modular RAGにおける位置づけ

Spring AIは「Modular RAG」設計を採用しており、RAGパイプラインを以下の独立したステージに分割する。

ステージ 役割 例
Pre-retrieval 検索前のクエリ準備 クエリトランスフォーマー
Retrieval 関連文書の検索 VectorStoreDocumentRetriever
Post-retrieval 検索結果の再ランク・フィルタ DocumentPostProcessor
Generation 最終回答の生成 チャットモデル

クエリ変換はPre-retrievalステージに属し、各ステージがモジュールとして独立しているため、他の部分を書き直さずに追加・削除・順序変更ができる。なお、Spring AIのソースコードや最新の開発状況はGitHubリポジトリでも確認できる。

3種類のクエリトランスフォーマー

Spring AIが標準で提供するトランスフォーマーは以下の3つだ。

トランスフォーマー 解決する問題 変換例
RewriteQueryTransformer 冗長・曖昧なクエリ "I'm studying machine learning. What is an LLM?" → "What is a large language model (LLM)?"
TranslationQueryTransformer クエリ言語と埋め込みモデルの言語の不一致 デンマーク語の質問を英語に変換
CompressionQueryTransformer 会話履歴に依存するフォローアップ質問 "And what is its second largest city?" → "What is the second largest city of Denmark?"

CompressionQueryTransformerが特に実用的だ。「その第2の都市は?」という質問は単体では検索できないが、直前の会話履歴(「デンマークの首都はコペンハーゲン」)と組み合わせることで、「デンマークの第2の都市は?」という自己完結した質問に変換される。このアプローチはRAG研究における「クエリ再構成(Query Rewriting)」の知見を実装に落とし込んだものであり、HyDE(Hypothetical Document Embeddings)などの先行研究と並ぶ、検索品質改善の有力な手法として注目されている。

実装コード

依存関係(Maven)

<dependencyManagement>
    <dependencies>
        <dependency>
            <groupId>org.springframework.ai</groupId>
            <artifactId>spring-ai-bom</artifactId>
            <version>1.1.8</version>
            <type>pom</type>
            <scope>import</scope>
        </dependency>
    </dependencies>
</dependencyManagement>

<dependencies>
    <dependency>
        <groupId>org.springframework.ai</groupId>
        <artifactId>spring-ai-starter-model-openai</artifactId>
    </dependency>
    <dependency>
        <groupId>org.springframework.ai</groupId>
        <artifactId>spring-ai-rag</artifactId>
    </dependency>
</dependencies>

上記のバージョン(1.1.8)は元記事掲載時点の記載に基づく。最新のリリース済みバージョンはSpring AI公式リリースページで確認していただきたい。OpenAIスターターはあくまで例で、トランスフォーマー自体はChatClient.Builderを使うため任意のチャットモデルで動作する。

3つのトランスフォーマーを動かすデモ

@Component
public class QueryTransformationDemo implements CommandLineRunner {

    private final QueryTransformer rewriter;
    private final QueryTransformer translator;
    private final QueryTransformer compressor;

    public QueryTransformationDemo(ChatClient.Builder builder) {
        ChatClient.Builder deterministic = builder.clone()
                .defaultOptions(ChatOptions.builder().temperature(0.0).build());

        this.rewriter = RewriteQueryTransformer.builder()
                .chatClientBuilder(deterministic)
                .targetSearchSystem("vector store")
                .build();

        this.translator = TranslationQueryTransformer.builder()
                .chatClientBuilder(deterministic)
                .targetLanguage("english")
                .build();

        this.compressor = CompressionQueryTransformer.builder()
                .chatClientBuilder(deterministic)
                .build();
    }

    @Override
    public void run(String... args) {
        Query verbose = new Query("I'm studying machine learning. What is an LLM?");
        show("Rewrite", verbose, rewriter.transform(verbose));

        Query danish = new Query("Hvad er Danmarks hovedstad?");
        show("Translation", danish, translator.transform(danish));

        Query followUp = Query.builder()
                .text("And what is its second largest city?")
                .history(new UserMessage("What is the capital of Denmark?"),
                        new AssistantMessage("Copenhagen is the capital of Denmark."))
                .build();
        show("Compression", followUp, compressor.transform(followUp));
    }
}

temperature を 0.0 に設定している点が重要だ。クエリ変換は予測可能であるべきで、デフォルト値のままだと出力がランダムになりすぎる。ChatClient.Builderをclone()しているのは、共有Beanをそのまま変更しないためだ。

実行結果

[Rewrite]
  before: I'm studying machine learning. What is an LLM?
  after : What is a large language model (LLM)?

[Translation]
  before: Hvad er Danmarks hovedstad?
  after : What is the capital of Denmark?

[Compression]
  before: And what is its second largest city?
  after : What is the second largest city of Denmark?

RAGパイプラインへの組み込み

実際のアプリケーションでは、RetrievalAugmentationAdvisorにトランスフォーマーを渡すだけでよい。

@Bean
public ChatClient ragChatClient(ChatClient.Builder builder, VectorStore vectorStore) {
    ChatClient.Builder deterministic = builder.clone()
            .defaultOptions(ChatOptions.builder().temperature(0.0).build());

    Advisor rag = RetrievalAugmentationAdvisor.builder()
            .queryTransformers(
                    CompressionQueryTransformer.builder().chatClientBuilder(deterministic).build(),
                    RewriteQueryTransformer.builder().chatClientBuilder(deterministic).build(),
                    TranslationQueryTransformer.builder().chatClientBuilder(deterministic)
                            .targetLanguage("english").build())
            .documentRetriever(VectorStoreDocumentRetriever.builder()
                    .vectorStore(vectorStore)
                    .similarityThreshold(0.50)
                    .build())
            .build();

    return builder.defaultAdvisors(rag).build();
}

トランスフォーマーの順序には意図がある。フォローアップ質問を先に自己完結させ(Compression)、次に検索向けに整形し(Rewrite)、最後に言語を統一する(Translation)。この順序を間違えると、例えば翻訳後にCompressionを適用するとフォローアップの解決に使えるはずの会話履歴がうまく機能しないケースが生じうる。

使用上の注意点

  • レイテンシとコストが増加する:トランスフォーマー1つにつきLLM呼び出しが1回追加される。必要なもののみ使う。
  • 意味のずれに注意:書き換えによってユーザーの意図が変わる可能性があるため、変換前後のクエリをログに残して検索品質を比較する。
  • 軽量モデルで代替可能:クエリ変換はシンプルなタスクなので、回答生成に使うモデルより安価・高速なモデルを使える。
  • プロンプトはカスタマイズ可能:各トランスフォーマーのビルダーでpromptTemplate()を指定できる。

詳細はQuery Transformation in Spring AI Modular RAGを参照していただきたい。