powered by TechFeed
表示モード
Microsoft

テキストも画像もPDFも一度の検索で拾えるMicrosoftの埋め込みモデル「Microsoft Embedding 1」 — ViDoRe v3で1位、OpenAIの同等モデルより17%小さいベクトルで同スコア

11月18日、Azure Cosmos DBが「Simplify AI retrieval with embedding generation using Microsoft-Embedding-1」と題した記事を公開した。テキスト・画像・PDFページを単一のベクトル空間に統合して検索できる「Microsoft Embedding 1」の詳細で、ViDoRe v3で同サイズクラス1位、テキスト検索ではOpenAI text-embedding-3-largeと同等スコアをより小さいベクトルで達成するという実用上の強みが明確に示されている。

11月18日、Azure Cosmos DBが「Simplify AI retrieval with embedding generation using Microsoft-Embedding-1」と題した記事を公開した。テキスト・画像・PDFページを単一のベクトル空間に統合して検索できる「Microsoft Embedding 1」の詳細で、ViDoRe v3で同サイズクラス1位、テキスト検索ではOpenAI text-embedding-3-largeと同等スコアをより小さいベクトルで達成するという実用上の強みが明確に示されている。


ViDoRe v3で1位——マルチモーダルRAGの実用的な選択肢

エンタープライズのRAG(Retrieval-Augmented Generation)構築で長らく課題とされてきたのが、「テキスト以外のコンテンツへの対応」だ。財務レポートの棒グラフ、スキャンされたPDFの図面、円グラフで示された統計、商品カタログの写真——こうした視覚的情報は、テキストのみの検索では原理的にヒットしない。

Microsoft Embedding 1(microsoft-embedding-1-large)は、Azure Cosmos DBとMicrosoft Researchが共同で開発したモデルで、テキスト・画像・ドキュメントページを単一のベクトル空間に埋め込む。ユーザーがテキストで質問すれば、その答えが文章であれグラフであれ図版であれ、一度の検索でまとめて取り出せる。

ベンチマークはViDoRe v3で66.24 nDCG@10を記録し、同サイズクラスで1位(2026年11月16日時点)。Cohere Embed v5 Pro、Gemma Embedding 2、voyage-multimodal-3.5を上回っている。ViDoRe v3はMIEB(Massive Image Embedding Benchmark)のサブベンチマークとして位置付けられた視覚的リッチ文書検索の評価基準で、MIEBリーダーボード上で他のマルチモーダル埋め込みモデルと横断比較できる。


Dense + Late-interaction、ストレージとのトレードオフを制御できる

このモデルの設計で特筆すべき点は、Denseベクトル(1入力1ベクトル)とLate-interaction(1トークン1ベクトル)の両方を出力できることだ。

Late-interactionは、入力をトークン単位のベクトル列として表現し、クエリ側・文書側それぞれのトークンベクトル間でMaxSim(最大類似度)スコアリングを行う手法だ。ColPaliに代表されるように、単一のDenseベクトルでは捉えにくい複雑なレイアウトや視覚的コンテンツへの精密な検索に強みを持つ。MaxSimスコアリングの詳細についてはStanford NLPのColBERT解説も参考になる。ViDoRe v3では、Multi-vectorはDense出力と比べて約6ポイントのnDCG@10向上をもたらす。

ただし、ストレージコストが問題になる。1ページあたり約1,250個の視覚トークンを持つ場合、Late-interactionの出力は1,250ベクトル × 1,024次元 ≈ 約2.5MBになる。

これに対してMicrosoft Embedding 1は以下の2つのパラメータで出力サイズを制御できる:

  1. 1入力あたりのベクトル数を制限する(例:32ベクトル)
  2. 1ベクトルあたりの次元数を制限する(例:128次元)

32ベクトル × 128次元 × float16 = 1ページあたり約8KB。これはDense 1ベクトルと同程度のサイズだ。nDCG@10は約3.4ポイント低下するが、ストレージは約300分の1に削減できる。


テキスト検索でもOpenAI text-embedding-3-largeと互角

視覚ドキュメント検索だけでなく、純粋なテキスト検索(BEIRベンチマーク、15タスク)でも競争力がある。

モデル 次元数 BEIR平均
Microsoft Embedding 1 1,536 54.92
Microsoft Embedding 1 2,560 55.29
OpenAI text-embedding-3-small 1,536 51.08
OpenAI text-embedding-3-large 3,072 55.43

2,560次元でOpenAI text-embedding-3-large(3,072次元)とほぼ同スコア、かつベクトルサイズは約17%小さい。1,536次元ではtext-embedding-3-smallより3.8ポイント高い。

Dense vectorのサイズはMatryoshka Representation Learning(MRL)により1,024・1,536・2,048・2,560次元から選択可能だ。


モデルのデプロイ不要、3ステップで使える

現在はAzure Data AI経由で利用でき、Microsoft Foundryへの対応も近日予定。モデルのホスティングは不要で、エンドポイントを呼び出すだけで使える。

Pythonの場合:

pip install azure-identity
pip install "azure-data-ai==1.1.0b1"
import os
from azure.data.ai import InferenceClient
from azure.identity import DefaultAzureCredential

with DefaultAzureCredential() as credential:
    with InferenceClient(
        endpoint=os.environ["EMBEDDING_ENDPOINT"],
        credential=credential,
    ) as client:
        response = client.get_embeddings(
            model="microsoft-embedding-1-large",
            inputs=[
                {
                    "kind": "query",
                    "content": "What torque does the intake valve bolt need?",
                },
                {
                    "kind": "image",
                    "url": os.environ["IMAGE_BLOB_URL"],
                    "sasToken": os.environ["IMAGE_SAS_TOKEN"],
                },
            ],
        )

embeddings = [item.embedding for item in response.data]

テキストクエリと画像(スキャンPDFのページなど)を同一リクエストに混在させられる点が実用的だ。取得したembeddingはAzure Cosmos DBのコンテナにベクトルポリシーを設定して格納し、VectorDistanceで検索するか、AIモデルへのグラウンディングコンテキストとして渡す流れになる。


料金

入力種別 100万入力トークンあたり
テキスト USD $0.12
画像 USD $0.40

処理した入力トークン分のみ課金される従量制。テキストトークン単価はOpenAI text-embedding-3-largeの$0.13/百万トークンとほぼ同水準で、画像処理を加味してもマルチモーダルな用途であれば単一モデルで完結できる分、パイプラインの簡素化によるコスト削減効果も見込める。


詳細はSimplify AI retrieval with embedding generation using Microsoft-Embedding-1を参照していただきたい。