powered by TechFeed
表示モード
主要ニュース

AlibabaのQwen3.5がOllamaで実行可能に — テキストと画像を統合した「Early Fusion」アーキテクチャを採用したマルチモーダルLLM

9月11日、Ollamaが「qwen3.5」と題したライブラリページを公開した。Alibaba Cloudが開発したマルチモーダル大規模言語モデル「Qwen3.5」がOllamaから実行可能になったことを示すページで、モデルの主要な技術的特徴・対応サイズ・実行方法が記載されている。

9月11日、Ollamaが「qwen3.5」と題したライブラリページを公開した。Alibaba Cloudが開発したマルチモーダル大規模言語モデル「Qwen3.5」がOllamaから実行可能になったことを示すページで、モデルの主要な技術的特徴・対応サイズ・実行方法が記載されている。


最大の特徴:テキストと画像を統合した「Early Fusion」アーキテクチャ

Qwen3.5がこれまでのQwenシリーズと一線を画す点は、テキストと画像のトークンを最初から統合して学習する「Early Fusion(早期融合)」アーキテクチャを採用していることだ。

従来のビジョン言語モデルは、テキストモデルに画像エンコーダを後付けする構成(Late Fusion)が主流だった。Qwen3.5はこれを根本から変え、マルチモーダルトークンを一体として学習することで、推論・コーディング・エージェント・視覚理解の各タスクで前世代のQwen3-VLを上回る性能を達成したと説明されている。

さらに訓練効率の面でも、テキストのみの学習と比較して約100%に近いマルチモーダル学習効率を実現したとしており、マルチモーダル化によるコスト増大を抑えた点が設計上の工夫として挙げられている。


アーキテクチャ:MoE+Gated Delta Networkの組み合わせ

推論の高速化・低コスト化を担う仕組みとして、Gated Delta NetworkとスパースなMixture-of-Experts(MoE)を組み合わせたハイブリッドアーキテクチャを採用している。

  • **MoE(Mixture-of-Experts)**:モデルの全パラメータを使わず、入力に応じて一部の「エキスパート」だけを起動する手法。推論コストをパラメータ数に比例させずに済む。
  • Gated Delta Network:Transformerの注意機構を拡張した線形計算量のアーキテクチャ。長文脈での推論速度向上に寄与する。

最大モデルであるQwen3.5-397B-A17Bは、総パラメータ数397Bながら、実際の推論時に使用するのは17B相当(A17B)という構成だ。


ベンチマークについての注記

元記事(OllamaライブラリページのURL)はモデルの配布・実行方法を示すページであり、他社モデルとの詳細なベンチマーク比較表を掲載する性質のページではない。Qwen3.5の性能評価や他モデルとの比較数値については、Alibaba CloudによるQwen3.5の公式発表・技術レポートを直接参照することを強く推奨する

ページ上では前世代Qwen3-VLとの比較において「推論・コーディング・エージェント・視覚理解で上回る」と記されているが、具体的なスコアや比較対象モデルの詳細については元記事の範囲内では確認できない。


201言語対応とRLスケーリング

もう一つの特徴として、201言語・方言への対応が挙げられている。多言語対応の広さはQwenシリーズを通じた一貫した強みの一つとして位置づけられている。

強化学習(RL)の面では、大規模なエージェント環境でスケールしたRLを実施し、段階的に複雑なタスク分布を用いてエージェントとしての汎用性を高めたとしている。


Ollamaでの実行

Qwen3.5はOllamaから直接実行できる。コマンド例は以下の通りだ。

ollama run qwen3.5

ローカルで動作させることでAPIコストなしにQwen3.5を試せる点が、エンジニアにとっての実用的な入り口となる。利用可能なモデルサイズ・タグの一覧はライブラリページで確認できる。


詳細はOllama library – qwen3.5を参照していただきたい。