アリババのAIフレームワーク「SkillWeaver」、エージェント型AIの課題に新しいアプローチ
アリババの研究チームが「SkillWeaver」と呼ぶAIフレームワークを開発したと、海外メディアが報じている。このフレームワークは、複数のツールやスキルを組み合わせて業務を自動化するAIエージェントにおいて、トークン消費量を99%以上削減しながら精度を高めるという手法に基づいている。
現在のエンタープライズAIシステムでは、単一のツールでは対応できない複雑なワークフローが増加している。例えば「データセットをダウンロードし、変換して、ビジュアルレポートを作成する」といった要求は、複数のツールを正しい順序で組み合わせなければ実現しない。AIエージェントが数百種類のツールを保有している場合、各ステップで最適なツールを選択することは極めて困難になる。
従来の「全ツール露出」アプローチの限界
従来のツール選択フレームワークの多くは、ツールライブラリ全体をLLMの入力プロンプトに含める「全ツール露出」方式を採用してきた。しかしこの方法には重大な欠点がある。ソースによると、この方式では数十万トークンを消費し、コンテキストウィンドウを圧迫するため、実際のツール選択精度が落ちるとされている。
SkillWeaverの研究チームが検証した結果から見えてくるのは、大規模LLMであっても無制限にツール情報を与えると、かえって精度が低下する傾向があるということだ。例えば、全ツール露出アプローチでは、最大規模のLLMを用いても正しいツールカテゴリーを選択できる確率が21.1%にとどまったという。
「分解・検索・構成」の3段階プロセス
SkillWeaverが採用する手法は「Skill-Aware Decomposition(SAD)」と呼ばれるフィードバックループを中心に設計されている。処理は次の3つのステージで進む:
- 分解(Decompose):ユーザーの複雑な要求をLLMが複数の小さなサブタスクに分割
- 検索(Retrieve):埋め込みモデルを使用して、各サブタスクに対応する候補ツールを絞り込み
- 構成(Compose):複数のツール間の相互互換性を評価し、実行可能な計画をDAG(有向非環グラフ)として生成
SADの重要な特徴は、LLMが初期プランを立てた後、その過程で見つかったツール候補をLLMにフィードバックするという反復プロセスである。これにより、LLMが生成する説明の粒度と用語が、実際に利用可能なツールの仕様と整合するようになる。
研究チームの検証では、この手法が大きな効果をもたらしたと報じられている。7Bパラメータのモデル単独では分解の正確さが51.0%だったのに対し、SADフィードバックループを導入すると67.7%まで向上。より大規模なモデルとの組み合わせでは92%に達したという。
トークン削減と実装上の注意点
SkillWeaverの最大の利点として報じられているのがトークン削減である。全ツール露出アプローチでは約884,000トークンを消費していたのに対し、SkillWeaverは約1,160トークンで同等以上の結果を実現した(99.9%削減)。これはAPIコスト削減と応答速度の短縮を意味する。
一方、ソースによると実装面では以下の点に注意が必要とされている。SkillWeaverの核となるSADはプロンプトエンジニアリングと検索ループの組み合わせであり、LangChainやLlamaIndexといった既存ライブラリで再現可能だという。ツール検索に用いられるベクトル化処理やFAISSインデックスの構築も比較的軽量で、2,200以上のツールをインデックス化するのに15秒程度で済むと報じられている。
ただし、現時点では誤り回復機構の不在が制限となるとソースは指摘している。複数ステップのツールチェーンにおいて、途中のAPI呼び出しが失敗すると全体が停止する。本番運用を目指す場合、開発チームが独自に例外処理やリトライロジックを構築する必要がある。
なお、SkillWeaverのソースコードはまだ公開されていないが、研究チームが論文内でプロンプトテンプレートを共有しているため、標準的なツールを用いた実装が可能だとみられている。
参照元:VentureBeat「New Alibaba AI framework skips loading every tool, cutting agent token use 99%」
