Solvely.ai が Zilliz Cloud の超高速ベクトル検索で世界中の AI 学習をスケールさせる方法
レイテンシを70%低減
100ミリ秒未満のベクトル検索を、ピークトラフィック時でも
4～5倍速い回答
より良い学習者体験のために、専門家がレビューした解決策へ即時マッチング
~60%低いインフラコスト
数億件の質問に対応するコスト効率の高いスケーリング
ゼロダウンタイム
グローバルな高同時実行ワークロード下での安定した信頼性の高いパフォーマンス
From a performance standpoint, Zilliz Cloud's retrieval speed far exceeds our existing system. We achieved approximately 70% reduction in retrieval latency, which translates to a 4-5x improvement in overall problem-solving time when we successfully match original questions. Whether measured by speed, cost, or overall value, Zilliz Cloud perfectly met our expectations.
Dr. Nick Yuan
Solvelyについて
Solvely.aiは、K–12、高等教育、生涯学習者にわたる、約1,000万人の学生、教育者、専門職を支援するAI搭載の学習プラットフォームです。数学、ビジネス、医療、ライフサイエンス、そしてSTEM科目に強みを持つことで知られるSolvelyは、学習教材を即時の解説、パーソナライズされた演習、マルチモーダルな学習ガイドへと変換します。
Solvelyを際立たせているのは、そのハイブリッドなアプローチです。AIモデルが知的な解決策を生成しながら、専門家によって検証された膨大なコンテンツライブラリと照合することで、正確性を求める学習者にとって信頼できるツールとなっています。しかし、その問題バンクが数億規模に成長し、ユーザーベースも急速に拡大し続ける中で、高速かつ信頼性の高い回答を提供することは大きなエンジニアリング上の課題となりました。そのプレッシャーが最終的に、チームがベクトル検索の基盤となるエンジンとしてZilliz Cloudベクトルデータベースを採用するきっかけとなりました。
Zilliz Cloudにより、Solvelyは現在、より高速な応答、低レイテンシ、そしてよりスムーズな学習体験を提供し、何百万人もの学習者が必要なときにまさに必要なサポートを得られるよう支援しています。Solvelyが製品ラインアップとグローバルなリーチを拡大し続ける中、Zilliz Cloudは、プラットフォームを最高のパフォーマンスに保つ、スケーラブルでコスト効率の高いベクトル基盤を提供し、アクセスしやすく高品質な学習というSolvelyのビジョンを現実に一歩近づけています。
レガシーシステムに伴う成長痛
Solvelyの中核機能の1つは、学生が提出した問題を、検証済みで高品質な問題と回答のキュレーションされたデータベースと迅速に照合することに依存しています。このアプローチは、構造化された問題バンクの信頼性と、大規模言語モデルの柔軟性および推論能力を組み合わせたものです。
これを可能にするため、Solvelyは当初からベクトル類似検索を使用していました。従来のキーワードベースおよびテンプレートベースのシステムでは、テキストを文字どおりに照合することしかできず、少し異なる表現で書かれた類似問題や、異なる形で提示された問題を見逃してしまいました。ベクトル検索により、Solvelyは学生の数学や理科の質問を埋め込み、概念的に類似した問題を検索できるようになり、正確でキュレーションされた解答と、例に基づく検索によるAI推論の向上の両方を支援できるようになりました。これには、ベクトルインフラストラクチャに2つの重要な能力が必要でした。数百万の問題を概念ごとにグループ化する大規模なオフラインクラスタリングと、リアルタイムの宿題ワークフローを支える高速で信頼性の高いオンライン検索です。
初期段階では、既存のサービスがこれらのニーズに十分対応していました。データセットが小さくトラフィック量も少ないうちは、クエリのレイテンシとコストは管理可能であり、システムのシンプルなAPIがチームの迅速な開発を支えていました。しかし、規模の拡大は複雑さをもたらします。ライブラリ内の問題数が数億に達し、数百万人のユーザーがプラットフォームに依存するようになると、パフォーマンスとコストはプラットフォームが求める水準から乖離し始めました。かつては数百ミリ秒だったレイテンシは、多くの学生が同時にクエリを送信するピーク時間帯には1秒を超えるようになりました。こうした遅延は、学生の体験に直接的な影響を与えました。
コストもまた問題となりました。許容できるパフォーマンスを維持するには、はるかに高額なティアへのアップグレードが必要となり、既存システムの料金モデルにより、ストレージと検索のコストはSolvelyの実際の利用量よりも速いペースで増加しました。最終的に、チームはレガシーシステムがもはや持続可能ではない段階に達しました。Solvelyには、より低いレイテンシ、より予測可能なスケーリング、そして急速に成長するグローバルな教育プラットフォームに適したコスト構造が必要でした。こうしたパフォーマンスとコストの両面からの圧力により、同社は高ボリュームでコストに敏感なAIアプリケーションにより適した代替のベクトルデータベースを評価することになりました。
Zilliz Cloudを選んだ理由
Solvely が代替ベクトルデータベースの評価を始めたとき、Zilliz Cloud はすぐに有力候補となりました。チームは初期開発段階で、Zilliz team が構築した広く採用されているオープンソースのベクトルデータベースである Milvus について、すでに豊富な経験を持っていました。その親しみが、フルマネージドソリューションへの移行を検討するうえで、Solvely にその技術とより広範なエコシステムの両方に対する信頼をもたらしました。
評価では、次の3つの実用的な基準に重点が置かれました。
高い同時実行性下での検索速度
大規模運用時のコスト効率
運用のシンプルさ
正確な比較を行うため、Solvely はデータの代表的な一部を Zilliz Cloud に移行し、既存のデプロイメントに対して直接ベンチマークテストを実施しました。結果は明確でした。
Zilliz Cloud は、同一の負荷下で 2～3 倍高速な検索速度を実現しました。
レイテンシは、ピーク時の同時実行中であっても、1 秒超から 100 ms 未満に低下しました。
Zilliz Cloud のより効率的なリソース利用と有利な価格モデルにより、インフラコストは約 60% 削減されました。
運用のシンプルさは、生のパフォーマンスと同じくらい重要であることがわかりました。問題バンクが数億件規模に拡大するなか、Solvely には、追加のエンジニアリング負荷を必要とせずにスムーズにスケールするサービスが必要でした。Zilliz Cloud はそのニーズを満たし、チームがバックエンドインフラの保守ではなく、学生の学習体験の向上に集中できるようにしました。
「私たちは、すぐに本番稼働を開始でき、すぐ使えるものを求めていました」と Solvely の CTO である Dr. Nick Yuan は述べています。
速度とコストに加えて、Zilliz Cloud の機能セットは、プラットフォームが成長し続ける中で Solvely が必要とする柔軟性を提供しました。パーティションおよびクラスタ管理により、膨大な問題データベースを科目やコンテンツタイプ別に整理できるようになりました。リアルタイム負荷に基づく動的スケーリングと、予測可能なトラフィック急増に対応するスケジュールスケーリングの両方を備えたオートスケーリングにより、宿題時間帯のピーク時にも一貫して高いパフォーマンスが確保されました。
ソリューション：Zilliz Cloud で Solvely の AI 学習システムを強化
Solvely のシステムは、教育的な問題解決に最適化された単一のエンドツーエンドの Retrieval-Augmented Generation (RAG) パイプラインとして動作します。大まかに言うと、このパイプラインは、密接に接続された2つのフェーズで構成されています。
大規模で高品質な問題バンクを事前に準備する
学生が質問を送信したときに、リアルタイムで低レイテンシのセマンティック検索を実行する。
Zilliz Cloud はパイプライン全体を通じてベクトル検索レイヤーとして機能し、大規模なオフラインインデックス作成と高同時実行のオンライン検索の両方をサポートします。
問題バンクの準備
ライブクエリが処理される前に、Solvely は、学生がアップロードした宿題の写真や専門家がキュレーションしたデータセットなど、複数のソースからの数億件の問題を処理して整理します。これらの入力は構造や品質が大きく異なるため、大規模環境で信頼性高く検索できるようにするには、事前に正規化し、情報を付加する必要があります。
コンテンツの取り込み: 宿題画像や手作業で作成された問題は、異なる形式でシステムに入力されます。Solvely はこのコンテンツをクリーンアップし、重複排除し、標準化することで、Zilliz Cloud で一貫して処理・インデックス化できるようにします。
科目を考慮した正規化: 各問題は、汎用テキストに平坦化されるのではなく、科目固有の構造と意味を保持するために、その学問分野内で処理されます。例：
化学: 分子式、元素記号、反応はそのまま保持されます
幾何: 空間的関係や図に関連する情報が保持されます
人文学: 叙述の流れと文脈上の意味が維持されます
埋め込み生成: Solvely は、Google または OpenAI のモデルを使用して、問題コーパス全体の埋め込みを生成します。これらのベクトルは事前に Zilliz Cloud に保存され、インデックス化され、クエリ時の低レイテンシなセマンティック検索の基盤を形成します。
Zilliz Cloudとの直接統合: 生成されたベクトルとメタデータはZilliz Cloudに直接書き込まれます。パイプラインを軽量に保ち、複雑なオーケストレーションツールを避けることで、Solvelyはより優れたパフォーマンス制御を維持し、さまざまな科目に合わせてシステムを微調整できます。
生徒のワークフロー中のリアルタイム検索
生徒が宿題の質問を送信すると、同じ準備済みインフラストラクチャがリアルタイムで起動します。このオンラインワークフローは、高速で信頼性が高く、高い同時実行性のもとで複雑な学術的入力を処理できる必要があります。
質問の前処理:
質問が画像として送信された場合、OCRがまずテキストを抽出します。次にシステムは、数式、記号、図に関連する手がかりを識別し、入力を埋め込みに適したクリーンで標準化された表現に変換します。
Zilliz Cloudによるベクトル検索:
処理された質問は、GoogleまたはOpenAIの埋め込みモデルを使用して1000以上の次元を持つベクトルに変換され、類似性検索のためにZilliz Cloudに送信されます。このプロセスにより、システムは正確な文言ではなく意味に基づいて検索できます。
その後、Solvelyは2種類の補完的な検索を実行します。
背景知識検索: 化学定数、数学の恒等式、関連する参考資料など、科目固有の背景情報を取り込みます。このグラウンディングにより、LLMはより正確に推論でき、根拠のない回答や幻覚的な回答を減らせます。
類似質問検索:: Solvelyのデータベースから、過去に解決済みで人間がレビューした質問を見つけます。これらの候補はLLMによって再ランク付けされ、ベクトル検索だけでは見逃す可能性のある微妙な類似性を捉え、最も関連性の高い例が使用されるようにします。
検索されたコンテンツの科目別活用:
Solvelyは科目に応じて異なるルールを適用します。数学と理科では、検索された例が、正確な数値や回答をコピーすることなく、AIが解法を理解するのに役立ちます。人文系では、検索された資料が、固定的な答えを与えるのではなく、説明と解釈を支える背景と文脈を提供します。
回答品質向上のためのクエリ再定式化:
最後に、システムは元の質問を言い換えて、そのより広い意図を捉えることがあります。たとえば、正確な文言ではなく背後にある概念に焦点を当てます。これにより、直接のテキスト一致ではないものの、問題を正しく解くために不可欠な有用な文脈を検索しやすくなります。
移行プロセスは驚くほどスムーズだった
データベース切り替えに関するSolvelyの最大の懸念の1つは、移行そのものでした。既存のシステムには数億件の質問が保存されていましたが、そのすべてのデータを移動するのにどれくらい時間がかかるのか。複雑な移行スクリプトを書く必要があるのか。ユーザーに影響するダウンタイムが発生するのか。
実際には、移行は非常にスムーズでした。Zilliz Cloudは、以前のシステムに直接接続する組み込みの移行ツールを提供しました。プロセスは基本的にワンクリックでした。接続を設定し、移行対象を指定し、パイプラインを実行させるだけです。ツールは、ベクトル転送、メタデータ管理、構造の保持といった重い処理を担いました。チームはカスタムコードを書く必要も、複雑なデータパイプラインをオーケストレーションする必要もありませんでした。
結果と影響
Zilliz Cloudへの移行後、Solvelyは複数の側面で測定可能な改善を確認しました。
70%低いレイテンシ: 検索段階のレイテンシは、以前のデプロイと比較して約70%低下しました。ピークトラフィック時には、以前は1秒以上かかっていたクエリが、現在では数十ミリ秒から数百ミリ秒前半で完了します。
~60%低いインフラコスト: ベクトル検索の月間インフラコストは、同等またはそれ以上のクエリ量を処理しながら、移行直後に約60%削減されました。
検索精度の向上: 化学、幾何、微積分など、従来LLMが苦手としてきた科目において、RAGベースのアプローチにより解答精度が大幅に向上しました。ベースラインモデルの性能がすでに高いことを考えると、この段階的な改善は重要です。
ゼロダウンタイム、高可用性: 移行後、ダウンタイムは一度も発生せず、パフォーマンス上の問題も最小限に抑えられています。システムは変動する負荷条件をスムーズに処理します。質問がある場合や何かを最適化したい場合には、彼らのユースケースをよく理解している技術専門家が率いるサポートチームから迅速な回答を得ています。
パフォーマンスの向上に加えて、Solvelyのエンジニアリングチームは明確な運用上のメリットも実感しました。Zilliz Cloudのドキュメントと例により、簡単に使い始めることができ、問題が発生した際にはサポートチームが迅速に対応しました。自動スケーリングやスケジュールスケーリングのような機能により、インフラ管理の日々の作業が軽減され、チームはプロダクトの構築により集中できるようになりました。
学んだ教訓
Solvelyの経験は、同様のAI搭載検索システムを構築するチームにとって、いくつかの実践的な示唆を示しています。
類似した質問は完全一致と同じくらい重要です。 チームは当初、完全一致する質問に大きく依存することを想定していました。実際には、（数値の変更など）わずかな違いのある類似した質問も同様に価値があることが分かりました。これらをLLMへのコンテキストとして提供することで、完全一致が存在しない場合でも回答品質が向上しました。
クエリを書き換えることで、より関連性の高い結果を見つけやすくなります。 ユーザーの元の質問をそのまま埋め込むのではなく、ベクトルデータベース内でデータが保存されている方法により適合するよう書き換えることで、検索結果が改善されました。
検索後に結果を再ランキングすると精度が向上します。 最終的な回答生成の前に、LLMを使って取得された候補を評価・ランク付けすることで、特に図や数式のような視覚要素を含む質問において、最も関連性の高い一致を浮かび上がらせることができました。
テキストベースの検索は依然として有効です。 マルチモーダル埋め込みは活発に注目されている分野ですが、チームは自社の教育ユースケースにおいて、OCRの後にテキスト埋め込みを行う方法が、現在の画像埋め込みアプローチよりも信頼性の高い結果をもたらすことを発見しました。
マネージドサービスは反復を加速します。 フルマネージドのベクトルデータベースを選択したことで、チームはインフラ運用ではなく、自社のコアプロダクトにエンジニアリングの労力を集中できました。
今後、Solvelyは、セマンティック検索とキーワード検索を組み合わせたハイブリッド検索のテストを計画しています。これは、正確な用語が重要となる教材に特に有用です。また、多くの図を含む科目に対して、将来的に直接的な画像間検索を可能にする可能性のあるマルチモーダル埋め込みの進歩にも注目しています。
結論
Solvely.aiが2023年に人工知能を通じて教育を民主化しようと乗り出したとき、技術インフラがそのミッションにとって重要であることは分かっていました。彼らが予想していなかったのは、初期のベクトルデータベースソリューションがこれほど早く限界に達することでした。質問データベースが数億件のエントリへと爆発的に増加し、ユーザーベースが世界中の1,000万人の学生へと拡大するにつれて、クエリレイテンシがボトルネックとなり、彼らが完成させようとしていたまさにそのユーザー体験を脅かすようになりました。
Zilliz Cloudへの移行は、彼らの技術的基盤を一変させました。クエリレイテンシは70%低下し、インフラコストは60%削減され、最も重要なことに、システムがキュレーションされたデータベースから質問を照合した場合、学生は宿題の助けを4〜5倍速く得られるようになりました。しかし数字以上に、Zilliz CloudはSolvelyにさらに価値のあるものをもたらしました。それは、データベース運用に苦労するのではなく、革新的な教育プロダクトの構築に集中できる自由です。
Solvely.aiが製品ラインナップとユーザーベースを拡大し続ける中、Zilliz Cloudは、世界中の数百万人の学生にサービスを提供するために必要な、スケーラブルで費用対効果の高いベクトルデータベース基盤を提供し、教育の平等というビジョンを現実に近づけています。
The migration was incredibly smooth. Using the built-in tools, we were able to import our data from Pinecone with essentially one click. The technical support has also been excellent — our questions get resolved almost instantly, and the documentation, demos, and examples are thorough and easy to work with.
Technical Team