グローバル・フィンテック・リーダー、ミルバス社でAIをスケールアップ
5-10倍速い
競合他社に比べ、一括摂取が可能
最小限の開発
複数のユースケースをサポートするために必要
即時のスケーラビリティ
数百万から数百億のベクトル
When it comes to vector databases, Milvus has impressed us with its performance and scalability, meeting our stringent criteria for handling our AI use case backlog.
Team Lead
会社概要
デジタル決済を専門とする世界的なフィンテック企業で、200カ国以上、25以上の通貨での取引を可能にしている。個人間決済から大規模な企業向けソリューションまで、年間数百億件の取引に対応している。同社は、開発者ファーストのAPI、モダンなユーザーエクスペリエンス、マルチブランドのエコシステムで知られている。
この組織の中で、AI、ML、およびプラットフォーム・ソリューションチームは、イノベーションの推進において中心的な役割を果たしています。彼らの使命は、最先端の機械学習とAIを適用して顧客体験を向上させ、業務を自動化し、新たな収益源を開拓することです。これには、水平的なAI/MLインフラストラクチャの提供、リアルタイムイベントストリーミングのサポート、当社の決済製品スイート全体にわたるGenAIのような新機能の実現が含まれます。
課題複雑なグローバル・インフラ全体におけるAIの拡張
2023年、同社はGenAIを活用した消費者向けレコメンダーシステムの展開を優先した。このシステムは、フィンテックの消費者向けブランドの1つを通じて開始され、加盟店の在庫と購入のコンテキストに基づいて、会計時にカスタマイズされた商品の推奨を提供する。
しかし、この目標を実行するのは簡単ではなかった。主に2つの課題が立ちはだかった：
1.膨大なデータ量 組織は年間数十億件のトランザクションを処理している。既存のシステム（商用および社内製）は、このデータ量に対応するための拡張に苦労していた。実際、チームは以前、ベンダーのソリューションではパフォーマンスとスケールの要件を満たすことができなかったため、カスタムグラフ・データベースを構築していた。
2.**ベクトル検索はパーソナライズされたレコメンデーションの中核をなすものだが、利用可能なツールはまだ比較的新しいものだった。チームは、本番ワークロードまで拡張でき、厳しいレイテンシとインジェスト要件を満たす、信頼性の高い高性能システムを必要としていました。
WeaviateやAlloyDBを含む複数のソリューションを評価した後、チームはMilvusを選択した。
なぜMilvusなのか: パフォーマンス、スケーラビリティ、使いやすさ
「Milvusは、そのパフォーマンスとスケーラビリティに感銘を受けました。初期の試用から、Milvusはデータの取り込み、クエリーのパフォーマンス、運用の柔軟性において卓越した能力を示しました。ドキュメンテーションは明確で開発者に優しく、システムは大規模なチューニングなしで数十億のベクトルを処理した。
バッチ取り込みのパフォーマンスは特に重要でした。在庫データは頻繁に、時には1時間ごとに更新する必要がありました。テストでは、Milvusは代替品よりも5～10倍速くフルコレクションダンプを取り込みました。競合他社では8時間以上かかるジョブが、Milvusでは1時間未満で完了しました。
さらに際立っていたのは、Milvusの柔軟性であった。チームには、レコメンダーシステムからチャットボットまで、AIのユースケースの長いバックログがあった。Milvusは、最小限の開発労力でそれらの多くのニーズを満たし、貴重なエンジニアリング時間を節約した。
新興企業（Zilliz）が保守しているオープンソースのツールを採用することに当初はためらいがあったものの、チームはMilvusがエンタープライズグレードの要件を満たす成熟度、エコシステムのサポート、実際の導入実績を持っていることに気づいた。
レコメンダーからチャットボットへ-次は何か
レコメンダー・システムの成功に続き、チームの次のイニシアチブは、AIを搭載したカスタマーサービス・チャットボットである。この多言語ボットは、ベクトル検索と検索技術を使って定型的な質問に答えることで、世界中の何千人ものサービスエージェントをサポートする。
チームがAIのフットプリントを拡大し続けるにつれて、Zilliz Cloud- フルマネージドMilvusサービスへの移行を評価している。社内でMilvusを運用し、スケーリングすることは効果的でしたが、インフラ管理をオフロードすることで、チームはより価値の高いイニシアティブに集中できるようになります。
During batch ingestion tests, Milvus demonstrated that it could complete an entire collection dump into the database at speeds 5–10 times faster than competitors.
Team Lead