Join the Webinar
Loading...
セッションについて
この講演では、Tim がデータおよび AI プラットフォームに Cloud Native Vector Database を追加すべき理由についてプレゼンテーションを行います。また、Milvus、Vector Database、非構造化データ処理についての簡単な紹介も取り上げます。Milvus をアーキテクチャに追加することで、RAG、リアルタイム検索、マルチモーダル検索、レコメンデーションエンジン、不正検知、その他多くの新たなユースケースを通じて、AI ユースケースをスケールアウトし改善できます。
Raspberry Pi 5 のような小型で安価なエッジデバイスでも、機械学習、ディープラーニング、AI ユースケースで活用でき、ベクトルデータベースによって強化できます。
取り上げるトピック
- 非構造化データ処理の紹介
- Milvus の紹介
- Milvus をインフラストラクチャに追加する
- AI ユースケースの改善
- AI およびベクトルデータベースと連携するエッジデバイス
本日は、今日のセッション「クラウドからエッジまでの非構造化データ処理」をご紹介できることを嬉しく思います。そして、本日のゲストスピーカーは Tim Span です。Tim Span は Zillow のプリンシパル・デベロッパー・アドボケイトで、12年以上のプログラミングおよびデータエンジニアリングの経験を持っています。Zillow に入社する前、Tim は Cloudera のプリンシパル・デベロッパー・アドボケイトとして、オープンソースのデータエンジニアリングおよびストリーミング技術を推進していました。それ以前にも、Stream Native のデベロッパー・アドボケイト、Cloudera のプリンシパル・フィールド・エンジニア、Aris Data のシニア・ソリューション・アーキテクト、Pivotal のシニア・フィールド・エンジニアを務めていました。
彼は DZ Zone にブログを寄稿しており、そこではビッグデータ、ビッグデータゾーンのリーダーであり、Princeton と New York City で、機械学習、ビッグデータ、ディープラーニングなどのトピックに関する人気のミートアップを運営しています。また、Pulsar Summit、data Summit、summit Con 42 などのカンファレンスでも頻繁に登壇しています。えー、そして Tim は Montclair State University でコンピューターサイエンスの Bs、ms、および BS の学位を取得しています。Tim、ようこそ。それでは本日のトピックを始めてください。とても素晴らしいです。
ご紹介ありがとうございます。では、こちらで画面を共有します。すべてうまく動いているといいのですが。いつも、ええ、いつも謎なんですよね、特にこちらにいくつか別の画面がある場合は。それから、私はここにある自分のアーケードセンターから配信しているので、いつもの配信ブースとは少し違いますが、こちらにはより多くのアーケードゲームがあるので、なかなかいい感じです。
自動的に起動しないといいのですが。以前、私の後ろで Pacman が起動したことがあるので、どうなるか見てみましょう。そうならないといいのですが、えー、イントロは必要ないと思います。えー、これはかなりわかりやすいものです。エッジでできることが急速に進化しているのに合わせて、これも急速に進化してきました。
もし、えー、3〜4秒ごとに変わる、もしかするとそれより速いかもしれない AI ニュースを見ているなら、えー、いくつか新しいモデルが出てきていて、私は昨日、2日前に手に入れた新しいデバイスに Alama でそのうちの1つをダウンロードしました。えー、Nvidia の友人たちが、えー、こちらにデバイスを用意してくれまして、えー、それでいくつかデモをお見せします。なぜなら、いろいろなものがそのまま動き、しかも本当に速く動くからです。こうしたことが、えー、いかに素早くできるかには嬉しい驚きがありました。ですが、えー、そうですね、イントロを行い、いくつかのエッジケースを示し、デモをお見せし、いろいろなことをやっていきます。
さて、以前の仕事では、えー、物事を保存しようとしていました。特に通常とは異なるデータを保存しようとしていました。まあ、今ではそれらは珍しくありません。つまり、Gen AI や新しい AI ユースケースで、大量のテキスト、対話型テキスト、画像、動画、音声、さまざまな slack チャンネル、あらゆる場所から来るさまざまな奇妙なものを使っていないユースケースを考えてみてください。大変でした。どこに保存するのか？どうやって取り出すのか？それで何をするのか？まあ、それを使って多くのことができます。
えー、私の vis bird と一緒に現場を移動しているときに、これらのベクトルデータベースはどこでも実行できることがわかりました。そしてデータはどこにでもあり、時には珍しい場所にもあり、インターネットにさえ接続されていないこともあり、そこでやるべきことをやらなければなりません。ですから、時には相互につながった、こうした非常に多様な種類のデータが得られます。私が従来のデータエンジニアリング、より構造化されたデータストア、Hadoop や、えー、S3 バケット、オブジェクトストレージから見てきたこととしては、この、えー、よりリッチな非構造化データを構造化データと接続することは、vis のようなものを使えば難しくありません。なぜなら、メタデータ、J フィールド、さまざまな属性を追加できるからです。つまり、たとえば画像だとして、自分が持っているどんなデータでも置き、それに関連するすべてのメタデータを入れることができます。また、もしそれが Oracle レコードに接続されている場合や、Mongo DB レコードに接続されている場合、あるいは他の任意のデータベースに接続されている場合には、それも入れられます。リレーショナルデータや、より構造化されたデータのために、たくさんのデータベースを持つこともできます。
しかし、vus がこれらを素早く保存でき、同じくらい速く取り出せるのはかなり驚くべきことです。エッジでお見せしますが、少し異なります。そして、その柔軟性とさまざまなデプロイメントモデルによって、特に異なるサイズのボックスにおいて、多くの興味深いユースケースが生まれます。たとえば、10ドルのデバイスを使うこともできますし、64ギガの RAM とテラバイト単位のストレージを備えた数千ドルのデバイスを使うこともできます。エッジは単なる、小さなボタンや、ええと、センサーだけではありません。
それはエッジサーバーかもしれませんし、こうした強力な Nvidia ボックスの一つかもしれません。そこには多くの可能性があります。そこで、これらすべてを取得します。ディープラーニングモデルを使って、適切な埋め込みでこれらを正しくエンコードし、ベクトルデータベースに入れ、インデックス化し、それから、必要な場所に保存して、即座に取得できるようにします。たとえそれがここエッジ上で、つまりあなたの、ええと、デバイス上で直接実行されている場合でもです。繰り返しますが、世の中には大量のデータがあります。
それはさらに大きくなる一方です。そして、そのソースもさらに増えていくでしょう。つまり、リアルタイムのビデオフィードは眼鏡から、スマートな、ええと、車、スマートデバイス、スマートシャツから来るようになります。私が取り組んでいたユースケースで、ええと、危険な領域にいるある人と関わっていたものがあります。その人たちはライブカメラ付きのスマートシャツを持っていました。
それは熱をチェックし、酸素レベルのセンサーも備えていました。つまり、ええと、その人が危険な場所にいる場合、即座にフィードバックを受け取り、「おい、危険なことが起きている」とわかるわけです。ええと、物事を行う方法はさまざまありますが、なぜベクトルデータベースを使うのでしょうか。特に、多くのものがエッジ上にある、またはエッジからクラウドや中央の、ええと、クラスターに通信しているようなユースケースでは。明らかに、高性能検索を実行できることは、多くのユースケースにとって非常に重要です。しかし、ベクトルデータベースがあれば、データベースでできると期待することも行えます。
たとえば、テーブルやコレクションを作成し、ええと、レコードを挿入し、それらを読み戻し、更新を行い、データを削除し、すべてが最新であることを確認できます。ええと、結果を、つまり、即座に取得できるようにし、たとえシャットダウンしなければならない場合でも、再起動が発生した場合でも、ノードを失った場合でも、現実世界で起きることに対して、データが確実に保存されているようにします。何が起きても、このデータが常に利用可能であることを確実にしたいわけです。つまり、たとえ、ええと、ノードがダウンしたとしても、そうしたことに対処でき、スケールアップして追加の、ええと、ストレージを追加し、追加のクエリを追加し、より多くのユーザー、より多くのデータ、より多くのコレクション、より多くのアプリケーションをサポートできること、そして「いつか壁にぶつかるのではないか」や「コストの壁にぶつかるのではないか」と心配しなくてよいことです。VUS の素晴らしい点は、オープンソースで、必要なだけ大きくスケールアウトできることです。それは、つまり、機能が制限されたバージョンではありません。世界中で非常に大規模にオープンソースの vis を使っている人たちがいます。
そしてもちろん、データを管理できることも重要です。つまり、それを取り込み、インデックス化し、クエリできなければなりません。そしてバックアップをしていないのなら、つまり、そうですね、これは非構造化データです。おそらく、あなたの、ええと、リレーショナルデータと同じようには考えていないかもしれませんが、バックアップ、バージョン間の移行、ええと、異なる環境間の移行は重要です。たとえば、ええと、私のデバイスの一つからバックアップし、それをクラウドにロードできるところをお見せします。つまり、それは自動化することも、アプリケーションに組み込むこともできます。ですが、そうしたことは重要であり、だからこそデータベースがあるのです。単に、どこかにあるライブラリが何かを保存するかもしれない、保存しないかもしれない、というものではなく。
そして、それを運用できる必要があります。つまり、おもちゃのようなユースケースをやっているなら、ドキュメントが5つあって、それらについてチャットしたい、そしてそれは単に、ええと、何か学習中のものかもしれないし、それほど重要ではないかもしれません。でも、これが人々が頼りにするものになる段階まで来ると、信じてください、人々は検索できることの力、画像を取り込んでそれを検索に使えること、テキストに対するルックアップができること、非常に高速に検索できることを目にすると、こうしたアプリを気に入り、すぐに拡大していきます。すぐに運用上の、ええと、懸念が必要になります。
人々は、これはどこにデプロイするのかを意識するようになります。そして、そうした選択肢を持てること、つまり異なる、ええと、パブリッククラウドやプライベートクラウド、あるいはオンプレミスの、ええと、インフラや docker、または、つまり、完全マネージド環境が欲しければ Zillow cloud を使う、といったことです。もちろん、どんなデータベースでも、データがある場所ならどこでも、健全性やパフォーマンス上の懸念について監視できなければなりません。つまり、物事が順調に動いているかどうか、特に十分なユーザー数になってくると、最初はすべてがサブ秒で動いていたのに、突然、たとえばドキュメントを1万件追加して、さらに100人のユーザーが増えると、物事が遅くなります。何が起きているのかを、ええと、監視でき、いつ拡張が必要なのか、あるいは、ええと、インデックスを追加したり、インデックスを変更したりする必要があるのかを把握できる必要があります。そしてコミュニティはいつでも助けてくれます。もし、どこかで始めていて、少し行き詰まっているとか、あるいは、ええと、パフォーマンスの問題を抱えているなら、ぜひ連絡してください。
私たちに連絡するためのさまざまなチャネルをすべてお伝えします。もちろん、デバイスをデプロイしている場合、つまり、1つの場所にデバイスが1台置いてあるだけ、ということにはなりません。気づけば、それはすべてのトラックに、すべてのオフィスに、すべての、ええと、ATM に入っています。こうしたものはすぐに拡大します。私が製造業から石油掘削までの iot ユースケースで見てきたように、ええと、何千もの場所に展開されるかもしれませんし、セキュリティや監視、ええと、多数の異なるユーザーやアプリをセキュリティ付きで同時にサポートする、といった異なる目的のために、さまざまなデスクトップ上で実行されるかもしれません。もしそれがまだ話題に上がっていないなら、ええと、まだ本番アプリを持っていないのかもしれませんが、それは、それは重要です。
ええと、そして VIS がそれを、ええと、本当に可能にする機能は、非常にエラスティックなアーキテクチャを持っていることです。そこには完全には踏み込みません。それについては多くの記事があります。私がそれを見たとき、感心しました。最適な、ええと、Kafka や Spark の、ええと、アーキテクチャを思い出しました。そこでは物事が分散され、物事が独立してスケールアップできます。
コンピュートとストレージの分離があります。それは、つまり、エンタープライズレベルのシステムで期待する設計原則であり、多くの異なるインデックスをサポートでき、さらに常に新しいものが追加されていきます。なぜならデータは変化するからです。そして、こうしたモデルが改善され、新しいアイデアが出てくるのを見ると、常に新しいインデックスがあり、VUS はそれらをすばやく取り込み、ええと、それらを活用し、利用可能にする方法を見つけます。だから、さまざまなことを試せます。これは、ええと、エッジデバイスでも重要になることがあります。そこでは、もう少し高速なものが欲しいかもしれません。
つまり、ええと、そこにはそういう選択肢があります。検索を行うためのさまざまな方法がたくさんあり、従来型のデータストアから来ているものとしては、一貫性をどう扱うかをチューニングできる能力、ええと、それはかなりいいですね。つまり、通常は cap に縛られていて、ずっと昔に下された決定が何であれ、それが自分が扱うものになります。ここには選択肢があります。ええと、ほとんどのユースケースではそれが必要ないかもしれませんが、特に、ええと、変わったエッジケースなどをやっている場合には、それがあると分かっているのは、ええと、良いことです。
繰り返しになりますが、多くの異なるハードウェア、アクセラレーテッドコンピュートをサポートしていて、世の中にはたくさんあり、それらはすべてデータベース内に入っているので、これは良いですね。さまざまなデプロイについて言及しましたね。ええと、期待するすべてのインデックス、バイナリ、スパース、GPU向けのもの、特にNvidia向けのものがあり、私はそれらのいくつかをEdgeデバイスの1つで使っているので、かなり良さそうです。ええと、検索する方法もたくさんあります。つまり、検索方法が1つだけなら良いのですが、実際にはたくさんあり、スパースがあるか、デンスがあるか、異なる範囲、ええと、複数ベクトルの検索、ものをグループ化すること、先ほど話したすべてのメタデータフィールドでデータをフィルタリングすることなどに応じて変わるので、返ってくる結果を本当に細かく調整できます。
ここにはたくさんの選択肢があります。ええと、これはエッジ向けの本当に素晴らしいソリューションになりますが、どこで実行している場合にも向いています。Amil、これは本当に汎用のベクトルデータベースです。生成AIやAIのユースケースがなくても、多くの問題を解決してくれます。私は、ええと、本当に満足しています。
これは私の机の上にあるデバイスの一部です。たくさんありますが、ええと、エッジAIはこれからも拡大し続けるでしょう。なぜなら、自動化システムやロボットを推進し、人々がよりスマートな都市を実現していくにつれて、物事がただ機能するようになるからです。ええと、センサーやカメラ、オーディオが必要で、ローカルとリモートの両方で、ええと、何らかのフェデレーションのようなものを使って、必要な結果をすぐに見つけられるようにする必要があります。何か問題があるかどうかを確認する、例えば、どこかの配管に漏れがあるぞ、というように、それを実行して、そうしたものを素早く検出できるようにするのです。
つまり、ガス漏れがある、どこかで火災が起きている。すぐに知りたいことです。AIと、ええと、ベクトルデータベース、そして現実世界に必要なデータを処理する能力を持てること。つまり、非構造化データは現実世界のデータです。私には目の前にあるものの写真があります。
火災の音声があり、何かが起きていることを示す動画があります。心配しなければならない運用上のこと。安全性、そうしたものは、都市を改善していくうえで非常に重要です。同じことが製造にも当てはまります。例えば、欠陥があったのか。それをすぐに把握でき、ローカルに保存できること、ええと、ある特定の機械について、過去千時間、千年の間にどんな欠陥があったのか。何であれ、保存したいだけのデータを保存できます。
今ではこうした新しい、ええと、エッジデバイスにそれを大量に保存できます。あのように、テラバイト単位で。しかし、たとえ直近の千件のエラーの良好なデータだけを保存したとしても、画像が入ってきたときに、それを確認して、はい、まだ問題ない、と判断できます。ええと、欠陥については既知の欠陥と照合して、これは、ええと、2週間前に発生したエラーに関連している、とわかり、接続されたデータを検索して、ローカルのオペレーターに送信したり、Slackチャンネルのメッセージに送信したりできます。そして、何が正確に問題なのかをすぐに把握できます。適切な、ええと、モデルとアルゴリズムがあれば、AIで自動的に解決できるかもしれません。しかし、最初のステップは検出であり、素早く検索して、それをローカルで行えることです。
たとえば、外部に出すことを許可しないセキュアな施設にいるかもしれません。そこで、小さなエッジサーバーを持つこともできますし、Nvidia Orinのような強力なエッジデバイスをすぐそこに置いて、それを見つけ、検出し、エラーについてモデルと照合し、さらにローカルのベクトルデータストアを確認して、これが問題に関連しているのかを見られます。そうでないかもしれません。以前に見たことがあるもので、人が関与して、いや、それは心配しなくていい、と言ったものかもしれません。自動運転車の場合、つまり、私たちは近づいていますよね、そこには、まだまだ多くのことがありますが、人がどのように見えるかを知っているベクトルデータベースをそこに持つこと。優れたセンサーやlidar、カメラ、検出アルゴリズムはたくさんありますが、ええと、アクセスできる高速なデータストアがあって、ネットワーク接続がなくても心配せずに、これが現れた、と分かることです。
何かを行う。そして、その結果をすぐに得られること。小売では、当然ながら、ええと、自分で商品を会計するのは誰もが好きなことではありませんが、ええと、それがよりスマートで、ものを検索できるようになるのは、かなりクールです。そしてまた、自宅でも同じことをするわけです。
家の中のあらゆるものを把握できるというのは、つまり、ああ、またTimの猫だ。そうか、またTimの猫だ。写真を撮るだけでいい。ええと、何かを変更する必要はありません。猫です。
心配しないでください。あ、簡単な質問が見えました。ちょっと見てみましょう。検索タイプは対応するインデックスに直接リンクされていますか。うーん、はい、それについては後で触れますが、ええと、イエスでもありノーでもあります。
ほとんどの検索はほとんどのものをサポートしていますが、当然ながらパフォーマンスの面では、適切なインデックスがあるとすべてが良くなります。ええと、それは本当にデータ次第ですが、ええと、ほとんどの検索タイプは、ええと、ほとんどのインデックスでサポートされています。サポートされていないものがあるか考えているのですが。ないと思いますが、それについては見てみることもできます。後でそれについて、より深い、ええと、回答をお伝えします。
ええと、クールなこととして、繰り返しになりますが、私のすぐ隣でいくつかのデバイスが動いています。新しいAIキットを追加したRaspberry PI 5があります。なので、より高速なAI推論を行いますし、私の手元のエッジでNvidia Orinも動いています。ええと、これらはローカルで多くのことを可能にしてくれます。
繰り返しになりますが、ローカル検索をその場で行えることです。ええと、もし独自文書のようなもの、セキュアなもの、オープンネットワーク上に置くリスクを負いたくないものがあるなら、あるいはプライバシーの問題かもしれません。つまり、物事を非公開に保ちたい、ええと、しかしそれでもアプリケーションを実行し、aiを実行し、作業を完了したい。そうであれば、そのデバイス上で直接実行できます。他の誰にも見せる必要はありません。すべて暗号化できます。
その周囲すべてにSSLをかける、あるいはそのデバイスにはネットワークすらないかもしれません。必要ないかもしれないのです。ローカルの画面やローカルデバイスと通信するだけかもしれませんし、あるいは単に外にプッシュするだけかもしれません。つまり、私は自分のデータをセキュアなKafkaストリームに送る、あるいは私の例で見ていただけるように、自分のSlackグループに物事をプッシュしています。ええと、デバイス上でオブジェクト検出を行えること、さまざまなAIのことができます。特に、ええと、NVIDIAのものの一つを持っているなら、小規模、中規模、大規模の、ええと、言語モデルや、ほぼあらゆる用途のさまざまなモデルを多数サポートしています。Nvidia nimsでそのリストを見ていくと、本当に驚くほどです。今では、最新バージョンでこれらのデバイスのほとんどでvis lightを実行できるようになり、ただのPippin installです。
そこに完全なローカルデータベースを実行できます。Dockerを実行する必要はありません。もう少し大きな何かを実行する必要もありません。それは、皆さんの、いわば本当に重要なリソースの一部を使ってしまうかもしれません。今では、vis lightは軽量です。ええと、見ての通り、そこに入れるベクトル数は抑えておきたいです。
ものすごく大きくはありませんが、ええと、必要に応じてバックアップして別の場所に送ることができます。また、それらを更新し、ええと、最新のものだけを保持して、古いものはクラウドや分散された別の、ええと、経路に送ることもかなり簡単にできます。さて、何がEdgeをより良くしているのでしょうか。私はこれらをハイパーイネーブラーと呼んでいますが、つまり、これらを持つことが当然になるような要素です。5Gがあり、ネットワークは至るところにあり、どんどん速くなっています。国を横断して車で走っていると、ワイオミングやサウスダコタではそれほどではないかもしれませんが、2年前よりは増えていると言えます。そしてそれらはあらゆる都市の周りに存在するようになるでしょう。
多くの帯域幅が得られるようになりますし、それを活用できるデバイスを持つこと、そしてその場でデータを生成し、データを取得できることには意味があります。iotやセンサーの数は価格が下がっています。センサーの種類の数もです。lidarはかつて、ええと、富裕層や有名人向けのものでした。Lidarは今や100ドルで、さらに多くのセンサーがあります。つまり、私の机の上には100個のセンサーがあります。
それらを捉えられるクールなものが本当にたくさんあります。ほら、ええと、何かが起きているとき、例えば大気汚染があったときに、地域の汚染を把握できる、ええと、さまざまな汚染レベルや、さまざまなオゾンレベル、重要なものをチェックできるセンサーがあること。ええと、何かが起きているときにそれを判断できること、火災や煙を検知できること、そういったものはすべて、非常に多くのユースケースにとって重要で、しかもそれらはどんどん安く、簡単になっています。計算能力は上がり続けています。ええと、ラズベリーパイは以前はかなりかわいらしいもので、RAM は半分の半分のギガで、A-O-K-C-P-U がありました。
ええと、今ではラズベリーパイで 8 ギガの RAM が手に入ります。他にも、ええと、16 や 32 のラズベリーパイ相当品があります。私は Nvidia のもので 64 を持っていますし、1 28、さらにそれ以上も聞いたことがあります。つまり、より多くの RAM、より多くの CPU パワー、フル GPU、TPU、カスタムの、ええと、ASIC がそこに入っていて、多くの計算能力を提供し、ストレージもさらに増えています。つまり、以前は、おそらくそこに数ギガしかなかったかもしれません。
今ではテラバイト級のドライブを持てます。新しい Raspberry pie は本物の SSD をサポートしています。つまり、低消費電力で手頃な価格のかなり大量のストレージを、ほぼどこにでも置けるわけで、それは毎年ますます速く、良くなっていきます。非常に強力なニューラルネットワークや生成 AI、大規模言語モデルをその場で動かし、しかも高速に実行できること。そこそこの数の、ええと、フレームをその場で扱えることが、多くの興味深いユースケースを開いています。
まだ考えついていないものもあります。ええと、非構造化データ処理を行い、それらすべてを取得し、それをインデックス化して大規模に非常に高速に検索できるデータベースを持てること、たとえ、たとえそれがスマートフォン上であっても。つまり、い、い、今起きていることは信じられないほどで、そして明らかに本当に重要になっていくばかりです。非構造化データは現実世界にあり、そして現実世界にあるものは、これらのデバイスです。つまりビジョン、画像や動画の取得、すべてのカメラやマイクからの音声の取得、生テキストの取得です。
それは話されたものかもしれませんし、ええと、さまざまな入力デバイスから取得されたもの、ええと、ローカルで起きていること、あるいはローカルモデルによって生成されたものかもしれません。繰り返しますが、そうしたニューラルネットワークのすべてをエッジのすぐそこに持てることは、かなり強力で、かなり重要です。ええと、スライドを終えたあとでデモをお見せします。ですので、万が一、ええと、何かが、ええと、うまくいかなかった場合に、ええと、少し再起動する時間を取れるようにします。エッジデバイスで動作しています。
はい、そうです。オーケー。ええと、今見せたほうがいいかもしれません。オーケー、では、実世界を見せましょう。皆さんが気にしないことを願います。コマンドライン。
少しコマンドラインをお見せします。実際のエッジデバイスだとわかるようにです。そうでないと、あれは本物のエッジデバイスなのか？となりますから。ええと、たぶんそうです、これは、ええ、これは、ここにある私のローカルデバイスです。ここで、ええと、馬力をお見せします。64 ギガの RAM、たくさんの CPU。これは Nvidia です。そしてこの上で、私は、ええと、Docker Compose で vis、ええと、サーバーを実行しています。それに加えて、この小さな do tvb が見えるなら、これは私が Vis light を実行しているという意味です。
ええと、つまり昨日郵送で届いたこの特定のデバイス上で実行する方法が 3 つあります。これを超強化してすぐ使えるようにしてくれた Nvidia に感謝します。なぜなら、立ち上げて実行するのに 10 分しかかからず、それはただいくつかのライブラリをインストールしただけで、そこに追加でいくつか入れたからです。ええと、なのでローカルで実行できます。散らかった机の上のいくつかのものに向けたカメラがあり、それを実行して、ええと、クラウド、つまり、ええと、Zillow のクラウドに送ることができます。そしてそれが実行されている間に、Zillow のクラウドに行きます。すると、ここで私の、ええと、サーバーレス環境にいくつか異なるコレクションがあるのが見えます。ええと、そのうちの 1 つが Orin Edge です。
これはここから呼び出されているものです。これは Orin です。で、このアプリが何をしているかというと、ソースコードは全部そこに公開してあります。ここにカメラがあって、私の机の上のガラクタを見ていて、それからアルゴリズムに入り、ええと、説明文といい感じのキャプションを出してくれます。そして、それをセグメント化する方法として、当然これを私の、ええと、ベクターデータベースに送っていて、ここにいくつかあるのが見えると思います、ええと、最近入れたものです。
ちょっとしたメタデータもいくつかあります。そのキャプションをそこに入れました。その画像がどこにあるかのファイル名も入れました。ええと、それを S3 に入れることもできます。今なら Minio に入れることもできます。
今はローカルに置いていて、これらの画像をどこに置きたいかを考えているところです。それは常に問題になります。あるいは、それらを長く保持するのか？ご存じのように、それはストレージやアプリ、そしてそれを使って何をしたいかに基づく判断です。当然、その画像のベクトル化はありますが、まあ、メタデータ付きで。でも、それがあるのは良いことです。
そのバージョンはクラウドに送られたので、ここではエッジで動いています。ネットワークがあって、それをクラウドに送りました。さて、この、ええと、マシン上では Vis と Dr. Compose も動かしていて、GPU バージョンだとわかると思います。ここにはかなり良い GPU があるからです。まあ、ええと、私のラップトップよりは良いです。
Power book よりは Orin を使いたいと思いますけどね。ただ、ええと、スライドをそこで動かしたいかはわかりませんが、できることはできます。では、それを実行して、その、ええと、ローカルの Docker バージョンに送ることができます。ここでこの Nvidia ハードウェア上で動いている Melva の Docker compose バージョンは、ええと、私の、ええと、at two インスタンスに接続されています。at two を使ったことがないなら、これは本当に素晴らしい UI です。おそらく、ええと、オープンソースの中で見た中では最高の無料 UI です。
つまり、かなり良いです。ええと、私はこの、ええと、UI が好きです。では、ええと、これがどう動くかをお見せします。ここに、ええと、すべてのコレクションがあります。ログインしています。
2 4 6 を使っています。ここには GPU エディションがあります。これを始めたのは今日だけです。私は、これをそこに置いておいたほうがいいだろうと思いました。それでこれを追加しました。
見てみると、ここにコレクションがあって、ここには 5 行だけロードされています。見えるように、ええと、ええと、インデックス化された、ええと、ベクトル、時間、キャプション、いくつかのフィールドがあります。ここで検索もできます。持っているさまざまなフィールドでフィルターすることもできます。なので、もしキャプションに大量のデータがあって、たとえば laptop とだけ言っているものにフィルターしたいとしたら、わかりませんが、できます。
ええと、caption。小文字の laptop ですか？はい。ええと、それを検索できます。それがあったのは 2 つだけでした。繰り返しますが、これはこの UI と一緒にデバイス上で動いています。
なので、そこにデータが見えます。ええと、これらを実行するたびに、ここに見えるように、コマンドラインに結果が出ますが、もし、もしこれをヘッドレスでやっているなら、それすら見ていないわけです。だから私は必ずそれらの結果を自分の Slack チャンネルに送るようにしています。どこにでも送れます。データストアに送ることもできます。
ご覧のように、私のディスク上には変なガラクタがたくさんあります。mil の 2 つ、この鳥たち、猫、ボタン、小さな、ええと、Pacman ゲームがあります。後ろに大きいのもありますが、あまりに散らかっていて皆さんにお見せできません。インターネットが壊れます。そんなことはしたくありません。
実行すると、そこにアップロードされて利用可能になります。なので、ええと、私のローカルの、ええと、そこで動いている Viss の表示で見ることができます。ということで、ええと、3 つ目の方法ですが、私の別々の実行を見てみると、ただの通常実行です。これはそのローカルの Orange Edge ai に対して実行していて、それは私のローカルの、ええと、Viss light データベースで、必要なのは Python だけです。これは素晴らしいですよね。だからそのまま実行できて、特別なものは何も要りません。ただし、それはそのローカルの小さなデータベースにだけ保存されています。そしてそのローカルの小さなデータベースでできることがいくつかあります。たとえば、ええと、検索できます。
それに対して、ええと、検索を実行できます。あ、画面がポップアップするのかな？はい。ええと、私は、それをポップアップさせたくないと思います。それは別の画面にポップアップするので、あなたには見えません。だからそれはやりませんが、検索を行うことはできて、結果が表示され、それからそれらを、ええと、Slack チャンネルに投稿します。
リモートで物事を行う良い方法です。ということで、いくつかのデバイスが動いています。ええと、Raspberry Pine のものもお見せします。そして、もし自分でいじってみたい場合は、ソースコードへのリンクも提供されています。さて、ええと、私のデバイスでは、ノートブックを Zillow のクラウドに接続できるので、それらを検索できます。
つまり、リモートにあるデータを持っていて、それにアクセスできるようにしたい場合、それをクラウドにプッシュするのは非常に理にかなっています。UI 経由でも、ノートブック経由でも、その他何経由でも、とても簡単にアクセスできます。ええと、スライドで、選択するのがどれほど簡単かをお見せします。ああ、mil this light をやる、Docker をやる。通常の小さなスタンドアロンの、ええと、インスタンス、小さなクラスタクラウドをやる。変更するのは、ええと、ログインだけです。
それは、何もあまり変更する必要がありません。かなり、かなりクールなやり方です。でも raspberry pie をお見せしましょう。ええと、raspberry pie はこちらで動かしていて、これにも llama が動いていますが、ええと、画面を接続していないので、それはお見せしたくありません。ここでやっているのは、ええと、pose、ええと、estimation を、halo、ええと、raspberry Pi AI kit を使って行っています。これは、手頃な価格の raspberry pies 上で、ええと、いくつかの異なる、ええと、ML ディープラーニングや AI のユースケースを実行する能力を強化するものです。
これは私の隣のカメラに接続された素晴らしい拡張で、それが、ええと、ええと、quiet mode で posed を実行します。まだ少しうるさいです。そこにいくつかエラーがあるので、画面をオフにしたからです。画面をオフにすることをあまり望んでいないんです。ええと、私を見つけて、私の目を見つけました。鳥の目を見つけたか、猫の目を見つけたかはわかりません。はい、これは、ええと、向こうにあるものに対して実行されています。
はい、これも似たようなことをしていますが、これはただクラウドに接続しているだけです。というのも、そこには本当に多くのことをするためのストレージがないからです。vis、ええと、light でも実行できますが、いくつか選択肢をお見せするためだけです。ということで、それが、ええと、raspberry pi、ええと、pose です。そしてこれは単に、ええと、左右の目の座標と、目を見つけたという信頼度を取得して、それをベクターと一緒にそこに保存しているだけです。そしてまた、うわ、それは不気味ですね。
それは vis のぼやけた写真ですが、目を見つけました。ええと、かなり特別です。でも、ええと、はい、もしそれを私の顔の近くに持ってくれば、正しい結果が得られます。ただイメージをつかんでもらうためですが、はい、raspberry pie 上で実行できますし、追加の AI kit は必要ありません。あると便利で、ええと、ご存じのように、少ない電力でそこでより多くのエッジ処理ができます。ええと、彼らはまだいくつかのライブラリに取り組んでいます。
pose、estimations、segmentation、object detection といった基本的なことはできます。ええと、安価なデバイスとしては悪くありません。ええと、私は、かなり、ええと、満足していますし、すべて Python なので、ええと、VIS やそこでやりたい他の何でも使ってアプリケーションを書くのが簡単です。繰り返しますが、私は古い Jetson Xavier NX も持っていて、それも Vis を動かしますし、ええと、それについての記事もいくつかあります。Orrin の記事はまだ出ていません。というのも、それを手に入れたからです。
あるいは昨日。ええと、それにこのウェビナーがあるので、ほかにもいろいろ進行中です。また、ええと、スマートカメラをいくつか扱っていて、ええと、それに取り組んでいます。もしそうしたユースケースに興味がある人がいれば。興味がなければ、教えてください。あ、ええと、見てください、ええと、それは Vis ui ですか？ええと、それらは全部、もう一度そこに戻らせてください。
これがまさに、オープンソースのVUS UIです。これはA-T-T-U-U、attuと呼ばれています、私はそう呼んでいます。本当にそう呼ばれているのかはわかりませんが、そう呼ばれていると思っていました。ええと、これはローカルの、ええ、Nvidia上で動いているローカル版、あるいはORNデバイスではないものです。ええ、彼らにはたくさんのUIがあって、かなり印象的なものもいくつかあります。
私はまだそれらを動かしていません。それはおそらく来週になるでしょう。ここに入れる時間がありませんでした。まだそこで良いアプリケーションを構成しようとしているところです。ええ、これはvusで動作するオープンソースのものです。
ええ、これを使う必要はありませんが、クラウドでzillsを使っているなら便利です。そこには多くの無料スペースと無料で使えるものがあります。これはそのUIです。それはかなり良いです。ええ、これはJupyter Notebook、同じJupyter Notebookです。これは私のMac上で動いています。
これはRaspberry Pieからでも、ええ、Nvidia Boxからでも動かせます。ええ、run、run server。Run local。はい、これは、これは私の本当に悲しい、ええ、さまざまなアプリケーションを動かす方法です。なぜならここには3つの異なるアプリがあるからです。
ほら、Orin Cloudがあります。Orin Cloudを見ると、このソースコードは投稿しますが、ここで見えるように、これは、ええ、Zillowsの私の特定の、ええ、serverless URLに接続し、さらにtokenを受け取っています。なのでRun Cloudはそれを実行してtokenを渡すだけです、ええ、Orin単体では。これは、ええ、これはdatabaseに接続されています。そしてdatabaseを見ると、これは私たちの、私たちのローカルvis lightです。
なのでRunはそれを実行し、そしてrun serverはorange serverを実行します。これも動いています。これは、これは私のローカルIPです。名前で行くこともできますし、別の何かで行くこともできますが、これはここでDocker composedの中で動いているvisです。そしてご覧のように、ええ、et CDがあり、miniaがあります。画像をそこに保存することもできると思います。
ええと、そしてat twoがあります。これは、ええ、UIです。繰り返しますが、UIを使う必要はありませんが、見た目がかなり素晴らしいと思います。そして、ええ、すべての、ええ、schemasを見たり、ええ、vector searchをしたり、データを閲覧したり、さらに、ええ、backup、データのexport、ええ、searchを行うためのsource codeの例を提供したりできます。つまり、ええ、かなりクールなツールです。ええ、つまりそれらがツールです。
ええ、ここに戻らせてください。あなたの質問に答えられていればいいのですが。ええ、私たちは多くの異なるhardware例で動かしていて、さらに異なるhardwareで出してくる人たちも増えています。そこにはたくさんあります。繰り返しになりますが、ええ、EdgeでVector databaseを使いたい理由のいくつかについて触れました。ご覧のように、このデータをどこに送るかの柔軟性です。
つまり、それを動かすなら、ええ、mils lightが一番簡単です。使用するリソースは少なくて済みますが、データはそこにあるだけです。なので別の場所に置きたいなら、当然どこか別の場所に送ることができます。ええ、複数の場所に送ることもできます。ええ、以前Hadoopでdual ingestをやっていたときのように、それもできます。
ええ、backupもできます。それをどうやるかお見せします。そのbox上にあるものに対して即時のローカル検索ができること。つまり、もし、ええ、Nvidia boxを動かしているなら、多くの画像、テキスト、ええ、ログ、もしかするとセンサー結果を取得しているでしょう。私は、ええ、Nvidia用のいくつかのセンサーを持っています。そこにあるものなら何でもです。
そのデータをすぐに取り戻せて、再びネットワーク越しに行く必要がなく、ネットワークを必要とせず、自分自身のローカルの、ええ、rag、ええ、ソリューションを実行でき、Edge AIをさらに、ええ、強力にできます。ええ、そこではlamaを動かすこともできます。Nvidia上で動かせるさまざまなものが大量にあり、ローカルでライブ動画処理を行えて、それをクラウドに送る必要がありません。ああ、RPI、ええ、それは、すみません、私の馬鹿げた略語で、単にRaspberry Pieのことです。たぶん略すべきではありませんでした。
それが公式のものかどうかは知りません。単にPieかもしれませんが、ええ、R Pi Raspberry Pieです。すみません。ええ、これだけ多くのものがあると、acronymやabbreviationを使わないといけなくなって、誰も何を話しているのかわからなくなります。つまり、みんなにとって楽しくなります。
すみません。ええと、なので VUS Light をローカルで実行したいなら、これはあなたのラップトップや、こうした Unix のどれでも非常によく動きますが、pip install です。ええ、もちろん、そこには Python 3 の新しめのバージョンが必要です。そしてやることはそれだけです。インストールします。
これで実行され、ローカルで利用可能になります。Docker で実行することもできます。もちろん、Docker file か Docker compose のどちらかを使う必要がありますし、Mini Cube などで実行することもできます。Edge server を実行することもできます。Edge デバイスには、さらに多くのストレージ、CPU、RAM を備えたものもあります。
そしてそこでスタンドアロン版や Docker composed 版を実行できますし、あるいはそれらをいくつか使った小さなクラスターでさえ実行できます。良いところは、ええ、それが何であっても関係なく、見ていただいたように、いくつかの変数を変更するだけで、かなり簡単にそれと通信できるようになることです。ええ、クラウドです。トークンを追加します。これが、あなたの Python ソースコード上での違いです。
つまり、ローカルのデータベースファイルを指すのか？ローカルサーバーを指すのか？サーバーを指してトークンを渡すのか？ええ、それは何をしているかによります。かなり単純です。さて、Edge を扱うときにも良い点があります。もちろん Python は第一級市民です。多くの人がそこでアプリを書いていますが、他のアプリや言語もサポートされており、これらのデバイスの一部ではかなり一般的です。no js や Java など、意外にも多くのものに入っていて、かなりうまく動きます。
Java の世界から来ているなら、教えてください。私は Java を20年くらいやってきましたし、ええ、VIS と Java を一緒に使うユースケースがあります。Golan はもちろんネイティブな、ええ、クラウド言語である Go は、これらすべての環境で非常にうまく動きます。Curl だけでやりたい場合もありますよね。RESTful API があるので、本格的なコードを書く必要はありません。
ええ、私たちは .net C sharp 版についての、ええ、ウェビナーを予定しています。これはかなり面白そうです。Spark と Kafka と Ruby もありますし、ええ、ユーザーが開発したインターフェースや言語もたくさんあります。ですから興味があれば、選択肢はたくさんあります。Python だけである必要はありません。
なので、もちろん Python はかなり簡単にできます。ええ、先ほど述べたように、さまざまなユースケースがあります。ええ、エッジでの異常検知はかなりクールです。ええ、音声を検索できること。つまり、それをセキュリティに使うなら、ほら、自分のデバイスを持ち、欲しいものに答えさせ、それをローカルだけで行うことができます。
それはクラウドに行って、ええ、あなたが Pepsi がどこにあるか、あるいは私の novis の、ええ、人形はどこか、と尋ねたことを共有する必要はありません。つまり、そうする必要はないのです。顔認識も同様で、自律的なものや、ええ、ロボットを扱う場合、やはり低レイテンシーで、オフラインで、安全で、ローカライズされたストレージを使えることは、かなり素晴らしいです。そしてそれをクラウドに持っていけば、つまり、世界はあなたのものです。どのクラウドで実行したいにせよ、どんな種類の高度なハードウェアを持っているにせよ。私たちは、ええ、オープンソースのものもあれば open ai のような有料のものも含めて、非常に多くの埋め込みモデルを扱ってきましたが、つまり、あなたのユースケースとデータに合うものを使えばよく、有料のものを使う必要はありません。
ええ、オープンソースには非常にうまく動く良いものがたくさんありますし、素晴らしい LLM も山ほどあります。そして私たちはそれらすべてのフレームワークと連携します。もし Lang chain を使っている場合でも vis を使えるのか、などと心配する必要はありません。はい、使えます。では、それをエッジで実行するのか。ええ、できます。特に nvidia 上なら。
つまり、データがあり、それをすべてローカルで処理していて、それから週に一度、1時間に一度、1分に一度、わかりませんが、1日に一度、あるいは一度だけ、またはイベント用に用意している場合、例えばそれをオリンピックに置いたとして、それが終わったら、それをクラウドに入れて、10,000 台の、ええ、リモートデバイスからのすべてのデータをまとめたいとします。その場合、VUS Light からそのデータを非常に簡単にダンプして、クラウドに直接インポートできます。先ほど述べた dual ingest、古い、ええ、Hadoop Spark のやり方です。物事を直接クラウドにプッシュさせることもできます。ただし繰り返しますが、ネットワークは必要です。
それらはかなり普及しています。ですが、ええと、Edgeデバイスで分散プログラミングをする場合は、そのことを考える必要があります。私たちは皆、メッセージングには実績のある、ええと、方法を使えます。ええと、KafkaやPulsar、あるいはMQTTのようなIOT特化のものや、他のプロトコルを通じてデータをメッセージとして送れます。これをどこかに送信したい場合です。
ええと、ビッグデータ分野の方であれば、Parquetファイルのインポートをサポートしています。つまり、これを通常のKafka Pulsarアプリに送って、大きなParquetファイルにダンプさせ、NI NiFiのようなものを使い、それからそれを、ええと、クラウドにインポートできます。ご存じのように、これを構造化データとして、ええと、オブジェクトストレージにプッシュできます。そしてまた、メッセージの他の部分を、ええと、KafkaやPulsarのようなものを通じて送るか、あるいは全体をそのまま、ええと、visに送るかは、セキュリティ性能によります。ああ、賢いですね。
ええ、それは、ええと、blipです。ええと、そこのソースコードをお見せします。誰かこのあたりを知っていますね。はい。ええと、もちろんです。
うーん、それはわかりません。うーん、それは確認する必要があります。うーん、Viss Light exportsのコマンドラインツールはインストールに付属しています。データベースを指定して、置きたい場所を指定して、コレクションを選ぶだけです。ええと、複数のコレクションを持つことができます。
なので私は、コレクションごとに1つのデータベースにするでしょう。なぜなら、これは通常の小さなファイルなので、ご存じのようにロックがあるからです。本物のvisではありません。本物ならいろいろ楽しいことができます。並行性は考慮すべき点です。1データベース、1コレクション、1アプリです。
これらを行う場合、特にこうした小型デバイス上では、つまり、そこでいくつやるつもりですか？でもそうですね、それをエクスポートするだけで、別の場所にインストールできます。ええと、これらすべてのソースコードがあります。ええと、それを、どのように行ったか、どんなアルゴリズムか、ええと、例、ええと、必要なすべてのライブラリ、ご存じのように、完全な持ち物リスト、始め方、実行例を説明した記事と一緒にお見せします。なので、そこは、それほど難しくありません。これは古いNvidiaデバイスのものです。
繰り返しますが、これは手元にありますが、まだその記事を書いていません。申し訳なく思っていますが、今週にあと数日余分にあればよかったのにと思います。もしかしたら、どうにかして押し通せるかもしれません。ええと、それについてはもう少し高度なユースケースをやりたいです。うーん、それについては、ええと、そのソースコードに行きましょう。
これは、ええと、Raspberry Pieで行った、ええと、ものの1つです。Raspberry Pieでは2種類のものを行いました。これはつい最近やったものです。そしてこれはまもなく記事として出ます。ええと、これはPose estimation用です。
ええと、ここにもう1つあります。ええと、これは私が行った元の、ええと、AI kitのものです。そしてこれは単なる検出用です。そのソースコードはすべて揃っています。そしてそれは巨大なトウモロコシです。その巨大なトウモロコシをどこで見たかは言いません、ええと、Xavier Edge。
これはあなたが質問していたものだと思います。そしてここにソースコードがあります。ご覧のとおり、これは、ええと、blip processorです。ええと、それで合っていますよね？そして下の方にblipがあります。なので私は、ええと、カメラから画像をキャプチャし、それをblipに通します。そこでは、ええと、hugging faceを使っています。
そしてSalesforce slipバージョンだったと思います。そしてそれはかなりうまく動きます。キャプションを取得して、それをvisに入れ、それをSlackに投稿します。Python用の、ええと、slackライブラリです。まだ見たことがなければ、本当にいいものです。
ああ、dual ingestは、そうですね、最適ではありませんが、もし2つのデータベース、または2つのものを同じ、またはほぼ同じタイミングで投入する必要がある場合の方法です。言葉どおりです。Dualです。ここにデータを送り、こちらにも送ります。それはマルチスレッドでもよいです。マルチプロセスでもよいですし、シリアルでもよいです。
要するに、ローカルにコピーを持ちたいし、どこか別の場所にもコピーしたいということです。さて、それを行う最も簡単な方法は、単にそうすることです。このデータベースに接続してここに挿入し、このデータベースに接続してそこに挿入します。ええと、挿入は非常に高速です。なので、1秒あたり30、60、120フレームを処理していて、それを通じて大量のデータをプッシュしているのでない限り、それはそれらを投入する簡単な方法です。
両方です。もちろん、チェックして後で送信するアプリを持つこともできます。挿入になってそれを保存し、アプリに処理させるような、ええと、論理的な J を書くこともできます。物事を複数の場所に送るための分散プログラミング技法はたくさんあります。Viss にはまだ Auto Federation はありません。ええと、それが構造化データの世界から来た非構造化データの世界で彼らが考えることなのかどうかはわかりません。
ご存じのとおり、人々はそういうことをしたがります。それはあり得るかもしれません。あるいは、単にクラウドに送るだけかもしれません。繰り返しますが、高度な技術でないものはありません。それはかなり、つまり、ええと、何かをする最も単純な方法で、両方の場所に送ることです。
ご存じのとおり、もし私が、もし私が送らなければならないなら、ええと、それは、つまり、どこかにカーボンコピーを送るようなものです。ええと、私たちがやっていることを気に入っていただけたなら、Vis にスターを付けてください。コミュニティで見てくれる人、試してくれる人が増えるほどいいです。ドキュメントを書くだけでもコマンダーになれますし、ドキュメントは本当に重要です。例を作ること、簡単なブログやタイプミスを探すこと。
ですので、ぜひ私たちのソースコードをチェックしてください。私たちは Discord にいます。そこには本当にたくさんのクールなコンテンツがあります。質問に自動回答する AI ボットもありますし、エンジニアのほとんどがそこにいます。毎日ではないかもしれませんが。
常に少なくとも 1 人のエンジニアはいます。ですので、質問がある場合や単なるコメントでも、Discord はそれをするのにとても良い方法です。ええと、そこでいろいろなことが行われています。Tim を追加しました、すみません、遮ってすみません。時間がなくなってきました。
ええと、質問がありますね、ええと、誰かがミュート解除して答えたいようなので、私は、ええと、ああ、その人に質問してもらえるようにします。もちろんです。ええと、質問したいなら、ええと、ミュートを解除します。今どうぞ。ええと、彼が手を挙げたので、はい、はい。
または、その方が簡単なら入力してもいいです。ええと、はい、しばらく前に手を挙げていたのは知っています。ああ、質問を忘れていないといいのですが、よほど難しい質問でなければ。その場合は、答えは 42 です、とだけ言います。あるいは、すでに答えられていたなら、もしかすると、ああ、それもあり得ますね、それもあり得ます、十分にいろいろ話していると、たまたまそれが正しい答えになることがあります。ええと、ありますね、では、もし思い出したら、ええと、チャットに入れてください。
ええと、そうすれば回答します。はい、そして、もし今できなければ、Discord に投稿してください。Twitter や LinkedIn で私に送ってください。ニューヨーク、カリフォルニア、ベルリンにいるならミートアップに来てください。ええと、または単に、ええと、メールしてください。私はいつもクールなものを探しています。
または、ええと、Stack Overflow に投稿してください。そこで私たちはすべての vis チャンネルを監視して、ええと、質問や、ええと、コメントを探すようにしています。ええと、オンラインで試せるクールなものがあります。ええと、何もインストールせずにそこで自分のデモを試したいなら、クールな OSS chat があります。これは vis を使って、ええと、さまざまな、ええと、オープンソースのドキュメントとチャットする例です。そして、それはかなりクールな方法です。ちょっとした良い例です。
ええと、何か試してみたいなら、ええと、Zillow cloud を無料で試せます。何もインストールしたくないなら、Python ライブラリすらインストールしたくないなら、それはお任せします。すべての情報はそこにあります。デモをもっと見たいなら、あと数分あります。ええと、そうでなければ、もっと質問があれば、ええと、まだ何も見えていません。
でも、ええと、もし落ちていなくて、まだ参加していて、その質問をしたいなら、ええと、q and a か、ええと、チャットで知らせてください。ええと、あと約 4 分ありますので、何か共有したいことがあればどうぞ。わかりました。Tim？はい。わかりました。
では、ええと、はい、Discord があります。はい。ええと、すべてのスライドは共有されます。ソースコードへのすべてのリンクも共有されています。ええと、とてもわかりやすいです。
いいところは、ええと、Vissでは、そのデータをどこで取得したか、あるいはデータベースをどこで実行しているかに関係なく、とても簡単に接続できて、そして、ご存じのように、ノートブック経由で接続できることです。ええと、この例では、旅行勧告のためにクラウドに接続しています。これはかなり面白いです。というのも、ええと、BM two fiveを使っていて、スパースな、ええと、転置インデックスで接続できるさまざまな方法を示しているからです。つまり、私たちは本当に多くの異なるものをサポートしています。ええと、どれがあなたにとって理にかなうかは、ユースケース次第です。
ええと、クールで、私が気に入って追加した点の1つは、ここでこの検索を見たことです。ええと、いいところは、異なる一貫性について話したのを覚えていますか？ つまり、データが完了していることを気にしないなら、eventuallyを入れることができます。たとえば、ものすごい勢いで挿入している場合ですね。たぶん、もう少し挿入できるかもしれません。ええと、今どれを使っているんでしたっけ？ これはローカルですか？ ではサーバーを実行しましょう。前に、あの異なる実行は何かと言ったのを覚えていますか？ それは、ええと、カメラを少し動かしてみます。それで少し違う感じになるか見てみましょう。なので、ここにあります。実行中に、たとえば、完全にそこに揃うまで利用可能にしたくない場合は、strongを選べます。
そういったことすべてです。どのようにグループ化するかを変えることもできます。ええと、現在時刻でグループ化したい場合などですね。そして、ご存じのように、結果を取得できます。これをエクスポートしたい場合は、CSVファイルがあって、それを今、ええと、そこで好きな用途に使えます。ええと、必要なものでフィルタリングすることもできます。繰り返しますが、かなりクールです。
生データだけを見たい場合は、かなり簡単に閲覧できます。繰り返しますが、ベクトルはたぶん見ないほうがいいでしょう。それは、数字が大量にあります。マトリックスを見ているようなものです。何度も見ていれば、何かが見えてくるかもしれません。
でも、ええと、私はそうではありません。ええと、これについては、旅行勧告からのもので、RSSフィードを取得して処理し、ええと、高速インデックスでここに取り込んでいます。繰り返しますが、ここでの検索は、とても速くて簡単です。つまり、どこで実行しているかに関係なく、ええと、他にどんなソースがあり得るでしょうか？ 姿勢推定は新しいものです。ええと、これは、ええと、Raspberry Pi five AI kitに付属している例の1つです。そして、ええと、私はただ、ええと、自分の目的のためにそれを拝借しました。
そして、ええと、数行ごとにそれを挿入しています。そうしないと、私の頭があまり動かない何千行ものデータになってしまうからです。それはあまり面白くありません。特に、そうしたメッセージを全部、ええと、Slackに送っているときには。ええと、繰り返しますが、自分のアプリには好きなものを入れればいいのですが、私はこうした分散型の、ええと、イベントシステムでSlackに出力するのが好きです。何が起きているかを知るのがとても簡単だからです。デバッグにも良いです。また、その情報を共有できるのも良いです。
ええと、ご存じのように、これはオープンなSlackグループなので、参加したければ参加できます。そして、そこに自動で、ええと、投稿される私の変なメッセージを見ることができます。そして、ええと、その一部はAIチャットに接続されています。ご存じのように、そういったこと全部です。ええと、もし誰か、ええと、私の今後のmeetupや他のmeetupに来ることに興味があれば、今後、ええと、数週間のうちにたくさん予定があります。GitHubでサンフランシスコのものがあります。私はまだ、ええと、自分のものがどこになるかを考えているところです。
私たちはマンハッタンにいる予定です。十分に大きなスペースを探しているところです。というのも、ええと、先週は260人が登録したからです。その多くはバーチャル参加になるだろうとは分かっていますが、全員に席があるようにしたいのです。全員に、ええと、食べ物が行き渡るようにしたいのです。
そして今回のために講演者もたくさんいます。私は短いトークをします。Visの上に、ほかのいくつかのデータベースとあわせて、ええと、レポーティング検索ツールを開発した面白い人がいて、それによってsqlが使えるようになります。これはかなりクールです。Nvidiaのプリンシパルエンジニアも来ます。stream nativeから友人のDavidが来て、ええと、gen AI plus streamingについて話します。
ええと、Voxel51のJacob Marksに来てもらって、いくつか、ええと、面白いことをしてもらいます。なので、盛りだくさんのアジェンダになる予定です。ぜひミートアップに来てください。ぜひその環境で試してみてください。ええと、その質問には前にお答えできていたらと思います。
もしできていなかったら、ええと、必ず、ええと、こちらから連絡して、ええと、フォローアップに入れておきます。ええと、ウェビナーにご参加いただきありがとうございます。楽しんでいただけたなら幸いです。たぶんここで時間切れですね。はい、はい。
ちょうど時間になりました。ですので、皆さんご参加いただき本当にありがとうございます。フォローアップの質問があれば、ええと、TimのLinkedInへのQRコードが画面に表示されています。ええと、LinkedInまたはXで彼とつながってください。喜んで皆さんの質問にお答えしますし、ええと、MIL関連の質問があれば、私たちのMIL Discordに参加してください。はい。
皆さん、ええと、ご参加ありがとうございました。また次回お会いしましょう。バイバイ。ご参加ありがとうございました。
Meet the Speaker
Join the session for live Q&A with the speaker
Tim Spann
Principal Developer Advocate
Tim Spann is a Principal Developer Advocate at Zilliz.