- Events
MindStudioはいかにしてRAGアプリビルダーのためのノーコード経路を作り上げたか
ウェビナー
MindStudioはいかにしてRAGアプリビルダーのためのノーコード経路を作り上げたか
Join the Webinar
Loading...
セッションについて
MindStudioのCEO兼共同創業者であるDmitry Shapiroと、CTO兼共同創業者であるSean Thielenとともに、MindStudioの背後にある技術的な仕組みを探ります。MindStudioは、さまざまな分野でカスタムAI搭載アプリケーションの構築方法を変革するノーコードプラットフォームです。コーディング不要で、Retrieval Augmented Generation（RAG）を誰でも利用できるようにした方法について掘り下げます。
学べること:
- MindStudioが、ユーザーにベクトルデータベースの管理や心配をする必要なくGenAIアプリを作成できるようにする方法
- MindStudioのプラットフォームのパフォーマンスとセキュリティを向上させるうえでのZilliz Cloudの役割
- MindStudioがZilliz Cloudをどのように導入したか、今後のプラットフォームに対してどのようなビジョンを描いているか、そしてその歩みを通じて得た教訓
それでは本日、MindStudio がどのようにノーコード Pathwayfor Rag App Builder を作り上げたのかについて、このセッションでご紹介できることを本当に楽しみにしています。そしてゲストスピーカーの Dimitri と Sean です。はい。そして Dimitri は my studio の CEO です。ええと、Sean は彼の CTO です。ええ、彼らは一緒に MindStudio を見ています。
少し自己紹介していただけますか？もちろんです。はい。こんにちは、ええと、ここに参加して皆さんとお話しできることをとても楽しみにしています。はい。私の名前は Dmitri です。
ええと、Sean と私は、私が Google で働いていて、Sean が大学での学業を終えようとしていた10年前に出会いました。そして、ええと、7年前に私は Google を辞め、Sean と一緒に、ええと、mind Studio を始めました。ええと、会社名は Go Meta ですが、ええと、プロダクト名は Mind Studio です。ええと、その前は、先ほど申し上げたように、Google に4年間いました。ええと、そのうち2年半は、こうした暗黙的な集合データを処理するような3つの機械学習チームでプロダクトを担当していました。
ええと、Google には、ええと、ご存じのように、人々、ユーザーがいて、ええと、いくつかのことを支援していました。1つは、当時 Google が注力していた Google Plus の導入を促進することです。ですので、人々にそれを使い始めてもらうこと、ええと、知り合いかもしれない人、気に入るかもしれない人のランキング、フィードランキング、そしてそのようなことです。ええと、その前は、MySpace Music の最高技術責任者でした。ええと、その前には、ベンチャー出資を受けた会社を2社立ち上げました。
1つは、vo という YouTube の大きな競合でした。ええと、そこでベンチャーキャピタルから7,000万ドルを調達しました。ええと、その前には、Iconix Systems という、ええと、エンタープライズソフトウェアのサイバーセキュリティ会社を作りました。ええと、そのために3,400万ドルを調達しました。企業内で200万席以上が導入されました。
そして90年代半ば、95年から99年にかけて、Fujitsu、つまり巨大な日本企業で Web チームを立ち上げました。ええと、Sean と私は、ええと、繰り返しになりますが、10年間一緒に仕事をしており、7年間はフルタイムで、7年半にわたって、ええと、ええ、この会社で取り組んできました。Sean、何か付け加えたいことはありますか？Dmitri がほとんど説明してくれたと思います。私の、私の経歴はずっとクールな物語性に欠けています。素晴らしいですね。
ええと、それでは my studio と、そのビジネスが何をしているのかについて少し教えてください。うん。はい、私たちは明らかに非常にエキサイティングな時代に生きています。今では誰もが、直接アクセスして使える、ええと、こうした新しいモデルにアクセスできるようになりました。ええと、1年半前に Chachi PT が登場したとき、誰もが、ただプロンプトを与えるだけでいろいろなことをさせ、結果、つまり出力を得られるという事実に興奮しました。そして、それを、ええと、ある種の作業成果物と呼ぶ人もいるかもしれません。文章を書いたり、分析したり、そうしたことができるからです。
ええと、しかし Chat GPT で遊び始めたとき、そしてもちろん他のすべての、ええと、言語モデルや拡散モデルなどでも遊び始めたとき、ほぼ瞬時に非常に明らかになったのは、コマンドラインインターフェースのようなところから、それらにプロンプトを与えて何かをさせることができるのはクールではあるものの、ええと、その本当の力、ええと、実用的な用途は、人々がそれにプロンプトを書き込むというようなものよりも、もっと強力な何かである必要があるということでした。そこで私たちは、ええと、約1年半前、1年と少し前に、ええと、Mind Studio の構築に取りかかりました。ですので、ええと、mind Studio はプラットフォームであり、ええと、誰でも使えるものですが、私たちはエンタープライズ、つまり組織に焦点を当てています。ええと、任意のモデルを活用でき、モデルに依存しません。つまり、あらゆる言語モデル、画像モデル、コード、動画、その他何であれ、API 経由で呼び出せるあらゆるモデルを使い、ええと、基本的に、ええと、洗練された複数ステップのワークフローを作成できます。これにより、ええと、企業は、オートメーション、プロセス自動化を構築し、ええと、AI を活用したカスタム業務アプリケーションを構築し、従業員向けの専門的な AI アシスタントを構築できます。そして私たちは、ええと、その、全体的なソリューションを提供しており、ええと、Snow Code ビルダーを提供しています。
このウェビナーの終わりのほうで、それがどのように機能するかの簡単なデモをお見せします。それから、いつでも、ええと、mind studio. ai/learnand にアクセスして、それに関する多くのチュートリアルを見つけることもできますし、YouTube でも見つけられます。ええ。ですから、このビルダーの使い方を非常に素早く学び、こうしたワークフローを作成できます。私たちは、企業がこれを導入するために必要なものをすべて提供しています。
つまり、きめ細かなユーザー管理、ロギング、アーカイブ、コンプライアンス、そのようなものです。ええと、企業が自社の、つまり、データソースのいずれにも接続できるようにしています。ええと、そして、もちろん、ここは、その一部として、CIS が関わってくるところでもあります。ええと、そして、もちろん、既存のテックスタック全体と統合できるようにもしています。ですので基本的に、企業が取る典型的なアプローチは、つまり、私たちを自然に発見するというものです。ちなみに、私たちの成長の86%はオーガニックです。
ええと、現在 Mind Studio で作成され、デプロイされた AI アプリケーションは40,000を超えており、つまり、巨大企業、政府機関、何千もの SMB で使われています。ええと、そして、先ほど言ったように86%はオーガニックです。会社には営業担当者が一人もいません。ええ、私たちはセルフサービス型の、ええと、プラットフォームです。ですので通常は、彼らが私たちを見つけ、そしてやはり YouTube チュートリアルを見て使い方を学び、それから自社のプロセスを見て、これまで人間が手作業で行っていた多くのことを、ただ自動化できるのだと気づき始める、という流れです。
そして私たちは、こうした AI を作成することを本当に簡単で迅速にしています。つまり、典型的な AI の構築は、1人でだいたい15分から数時間程度で、しかも本当に非常に強力な自動化を構築できます。それによって、繰り返しになりますが、ワークフローの特定の部分から人間を外すことができます。ですので、それが最初に行うことです。それができると、残りの部分、まだ人間が関与する必要のある残りのことに目を向けるようになり、そして、その従業員たちは、すべての自動化が起こる前に使っていたようなソリューションを使い続けるのではなく、仕事をより効率的に行うために、本当にカスタムな新しいカスタム業務アプリケーションを使えるのだと気づき始めます。つまり、たとえば、多くの組織にとって深く重い CRM システムのようなものです。彼らはこうした CRM システムの機能の一部しか使っていませんが、こうした巨大なシステムを採用せざるを得ないような状況になっていました。
それを行うために、今では実際、多くの場合そうした CRM システムを取り除き、残っている従業員のために、CRM 的な機能をいくつか持ちながらも、こうした重い CRM システムを必要としないカスタム業務アプリケーションを構築できます。ですので、自動化できるものはすべて自動化します。完全には自動化できないものについては、まだ従業員が必要なので、その人たちのためにカスタムツールを作成します。そしてそれ以外のすべてについては、ある種アドホックでオンデマンドに、ときどきモデルと会話して何かをする必要がある、ええと、反復的ではないものとして、従業員に直接、つまり Chachi PT や Clotor やそうしたもののいずれかへ行くことを許可する代わりに、ええと、彼らのために非常に迅速に、専門化された会話型アシスタントを構築します。それは、ええと、裏側では依然として Open AI や drop Google Meta Mistral、または彼ら自身のプライベートモデルを活用します。つまり、一部の大規模組織や、非常にプライバシー、ええと、ええと、ええと、ええと、そして、そして、コンプライアンスや、そして、ええと、規制の影響を受ける組織は、オンプレミスまたはプライベートクラウドで推論を構築し実行する傾向があります。私たちはそこにも接続できるようにしています。
つまり、彼らはこうしたものを使っているのかもしれませんが、こうした会話型の専門アシスタントは、単なる汎用的なChatGPTよりもはるかに優れた性能を発揮します。なぜなら、それらは自分たちが置かれている企業、その企業の制約や機微、そして内部データを理解しているからです。ええと、さらに、それらとやり取りしている人の職務も理解しています。というのも、繰り返しになりますが、それらはそうしたコンテキストの状態に置かれているようなものなので、それを理解できるのです。したがって、必要なプロンプトは劇的に少なくなり、そして、はるかに優れた、いわゆる出力を生成します。そして繰り返しになりますが、私たちはこれを企業が実行するのを本当に簡単にしています。だからこそ、昨年9月のローンチ以来、ええと、現在ではこれらのAIが40,000以上デプロイされています。ええ、伝わったことを願っています。はい、それは素晴らしいですね。
ええと、でも私が学んだのは、ええと、それらはより簡単で、あなたがプロダクトを簡単にすればするほど、バックエンドではより複雑なものが追加されるということです。そこでぜひ伺いたいのですが、ええと、この素晴らしいアプリケーションを構築するときに、どのような技術的課題に直面するのでしょうか。はい、そうですね、ええと、それはDmitriがちょうど言っていたこととうまくつながると思います。つまり、AIは今、分野として非常に騒がしいのです。本当にたくさんのクールなことが常に起きています。毎日目を覚ますと、何か新しいモデルについて聞きますが、突然、それが前のモデルよりも医学部に入るのが得意になっていたりします。
あるいは、ほら、新しいベクターデータベースが出てきたり、新しい、何か別のことをするものが出てきたり、新しいアプリケーションのスタイルや、エージェントに何かをさせるための新しいプログラミング方法が出てきたりして、突然それが大流行になります。ですから、私たちが直面した最大の技術的課題は、実はコードレベルでも実装レベルでもありませんでした。それはむしろ、世に出てくる興味深いものの素晴らしいランドスケープを見渡して、その中でまず、私たちが価値があると考え、賭けたいもの、エンドユーザー、特に非技術系のエンドユーザーや企業に実際の価値を提供するものを選ぶことでした。つまり、出てきているツールのうち、人々が実際に使えるものはどれなのか、ということです。面白いデモではあるけれど、私たちが実装作業をすべて終えた2週間後には、もう誰も気にしていないようなものではなく。そしてそれを取り上げて、そうしたオタク向けにコード化された、ええと、プロダクトの言語を、普通の人が使い方を理解できるものに変換することです。たとえば、私たちのエンドユーザーのほとんどは、ベクターデータベースという言葉さえ聞いたことがありません。彼らはZillsが何なのかを当然知りませんし、それを基準に比較しようとしているわけでもありません。
つまり、彼らはこの内部の仕組みを理解していません。どこかで、いわゆるragという言葉を耳にして、「ああ、それが必要なんだ、人気だから」と思ったことはあるかもしれません。ですから、それが私たちが基本的に通訳役を務めようとしている個々の人々のレベルなのです。これらの素晴らしいコア技術やイノベーションを取り上げ、それを普通の人々に届け、彼らがそれを使って何ができるのかを理解できるようにするのです。だからこそ、たとえば、私たちのインターフェースに反映されている言葉の一部は、バックエンドで起きていることと1対1で対応していません。私たちはデータソースについて話しますが、ええと、ベクトル化については、たとえばあちこちにある小さな進捗バーの中などを除けば、それほど多くは話しません。
しかし私たちは基本的に、こうした概念を取り上げて、それを普通の人々が理解できるものへと引き上げようとしています。そして多くの場合、私たちのシステムのバックエンドで複数のものを組み合わせて、非技術系のエンドユーザーの視点から見ると、「ああ、これは何か新しいものだ」と思えるような新しいプロダクトにしています。でも実際には、それはベクトルデータベースやLLM呼び出し、その他のバックエンドでのオーケストレーションが混ざったものなんです。ええと、Dmitri、これについて何か付け加えたいことはあるかな？うん、その通りだと思います。ええ、少し文脈を補足させてください。繰り返しになりますが、私たちの焦点はAI活用を企業や組織にもたらすことです。
ちなみに、私がエンタープライズという言葉を使うとき、必ずしも大規模組織を意味しているわけではありません。Mind Studioを使ってAIを構築し、活用している中小企業は何千社もあります。つまり、あらゆる種類の組織です。そして今日、これらの組織は自分たちが置かれている状況に直面しています。私たちは本当に興味深い vantage point に座ることができています。なぜなら、何千もの組織が私たちのところに来ているからです。ええと、その一部はすべてセルフサービスですが、中には私たちに連絡してくるところもあり、そして私たちは彼らに質問します。どうやって私たちを見つけたのですか？何を探していたのですか？課題は何でしたか？そういったことです。だから、世の中で何が起きているのかについて、かなり多くのシグナルを得られるのです。そして、とにかくものすごい興奮があります。「わあ、これはすごい。
プロンプトを入れればいろいろやってくれるんだ」という感じです。そして同時に混乱もあります。「これで何をすればいいんだ？データサイエンティストをたくさん雇う必要があるのか？それに、今はHH 100が不足しているとも読んだので、それらをどう調達するか考えて、データセンターを作ったりしなければならないのか？それともRFPを出して、どの大規模言語モデルを標準化すべきかを見極めに行く必要があるのか？あるいは、writer Jasper copyのような垂直型SaaSツールを導入すべきなのか？さらにマーケティング向けのものもあり、営業向けのものもあり、業務向けのものもあり、そうした判断をどうすればいいのか？」という具合です。つまり、「AIで何かをしなければならない。そうしないとAIを使っている競合にやられてしまう」という大きな需要がある一方で、それをどう扱えばいいのかわからないのです。そこで私たちが登場して、「大丈夫です。実はとてもシンプルなんです」と言います。
このプロダクトは、午後のうちに使い方を学べます。そしてあなたが誰であっても、会社の開発者であれ、プロジェクトマネージャーであれ、人事マネージャーであれ、マーケティングマネージャーであれ、こうした役割の人たちがMind Studioを見つけ、そして自分たちの組織でこれらのものを実装し始めているのを私たちは見ています。ええ、そして私たちはそれを利用しやすくし、適用しやすくし、人々が現実の問題を解決できるようにしています。そして、「AIをやる方法とは、次のモデルが出るのを待ち、GIのようなものを待つことだ。それがGPT 8、GPT 8になると、できることはただ『私の企業をより良くしてください』と言って送信ボタンを押すだけで、それが事業計画を作り、すべてをリファクタリングしてくれる。資金調達にも行ってくれる。
そして『それを1兆ドル企業にしてくれ』と言えば、それがあなたのために売却までしてくれる」といった視点を取る必要はないのです。実際にAIを活用する道筋がそういうものだと考えている人もいますが、私たちは彼らに、「それはばかげています。今すでに、これで信じられないようなことができます」と伝えています。そして、繰り返しになりますが、すでにあらゆる業界でそれが起きているのを私たちは見ています。この40,000のAIが導入され、あらゆる規模の企業で、そして今ではほぼすべての国が代表されていると思います。すべての国ではないと思いますが。
私、私ならそれに加えて、ええと、私が思うに、そしてこれは技術的な課題に戻るのですが、私たちは不安を抱えている人々に対して答えを提供しているのだと思います。ああ、では、今日この1つのツールチェーンに標準化したら、あるいは今日この1つのモデルに標準化したら、つまり、1週間後に突然それが時代遅れになったらどうなるのか？ビジネス全体をリファクタリングする必要があるのか？みたいなことです。思い浮かぶたとえとしては、もし50年前にタイムスリップして、人々に写真を教えなければならず、そしてiPhoneがやって来ることを知っていたとしたら、それはしばらく先のことではあるけれど、何を教えるだろうか、というようなものです。つまり、雑草の中に入り込むような突飛な未来のものについて教えようとはしないでしょう。構図やライティングの基本を教えるはずです。そして、つまり、そもそも私たちがこれらすべてをやっている理由であり、Mind StudioはAIアプリケーション開発において同様の抽象化レベルを提供していると思います。それは、モデルのことを心配するな、ということです。モデルはどんどん、どんどん、どんどん良くなっていきます。より速くなり、より安価になり、つまり、データソースやデータ取得など、そういったすべてのものがより良く、より簡単に、より文脈に即したものになっていきます。
だから、機械学習でPhDを取ってその分野でやっていきたいのでない限り、あなたが集中すべきことは、もちろんそれは素晴らしいことです。でも、あなたが普通のビジネスパーソンにすぎないなら、集中すべきことは、どうやってプロセスを特定し、それを自然言語のような形で、そしてこうしたある種の構造化された方法で明確に表現し、それを使って広くAIとコミュニケーションできるようにするか、ということです。そしてAIが良くなるにつれて、つまり、その根本的なものは洗練されていくでしょうが、その根本的なものは依然として、あなたがしている仕事、あるいはあなたの周りの人々がしている仕事をどのように見るかを学び、それを個別の形で定義し、機械が活用できる方法で伝えるための訓練なのです。うんうん。そして明らかに、AIによって、ええと、ソフトウェア開発者の役割は、ええと、つまり、進化します。ええと、当然ながらそれは、私たちがcopilotsのようなものや、そして、つまり、コードを書けるモデルなどで行っていることとは関係なく進化しますし、ええと、企業内でも進化します。
企業では、以前は、自社で構築するかどうかのどちらかでした。つまり、それを行うために開発会社を雇う必要があるか、あるいは自社の開発者が、つまり、製品やロードマップなどを構築し、そして維持する、ということです。ええと、あるいは、ええと、no-code、low-codeプラットフォーム、ええと、こうしたプラットフォームの前世代のようなものを採用するかでした。そして、一方では、それによって開発者ではない従業員、ビジネスユーザーがアプリケーションを構築できるようになります。他方で、もし誰かが、つまり、これらのlow-codeプラットフォーム、ええと、no-code、low-codeプラットフォームを使ったことがあるなら、ええと、実際に意味のあるものを構築するために必要な作業量は、単にコードを書いてしまうよりもはるかに多いことがしばしばあると気づくでしょう。つまり一方では、何かを構築するために必要な開発者というボトルネックがあります。
他方で、ビジネスユーザーは、つまり、膨大な作業を行い、これらの非常に高度なツールの使い方を学ばなければなりません。そして、繰り返しになりますが、昔の開発の世界では、すべての、つまり、エッジケースを考え、網羅しなければならず、そして、それらを列挙し、そして、そして、そして、つまり、それらのためのルールを構築しなければならなかったからです。私たちは今、AIによる曖昧な世界に生きています。そこでは一般的に、自分の、つまり、感覚や方針をAIに伝えることができ、AIは多くの仮定を行うことができ、そしてそれをある程度微調整し、追加の制約を与えることができます。ですから、これらのアプリケーションを構築する方法は、ただ非常に異なるものです。そしてそれが、またしても、それらを構築することを劇的によりアクセスしやすいものにしています。
より多くの人がそれをできるようになります。それによって、それらを構築するのが、つまり、途方もなく速くなります。繰り返しますが、だいたい15分から数時間です。ノーコードプラットフォームで数時間のうちに意味のあるものを作ることはできないでしょう。ええ、でもここではできます。ええ、それにちなみに、これらはデプロイできます。つまり、私たちのWeb IDEでそれらを構築し、テストし、プレビューして、それから公開を押すと、ええ、それらはWebアプリケーションとしてパッケージ化されますよね？つまり、それらはURL経由でアクセス可能で、そして、だいたい2つの形式があります。
1つは人間向けのインターフェースを持てるということです。たとえば従業員が使うための、普通のWebアプリのようなものです。つまり、画像やテキスト、メディア、フォームといった形で入出力があります。ええ、あるいはヘッドレスにもできます。つまり、特に他のプロセスからプログラム的に、API呼び出しで駆動されることを意図したもので、当然それらは主に自動化に使われるものです。ですから、よく見かけるのは、人々がそれらを、やはり自分たちのカスタムソフトウェアからトリガーし、私たちのAPIを呼び出したり、Zapierやmake. comのようなものを使ったりすることです。これらは、イベントリスナーやトリガーのようなものを作成できるものです。
彼らは通常それらをそう呼び、それから、つまり、何らかのプロセス、この場合は私たちのAPIエンドポイントを呼び出して開始します。ですからコンポーネントを構築できますし、私たちはそれを、APIが何を意味するかさえ知らない非技術者にも利用可能にしますが、彼らはそれが何をする必要があるかは理解しています。だから彼らはそれを構築でき、その後Zapierを使い、そこへルーティングし、そして突然、現代のソフトウェア開発が手に入るわけです。素晴らしいですね。ええ、実は質問が1つあります。
まずそれを取り上げてみましょう。データ分析について、ADVイベントのjとIによる、describe Diagnos project prescribeの4段階という話がありました。これが関わったり変化したりすると見ていますか？すみません、こちらでは音声が途切れました。よく聞き取れませんでした。Q&Aタブにあります。Dmitri、開いてもらえますか。
わかりました。うん。つまり、データ分析の4段階、describe、diagnostic、predict、prescribedのことですね。これがgene aiによって変わると思いますか？私は思いません。これは、私たちが話してきたことの良い例だと思います。つまり、生成AIと、Dmitriが説明していた、その曖昧さや不正確さを受け入れる能力のことです。これにより、私たちはこうした基礎に集中できるようになります。つまり、データ分析の講座に座っていて、「データ分析には4つの段階があります」と言われるのは素晴らしいことです。
Describe、diagnose、predict、describe、そしてその後、1日の90%をJupyter Notebookに座って、3行のコードをデバッグしようとして過ごします。すると実際には、仕事に価値をもたらすそうした基礎的で高レベルな概念的抽象化に集中できません。なぜなら、すべてを接続し、動かすことにあまりにも埋もれてしまうからです。まさにそうです。ですから、はい、今後については、そしてこれは、ソフトウェア開発における多くの進歩や、Dimitriが話していたこれらのノーコードまたはローコードビルダーの進化にも当てはまると思います。ええ、私たちは実際に、私たちが解決している問題は何か、そしてなぜそれを解決しているのかに改めて焦点を当てる余地を持つようになります。現在私たちが生きている世界は、「わかりました、それはできます。でもその後、実際の実装作業に時間の大半を割き、細部に入り込む必要があります」というものです。
今ではそのパラダイムが少し逆転し、私たちは時間の大半を問題の説明や、物事を理解し、それを表現する正しい方法を見つけることに費やせるようになります。そして実装の詳細は、その意味ではより大まかなものになります。ちなみに、すみません。タブを見つけました。チャットタブとQAタブを見ていて、「この質問はどこにあるんだ？」と思っていました。失礼しました。
すばらしいですね。ええと、それでは少しギアを切り替えて、Vector databaseについて話しましょう。ええ、実は皆さんが最初は違う考えを持っていたと聞いています。ええ、たとえば、ええ、ええ、完全マネージド型のvector databaseを選ぶのではなく、自分たちで何かを構築しようと考えていたと。ええ、なので、具体的に何が起きたのか、ええ、何が、ああ、実はここには完全マネージド型のvector databaseが必要だ、と感じさせたのかをぜひ聞きたいです。おそらく、自分たちで構築して運用するために必要なコストを、メリットが上回ったからだと思います。
つまり、それが、私たちがZeusを使うことにした選択において、おそらく最も大きかったことだと思います。皆さんは長い間存在していて、非常に安定していて、余計なことがなく、しっかり作り込まれているという点です。ええ、これまでのところ、ええ、とても、とても良い経験になっています。特に、私たちはある種の、ええ、つまり、マルチテナント型のソリューションを構築していて、単一のcluster上で多くの異なるクライアントの、ええ、dataを提供しており、ユーザーの利用パターンに基づいて動的にロードおよびアンロードしています。ですから、最近のより新しくて流行りのサービスの一部のように、そこへの可視性があまりないものではなく、より低レベルのdatabaseにアクセスできることは、私たちにとって実際に非常に重要でした。なので、残念ながら答えとしては、Zillowが退屈で安定していた、そしてそれが私たちが皆さんを選んだ理由だった、ということになります。残念ながら、もっと面白い答えになり得たほど楽しい答えではないと思います。でも、実際にはとても重要な答えだと思います。
そしてそれは、私たちがテクノロジーを選ぶときに、つまり、賭ける対象として選ぶときに、会社として持っている価値観を示していると思います。うーん。データインフラストラクチャ企業として、私たちは退屈であることが大好きです。ええ、ええ。それは、それは、それは実際に誰かに対してできる最高の賛辞ですよね。退屈であるというのは、相手に感心してもらおうと無理をしていない、ただやる、ただ動く、ということです。そして、それが私たちの、私たちの、ええ、アプローチでもあります。
私たちは、人々が素晴らしいことをできるようにするだけの、退屈で古いインフラストラクチャであろうとしています。うん。ええ。そして、もし皆さんが明らかにそうであるように、人々に本当の価値を届けているなら、それを他のいろいろなもので飾り立てる必要はないと思います。うん。
ええと、それでは、マルチテナンシーについてもう少し話していただけますか？コミュニティからもこれをよく聞きます。ええ、特にVirginia appの損失です。彼らはこのようなマルチテナンシーの方法で構築したいのですが、非常に多くの、ええ、課題に直面しています。なので、あなた方のアプローチについて少し聞きたいです。うん。ええ、その話に深く入りすぎる前に、おそらく最も重要な文脈は、私たちの本番トラフィックとワークロードの形です。つまり、私たちには多くのユーザーがいて、Dmitriが言ったように、ええ、その大多数は社内向けのエンタープライズアプリケーションのようなものを構築しています。
ですから、ええと、Dmitri、あなたのほうが私より少しうまく話せると思いますが、人々が自分たちのdatasourcesにアップロードしていて、私たちが保存しているdataの種類についてです。要点としては、私たちは高readワークフローのようなものをあまりやっていないということです。なので、私たちは、ええ、そして、たとえば誰かがsales training assistantを作るようなものが多くあります。その一環として、多くの会話やproduct manualsなど、そういったさまざまなものを、そのアプリケーションのdatasourceにアップロードします。そしてそのアプリケーションは、たとえば平日の予測可能な時間帯に使われ、数人の人がときどき数件のqueryを行うためだけに使われるかもしれません。ですから、その利用の上にシンプルなheuristicsをいくつか適用して、Vector databaseからdataを動的にロードおよびアンロードできます。
それで、私が思うに、それが、かなりスケーラブルでコスト効率の良い形でマルチテナンシーを実現できている最大の要因です。要するに、すべてのお客様のデータを常に100%メモリに読み込んでおかなければならない、という制約がないということです。なので、そうですね、私たちは、ええと、かなり積極的にものを読み込んだり出したりしています。それから、もう一つは、基本的に私たちはアダプターを構築していて、エンタープライズのお客様で、自分たちのデータが常にアクセス可能で、メモリに読み込まれている必要がある、あるいは正確にはそれを要求するお客様については、必要であれば自分たち専用の予約インスタンスのようなものに接続してもらい、共有インフラから移行してもらうことができます。いいですね。ええと、もう一つ質問があるのですが、ええと、コミュニティと話していると、多くの人は wrap を構築するときに、プロセス全体をずっと簡単にするために、たとえば launch や log index のような何らかのフレームワークを使っています。
ええ、私が聞いたところでは、皆さんは実際にはそのアプローチを採用していないとのことです。その理由をぜひ聞きたいです。うん。ええと、正直なところ、私たちはそれを採用しませんでした。皆さんのAPIを実装するほうが、そうしたフレームワークの使い方を学んで、それを理解しようとするより簡単だったんです。ええ、そうですね、私は、ええと、これはまったく別の会話になり得ると思います。Lama と Dex、そして Link Chain が行ってきた仕事は素晴らしいもので、とても価値があると思います。特に、物事を素早く組み立てて進めたい多くの開発者にとってはそうです。
ええ、私たちは少し自分たち独自のリズムで進みたかったし、他の人たちがある程度描いた道を下っていくようなことはしたくありませんでした。特に、この分野がこれほど速く動いていることを考えると。なので、基本的に私は、データを読み込み、データをクエリし、それを管理できるAPIエンドポイントがいくつか欲しかっただけです。そして、それを自分たちの望む形で組み合わせられるようにしたかった。つまり、別の形で規定されたパターンにロックインされるのではなく、ということです。なので、たとえば Mind Studio の背後にあるアーキテクチャを見るとしたら、その多くは、基本的にコアレイヤーに、こうした基盤サービス、LLM、Vector データベース、ええと、それに加えて、もっと一般的であまり面白くない技術的なもの、たとえば何かを実行したり、ウェブサイトをスクレイピングしたり、ユーザー管理をしたりできるサードパーティAPIなどがある、という構成です。そして私たちはその上にアダプターのようなものを構築し、それらを組み合わせています。つまり実質的には、私たちはこれらのフレームワークの一部がやっていることと似たようなことをしているわけで、そのため、そのインフラへの自分たち自身の経路を基本的に所有し、定義することが重要だと感じました。
そして、ええと、ある意味では、Mind Studio とは何かを考えると、それは基本的に Lang chain のようなもののノーコード版だと言えると思います。ええと、それは、ある面では意見のある設計になっていますが、ずっとアクセスしやすいと思います。なぜなら、これはできるだけ良い意味で言っているのですが、もし L Chain を統合し実装できるほどプログラミングを理解しているなら、結局は十分にフラストレーションを感じて、自分でそれをやってしまうかもしれません。一方で私たちがいる位置は、つまり、私たちのユーザーのほとんどは人生で一行のコードも見たことがなく、今後もコードに触れたいという気持ちはまったくありません。だから、私たちは、より生のプログラミングに少し近いものよりも、自分たちのツールへのアクセスをどう表現するかについて、かなり意見を持った形にしても許される余地が大きいのだと思います。うん。私からのフォローアップの質問としては、ええと、それについて、あるいは Dimitri が先ほど触れていたことですが、皆さんは本当に、ユーザーに最新の攻撃手法やモデルなどについて心配してほしくない、ということですよね。
ええと、どうやって関わり続けられるようにして、ええと、そしてただ、ええと、彼らにとって最善のことをするようにしているんですか？ なぜなら、テクノロジーがものすごい速さで進んでいくのについていくのは大変だからです。うんうん。そうですね。そこは、私たちがこの独自の視点に立っていることから生まれる規模の経済を活用できることが効いてくるところだと思います。つまり、私たちは、たとえば、ただの、あの、私たちの顧客の中には、どこかの地域にあるランダムな、あの、レストランみたいなところもあって、彼らは技術者ではありません。
彼らはそこに座って、あの、さまざまなモデルのベンチマークとか、そういうことについてのニュースを読みたいわけではありません。でも私たちは実際に、それらすべてを座って実装し、そして世界を見渡して何が起きているのかを判断できるリソースを持っています。ええと、今後面白くなってくると思うもう一つのことは、あの、こうした種類のことにオプトインしたい特定のタイプの顧客にとっては、ええと、コスト削減と効率化です。私たちは基本的に、価格との関係やワークフロー内の具体的なアクションとの関係で、さまざまなモデルを見て、顧客が、あの、ここで私にとって最も効果的なことは何かを選ぶ手助けができるようになります。たとえば、ええと、多くの人は単に知らないので、今朝、Dmitri と私がある顧客と電話をしたのですが、その顧客は、ええと、データソースのトラブルシューティングをしようとしていて、1つの、おそらく50行くらいのテキストファイルをアップロードするために、完全なデータソースを構築して、それをベクトル化し、それを Zillow に入れてクエリしようとしていました。それで、なるほど、それを行うのがそれほど簡単で、そのために必要なすべてのステップを考えていないというのは素晴らしいことです。でも同時に、本当にあなたがすべきこと、そして、あの、将来的には私たちの自動化ツールが検知して手助けすべきことは、もしそれにアクセスしたい方法がそれなら、それをそのままプロンプトに貼り付ければいいということです。
つまり、それはこのように使う必要はありません。ですから、ええと、こうしたエンドユーザーが、あの、これらすべてのものにアクセスできるようにするだけでなく、いつそれらを使う必要がないのか、あるいは実際には別のものを使った方がよいのかを理解する手助けをすることです。たとえば、これは顧客に見られる一般的なパターンだと思うのですが、彼らはやって来て、最新で最高のものをすべて使いたがります。彼らは、あの、GPT-4 Turbo と、そして Cloud Three Opus を使いたがり、ベクトル化したがります。人々がやって来て、「1200万語あるんですが、できますか、なぜできないんですか？」と言うこともありました。それで私は、「わかりました、あなたは本当にそのどれかが必要なんですか？」と言うのですが、ほとんどの場合、答えはノーです。
そして実際、私たちは、Learning Mind Studio にどれだけ深く入り込み、いろいろ試し、アプリケーションを構築するかと、新しいテクノロジーのきらびやかさに対するある種の冷め具合との間に、なかなか興味深い相関関係を見つけました。こうした人々の多くは、最初は高価なモデルを使い、複雑なワークフローを構築しますが、時間が経つにつれて、実際には低レイテンシの方がよく、あの、特定のアクションにはより小さなモデルを使い、最後に GPT-4 を持ち込んでこれらすべてを統合する、あるいは、あの、会社の共有ハードドライブ上のすべてのファイルを一つ残らずこの中に放り込んで、うまくいくことを祈る、というよりも、もっと思慮深くやる方を好むようになります。私は実際、含めることを選ぶデータソースは何か、あの、そして、それらをどのように呼び出すのか、そして、たとえば、それらをおそらく3つの別々のデータベースに分けて、あの、クエリする前にまずユーザーの意図を分類する、といったことができるのか、についてもう少し思慮深くなろうとしています。ですから、少しずつ、見えてくる洗練度のようなものが増していくのだと思います。それは、実際、職位の高さのようなものとかなりよく連動していて、プログラミングが思い浮かぶ類似例です。つまり、ジュニア開発者がこうした新しいフレームワークや新しいツールのすべてに興奮し、こうしたすごいものを作るのに対して、あの、白髪交じりの冷めたシニアエンジニアは、何かを成し遂げるために、できるだけ少なく、できるだけ退屈なコードを書きたいだけ、という感じです。いいですね。
ええと、もう一つ質問があるので、Vectorデータベースに戻りましょう。ええと、実際、コミュニティの皆さんは、Zeusを使い始めたときに何か問題に遭遇したことがあるか、そして皆さんを支援するために私たちがもっと改善できることがあるかを、ぜひ聞きたいと思うんです。うーん、そうは思いません。いくつかの箇所で、これはもう解決済みかもしれませんが、VISとZillowの間でドキュメントが、うーん、完全には同期していなかったことがありました。なので、あるパラメータを使おうとして、「なんでこれ動かないんだろう？」みたいになることはありました。うーん、でも、ほら、それはどんな新しいテクノロジーを実装するうえでも、楽しい部分だと思います。
いえ、今のところ本当にスムーズで、うーん、素晴らしい体験ができていると思います。ほら、それは本来やるべきことをその通りにやってくれて、しかも本当に信頼性高くやってくれます。で、ええ、本当に、本当に素晴らしいです。特に、my studioのような複雑で、そして、ほら、広範囲にわたるソフトウェア製品ではありがたいですね。何かを設定して、その後は、ほら、数日おきに確認するためのメンタルリマインダーをセットする必要がない、なぜならちゃんと動くと信頼できるから、というものがあるたびに。
それには、感謝してもしきれません。なので、はい。ありがとうございます。ええ。実はそれは、つまり、皆さんは私たちのことを知らないでしょうけど、私たちは、ええと、ええと、私たちにそう感じさせるのは珍しいんです。たいてい私たちは、何かしら、ええと、もっと良くなってほしいことについてb******gしているので。
そして、これがただ動いて、ええと、私たちがあまり意識しなくていいという事実は、うーん、mm-Hmm. 大きな祝福です。本当に感謝しています。Mm-Hmm. そう聞けてうれしいですし、ドキュメントチームにも伝えておきます。
実は、ドキュメントについてはいくつか改善があったので、もし今確認したい人がいれば、少し良くなっているはずです。ちなみに。ええと、念のためお伝えすると、私たちは、ええと、ええと、本当に、本当に急速に成長していて、そのため常に追いつくのに必死です。なので、ええと、私たちのドキュメントはしばしば古くなっています。ええ。
ええと、幸いサポートは素晴らしくて、ええと、主にDiscordで対応しているので、そこに参加してください。なので、「これは何？このインターフェース存在しないじゃん」と思っても驚かないでください。ああ、そうです。進化したんです。だからおそらく、ドキュメントの品質について私が文句を言うのは、たぶん悪いカルマですね。
まあ、いえいえ、そういうことを言っているんです。あなたは文句を言っていたわけではなく、実際には褒めてくれていたんです Mm-Hmm. ええと、なぜなら、ええと、私たちのは、ええと、はるかにひどいので。はい、いいですね。では、ええと、Dmitri、聴衆にデモを見せたいですか？ ああ、もちろんです。
うん。ええ。ええ。では、ここで簡単なデモをお見せします。ちなみに、ここでデモを見る一番良い方法は、まあ、少しだけお見せしますが、でも正しいやり方は、うーん、ええと、ここでlearnに行って、そして、ほら、ええと、この18分の動画やこの2時間のコースを見ること、あるいは私たちのYouTubeチャンネルを見ることです。
たくさんのディープダイブがあります。また、毎週ウェビナーも開催していて、基本的にはこれのようなバージョンをやっていますし、上級ウェビナーも開催していて、ZapierやMakeなどのようなものと、ほら、どう統合するかをお見せしています。そして、土曜日に、ええと、隔週土曜日くらいで、8時間の、ええと、認定コホートも行っています。なので、8時間のクラスを受けて、その後プロジェクトを完成させ、評価を受けて、認定開発者になることができます。なぜなら、今ではこれらの実装について、ほら、支援を求めて私たちに連絡してくる企業が非常に多いからです。
もう一度。そしてちなみに、このデモをお見せする前に簡単なマトリックスですが、繰り返しになりますが、Mind Studioで人々が何をしているのか、どんなものを作っているのかについて、私たちがよく目にする一般的なパターンをいくつか浮かび上がらせています。なので、ほら、それを見てみてください。そこも非常に役立ちます、ええと。さて、サインアップするか、ほら、Googleや、または、うーん、apple、ええと、またはemailで続行すると、基本的にはこのようなインターフェースが表示されます。デフォルトで得られるものの一つは、基本的には、うーん、繰り返しになりますが、chat GPTや、デフォルトで使いたい他のモデルの代替です。
ここではデフォルトで GPT-3 0. 5 turbo になっていますが、編集してモデルを完全に変更できます。私のデフォルトでは、これは私の会話型アシスタントです。繰り返しになりますが、これは、ええと、大規模言語モデルを直接使う私の使い方を置き換えるためだけに作られています。ここでそれができるし、編集もできて、私自身または私の企業によって、つまり、私たちが何をしているのか、そして私の職務が何なのかについてトレーニングできるので、その点についてずっと賢くなれるからです。ええと、それからプラスを押して作成に進むと、ここにさらにタブを増やせます。
当然、私が作成したものがたくさんありますが、あなたの場合はこの create AI ボタンだけがあり、それをクリックできます。そうすると、いくつかの方法で ai の作成を開始できます。さて、まず、この次の画面で、これらの AI アプリケーションの構造のようなものをお見せしようと思います。ただ、その構造の一部として、つまり、これは system message のようなもの、あなたが構築しているこの AI のもののコンテキストを設定する prompt だと思います。つまり、それは何なのか、何をすることになっているのか？そして一般的に、つまり、どのように振る舞うべきなのか？それはテンプレートを選ぶことでもできますし、構築しようとしているものが何なのかを AI に伝えることでもできます。
そしていくつかの言葉だけです。すると ai を使って自動的にこの prompt を生成します。あるいはゼロから始めることもできます。ええと、実際には完全に空白というわけではありませんが、ほぼ空白です。そして私はそれをやります。
そうすると、このような空白の prompt が表示されます。つまり、アシスタントの役割は、ユーザーのリクエストに応答することでユーザーを支援することです。これは実際には何も言っていません。なぜなら、それを言う必要すらなかったからですが、これはそういうものです。さて、これで私たちの id が得られます。ええと、基本的には左、中央、右のような3つの列に分かれていて、右側にあります。
ここにはライブプレビューがあるので、使いながらこれとチャットできます。ええと、左側にはさまざまなリソースや、つまり、エア検出とデバッガがあります。ええと、そして中央が、作業の大部分が行われる場所のようなものです。ええと、AI は、ええと、繰り返しになりますが、私たちが workflows と呼ぶこれらのものの1つ以上で構成されています。この main workflow が用意されていますが、追加のものを加えることもできます。そして workflows は system prompt、ええと、選択できる default model で構成されていますが、各ステップごとにそれを上書きできます。
ええと、ちなみに、私たちが許可しているこれらの custom functions を使って、任意のオンプレミスモデル、または繰り返しになりますが、その他の任意の API endpoint を呼び出すこともできます。ええと、そして主に、私たちが automations と呼ぶこれらのものです。ええと、これらはこれらの複数ステップの workflows で、ええと、これらの workflow のものによって表現されていて、そして、そしてこのプラス記号をクリックすることで nodes を追加します。つまり、それらには start があり、end があり、そしてその間で行うことがあります。そしてここで、さまざまな種類の nodes を作成できます。
いくつか簡単に説明します。もし、ええと、人間が使うことを意図した AI、たとえば従業員が使うツールとして、つまり、ええと、彼らが行っている、何らかの作業成果物を生成するための AI を構築しているとしましょう。ええと、そのためにはいくつかのユーザー画面、ユーザー入力が必要です。ですから、ここにあるこの user input ブロックを使って、これらのさまざまな種類のユーザー入力を作成できます。右側には、長いテキスト、短いテキスト、つまり、複数選択、ビジュアル、複数選択、つまり評価のようなもののプレビューがあります。これらは、できることが常に拡張されているようなものです。
そして、つまり、当然ここでそれらを操作して、きれいな画像を与えることができます。これらをとても見栄えよくして、つまり、人々が使うための、とてもよいフォーム、基本的には画面を作成できます。ええと、もちろん他にできることとして、モデルにメッセージを送信できます。繰り返しになりますが、先ほど言ったように、ここには選択できる default model がありますが、各ステップで、どのモデルを呼び出すのかについて default model を上書きできます。現在、人々が構築しているのを見かけるほとんどの AI アプリケーションは複数のモデルを使用しており、通常は異なるプロバイダーのものを使用しています。
そして、私たちはそれをとても簡単に実行できるようにしています。彼らは自分自身のAPIキーすら必要ありません。これらはすべて、私たちのAPIキー上のマルチテナントにすぎません。そして、使用量に応じて請求するだけです。つまり、anthropicや、open AIやminstrel、metaなどを使って、それらにメッセージを送ることができます。
そして、ユーザーとして、システムとして、メッセージを送ることができます。その応答はユーザーに表示することも、変数に割り当てることもでき、それから他のものへとパイプで渡すようなことができます。もう一つできることは、このデータソースのエリアに行って、プラスを押し、データソースをアップロードしたり、ファイルをアップロードしてデータソースを作成したりできます。ズームインします。ここには、pdf、CSV、Excel、テキストdocなど、テキスト形式のものなら何でも、コンピューターから直接アップロードできます。
ここには上限を設定していますが、依頼すれば上限を引き上げることもできます。ただし、乱用防止のためのものです。とはいえ、50万語、最大150ファイルを同時に扱えます。ここでは1つだけアップロードします。たまたまここに、約60,000語の『the artof words』のテキストのコピーがあるので、openと言えます。そうするとすぐに、基本的にこれを取り込み、アップロードし、解析し、ベクトル埋め込みを作成し始めます。ここで進行状況を見ることができます。
そして、まもなくこれがベクトル化されると、テキストやベクトル埋め込みを閲覧したり、チャンクを見たりできるようになります。それからメインフローに戻ります。もちろん、これを本番でやるなら、単にそうしていたかもしれません。これを見ながら、クエリブロックの実装を始めたくはありませんでした。ただ、背後で起きていることを皆さんに見てもらいたかったのです。さて、当然ですが、これも完全に非技術者の人たちが使うことができます。
今では、何千人、いや何万人もの人たちが、これを使ってベクトル化を行うことを学んでいます。では、ほぼ140,000個のベクトルを作成しました。ここにある小さなものをクリックすると、先ほどと同じようにプレビューを見たり、抽出されたテキストを見たり、チャンクを見たり、生のベクトルを見たりできます。そして、この query data ブロックによって、このデータソースを参照してクエリできます。ソースを選び、出力変数名を与え、結果数を指定し、基本的にクエリテンプレートを作成して、必要なものを抽出できるようにします。
ここで他にできることとしては、カスタム関数を作成して実行することができます。まず、私たちの関数コミュニティを閲覧できます。これは、Zapierが6,000以上持っているようなものに少し似ています。私たちにはこれが3ダースほどありますが、ここから直接使っていただけます。ここでも、AirtableやCalendlyのようなもの、一般的なfetchリクエスト、画像生成、stable diffusion、dolly、YouTube、Google検索などが見えます。
また、自分自身の関数を作成して書き、テストし、そのようなことをすべてこのidの中で直接行うこともできます。そしてテストを作成し、実行し、ここで呼び出すことができます。また、例えばメニューのようなものを作成することもできます。メニューを作成すると、それらのメニューを使って複数のワークフローを作成し、ロジックブロックのようなものを呼び出すことができます。このすべてを通じて、これを実行する際にまだ存在しているエラーを確認できます。デバッガーがあるので、内容をトレースできますし、いつでもプレビューできます。
ドラフトと別のタブがあります。繰り返しますが、これらはWebアプリケーションのようなものにすぎません。そして、それらを公開できます。公開する際には、いくつかのメタデータを提供できます。ここはまた、APIキーを取得できる場所でもあります。これをヘッドレスAIとしてデプロイする場合は、これらを埋め込むことができます。
つまり、今では何千ものウェブサイトがこれらを自社サイトに直接埋め込んでいて、そして、ええと、主にカスタマーサービスや営業支援などを作っています。ええと、それから、あー、それから公開して、公開すると、ええと、URLが得られて、ウェブアプリケーションが手に入ります。で、そうですね、一般的には、ええと、繰り返しになりますが、そこにはもっと多くのことがありますが、ええと、皆さんはご自身の時間でそれを見つけて、深掘りできます。それは本当に素晴らしそうですね。ええと、次にぜひ知りたいのは、ロードマップ上のエキサイティングな機能にはどんなものがあるのか、ということだと思います。実は、ええと、Tomも同じ質問をされました。
ええと、my studioの機能を拡張するために何を計画しているのか、そしてAI開発の状況の変化するニーズを満たすために、それがどのように関わっていくと想定しているのか、ということです。うんうん。そうですね。まず最初に、Seanが触れて、私も触れたことで、もう一度取り上げたいのですが、本当に重要だと思うのは、私たちがどこに位置していると見ているのか、そしてどこに線を引いているのかを理解することです。つまり、私たちが作っている抽象化とは何なのか、ということです。なので、ええと、ええと、私たちはもちろん、ええと、これからずっと、AIスタックのさまざまなレイヤーにおけるイノベーション、そしてすでに見ているようなインフラとハードウェアのレイヤーにおけるイノベーションが、加速し続けると信じています。ええと、Nvidiaの株価が上がり続けていることや、計算資源への需要、そして、ええと、ラック密度や冷却、データセンターがこれを実行できるようにするために必要なあらゆることに関する多くのイノベーションがあります。ですから、そこでは継続的なイノベーションが続く可能性があります。
私たちはそこには一切関与していませんが、そのすべてを活用しており、それがどんどん速くなり、どんどん安くなっていくと想定しています。ええと、そのインフラレイヤーの上に、私たちはこの次のレイヤーをインテリジェンスレイヤーと呼んでいます。そしてインテリジェンスレイヤーには、すべてのモデル、今日のすべてのモデル、そして今後のモデルが含まれますが、そこもまた途方もない速さで進んでいます。もしその領域を追いかけることだけをしているとしても、毎週追いつくのは不可能で、大規模なイノベーションと変化が起きています。ご存じのように、2週間前はGPT-4 turboが注目のものでした。すると突然anthropicが、ええと、最新モデルをローンチして、突然みんなが「いや、切り替えなきゃ。それが最新モデルだ」と言い出す。そして、来週にはまた別のものになっているでしょう。
そしてまた、もちろんこの場合、ええと、AIモデルの場合という意味ですが、オープンソースは明らかに、この進化の中で非常に大きな役割を果たすことになります。ええと、ええと、それはすでに起きています。そして、それは今後も続き、さらに強くなると私たちは信じています。また、ええと、企業がこれらを実装し始めると、ほとんどのことには大規模言語モデルは必要ないのだと気づき始めます。小さなモデルを取り、それを継続的にファインチューニングできるようにしたほうが、はるかに役に立ちます。
それは、ええと、はるかに高性能で、低レイテンシで、自分で実行できるため、より良いセキュリティやコンプライアンスなどが得られます。ええと、それを新鮮に保ち、より頻繁に再学習させることができます。ですから、私たちはそのすべてが進化し続けると信じています。私たちはそのレイヤーにも関与していません。ご存じのように、私たちは意図的にその1つ上のレイヤーに位置しており、そこでそれらのレイヤーへのゲートウェイとなり、それらの上にあるアプリケーションレイヤーとして存在しています。ええと、そしてそこで勝者を選びたいとは決して思っていません。
単に、つまり、私たちのユーザーが現在、そして将来的に、その進化がどのように起ころうとも、そのすべての力を活用できるようにしたいのです。ええと、なので、なので、ええと、これで意味が通じるといいのですが。つまり、そこには非常に大きな変化が起こるでしょうが、Mind Studio は今それをサポートしており、今後もサポートしていきます。なぜなら、すべてのモデルは基本的に、つまり、クラウドの、従量制のクラウドサービスにすぎないからです。それらは、つまり、開発者や消費者がアクセスできるように意図されたものです。そして私たちはそのための抽象化レイヤーなのです。
わかりました。場所は、すみません、手短に、ETRI、ちょっと割り込んで、その点について共有したいと思いました。つまり、これはただ、視覚的に楽しいものなんです。今共有していると思いますが、これは先週リリースしたもので、Profiler と呼んでいます。Profiler が行うのは、同じ入力を複数の l oms に対して、または同じモデルに対して異なる設定で同時に実行できるようにすることです。実際に、ええと、私をですね、ええと、これらのモデル間の違いを、速度や出力、コストなどの観点から実際に可視化できるようにし、エンドユーザーが自分たちが何を使っているのかについて、より情報に基づいた選択をできるようにするためです。
というのも、こうした進歩について読んだり、ベンチマークや比較について読んだり、動画を見たりするのと、自分自身の具体的で独自のワークフローの中で自分の目で見られるのとは別物だからです。なので、こうしてそれらをすべて横並びで見ることができる、ちょっと楽しいものがあります。はい。そしてこれらをどんどん追加し続けることができます。
左下に、新しいプロファイルがあります。つまり、これらの多くを同時に実行できますし、Sean、それぞれでモデルを変更する場所を見せてください。そこをクリックするだけでモデルを選び、他のパラメータを選び、それで実行できます。はい。ええと、わかりました。
なので、はい、ちなみにこれは本当に強力なツールです。ええと、なので、少し隠れています。これらの workflows の中にあり、それからこの、ええと、ここにある中央のセクションで、profiler と呼ばれています。なので覚えておいてください。これも今はドキュメント化されていると思いますが、私たちはそのすべてに追いついているところです。
ええと、わかりました。なので、私たちが時間を費やしている場所は、AI のこのアプリケーションレイヤーにおける抽象化レイヤーです。そして私たちは、ええと、ええと、どんなモデルでもサポートできることにコミットしています。なぜなら、すべてのモデルは APIs 経由で呼び出せるからであり、それが私たちの使い方だからです。ええと、ちなみに、私たちがすでにサポートしている Anthropic、Google、Meta、ええと、Menstrual、ええと、OpenAI の新しいモデルが出たとき、ええと、もしそれらが私たちの起きている時間帯に出れば、私たちはリリース後15分で「すでにサポートされています」と発表する傾向があります。つまり、私たちはそれらをリストに入れ、VAP で呼び出せるようにします。そして、ええと、そしてなので、ええと、確認してください。もう一つは、繰り返しになりますが、特に多くの企業にとって明らかなのは、つまり、彼らは独自のモデルを使い、プライベートクラウドやオンプレミスなどに接続することになるということです。
そして今日では、彼らは定期的に、つまり、私たちに連絡してきてその方法を尋ねなければなりませんが、まもなく彼らがそれを行えるように、さらに簡単にします。これらのような、独自の API キーを設定し、この上で独自のモデルを呼び出す model settings よりも簡単にできるようにします。ええと、私たちは取り組んでいます。つまり、すべては当然稼働しており、これらの AI のうち 40,000 を超えるデプロイで使われていますが、まだ仕上げとして行うべき細かな作業がたくさんあります。そして今私たちが時間を費やしているのはそこです。より堅牢にし、より使いやすくし、ええと、ええと、企業がコンプライアンスの観点やプライバシーの観点から必要とするより多くの機能を提供することです。ええと、この多くは、つまり、ロギング、監査、ええと、そういったものは可能ですが、まだ彼ら側でいくらか作業を必要とします。私たちはそれを彼らにとってずっと簡単にするつもりです。ええと、これらすべての AI 利用についての企業内でのロギングです。
特に、すべての自動化を行い、カスタムの、ええと、企業ユーザー向けのカスタム業務アプリを作成し、彼らにこうした専門的な支援を提供した後には、それが企業全体を流れていく様子をすべて見ることができるようになります。ええと、それは今日では本当に価値のあるデータが大量にあるということです。それは保存されますが、それを使ってできることはあまりありません、少なくとも私たちを通じては。ええと、しかし近いうちに、うーん、私たちはそれにビジネスインテリジェンスのコンポーネントを構築し、企業がそのデータを見守り、ある種プロアクティブに監視して、あらゆる種類のことを検出しやすくする予定です。ええと、主に非効率性ですね、たとえば、多くのことを自動化したにもかかわらず、従業員が手作業で行っていることがまだたくさんあり、それらは自動化したいかもしれない、ついでに言えばそういうものも含めてです。
ええと、当然ながら、私たちにはアプリのフォームをある程度事前に作成し、「こちらがすでに作成された自動化です。デプロイしますか？」と言える機能があるでしょう。ええと、そういったことです。うーん、ですからこのビジネスインテリジェンスのものは、ええと、これらのモデルを活用するうえで大きなものです。申し上げたように、今日作成されているAIのほとんどはすでに、ええと、複数のモデルを使っており、多くの場合、異なるプロバイダーのモデルを使っています。しかし今日では、そのビルダー、その、その、AIを作成する人、つまり、ある企業のこのビジネスユーザーが、ええと、たとえば、このステップにはどのモデルを使うべきか、といった判断をする必要があります。そして私たちは、たとえばこのプロファイルやツールで彼らを支援し、比較したり、いろいろ試したり、制約を作成したり、それを行えるようにしていますが、うーん、確かに、それをもう少し、ええと、ええと、支援的で、ええと、知的なものにして、このプロセスのこのステップにはこのモデルが適切なモデルである、と提案できるようにするのは理にかなっています。そしてここにそのパラメータがあり、それを行うためにすでにある程度事前調整されています。
そうしたことについて考える必要はありません。ええと、もう一つ本当に強力で、私たちがさらに強力にしていくものがあります。それは、これらのモデルプロバイダーは調子が上がったり下がったりしがちだということです。つまり、信頼性はまだ少し不安定です。繰り返しますが、これは初期段階なので想定内です。ですから、ええと、いくつかのフェイルホエールが起こり、そして、企業は不満を言います。たとえば、「GPT-4を使っていたのにダウンしている」といった具合です。うーん、そして今日では、私たちは彼らがAIを開いて、それを切り替える、つまりドロップダウンで別のモデルに切り替えてそのまま進めることを簡単にしています。
うーん、しかし、ええと、確かに私たちはそれをはるかに良くし、自動フェイルオーバーとフォールトトレランス、そして最適化を持たせることができます。うーん、基本的には品質、レイテンシ、価格について、そしてそれを行う知的な方法です。ですから、それもまた一つの領域です。うーん、私たちは小さなチームなので、現時点では、ある程度限られたことを考えていますが、チームを拡大しているところですので、大きくなるにつれて、もう少し先のことまで夢見始めることになると思います。うん。ええと、残りは約1分です。
Davidの質問に答えてみましょう。ええと、たとえば、今から1年後または2年後の抽象化のユースケースの未来について、どう思いますか。JIはビジネスユーザーにとって徐々にもっと目に見えるものになるのでしょうか？あなたの意見は？ええと、すみません、これは、抽象化の未来とは何か、ええと、モデルが進化し、モデルの能力が進化するにつれて、ということですか？それが質問ですか？つまり、チェーンAIはビジネスユーザーにとってもっと見えないものになる、と思いますか？それで？おそらく、そうですね。うーん、つまり、私の考えでは、その趣旨としては、今日私たちが目にしている少しばかりのもの、つまりGoogle Docsに行って何かを書こうとすると、ほら、Microsoft Clippyの2024年版のようなものが「ねえ、これをするのにAIを使いたいですか？」と言ってくるようなものではなく、ツールやワークフローの中に、より自然に、直感的に組み込まれるようになるのか、ということだと思います。ええ、ええ。今日、AIは前面に出ていますよね、クールだからです。だから誰もがそれを前面に出していて、そして、繰り返しますが、人々がAIについて考える方法は、chat GPTのリリースによって条件づけられてきました。AIとはチャットボットであり、それとチャットするものだ、と。うーん、そして、それは単にそのようにパッケージ化されたからです。
もちろんAIはチャットボットではありません。うーん、そして、だから、ええと、人々はそれをこういうもの、つまり自分を支援してくれて、チャットできるものだと考えがちです。そしてそれを使ってアプリケーションを作るとき、それはワークフローに入れる、このモデルのようなものだと。ええと、ええと、ええと、時間が経つにつれて、そしておそらく、今の世界では2年というのは、そしてこの世界では非常に、非常に長い時間だと思いますが、ええと、AIはずっと目立たないものになり、そして、そして、舞台裏で物事を行うようになり、ほとんどのユーザーは、ああ、AIを使う必要がある、などとは決して考えなくなると確信しています。あるいは、ええと、どうやってAIで物事を作るのか、とか。つまり、組織を効率的に運営する責任を負う人たちですよね？なので、ええと、繰り返しますが、私たちが出向いていくときのターゲット、そして、ほら、私たちのものはすべてインバウンドです。
今日、先ほど述べたように、私たちには直接営業担当者がいません。ええと、しかし、たとえば、今、Mind Studioを使って企業向けにAIを構築し始めている代理店がたくさんあります。ITインテグレーション代理店などですね。そして彼らが外に出て、そして、そして、ほら、これらの、うーん、ええと、企業と話すとき、彼らは、AIをこの正しい方法で考えるように、ある種再教育しなければなりません。AIは、一般的に従業員が、ほら、考えたり、使い方を学んだりするものであるべきではない、ということです。誰かにプロンプトエンジニアリングを教える必要はありません。あなたは、自分の組織が効率的に運営できるようにする責任を負う人であり、オペレーションマネージャーであれ、時には今ではChief AI officerのような肩書きを持つ人であれ、あるいは、ええと、セールスイネーブルメント、または、ほら、カスタマーサポートイネーブルメントなどであれ。
あなたは、これらの組織内で業務効率に責任を負う人たちです。AIについて考えるべきなのは、あなたたちだけです。そしてAIとは単に、あなたが作成しているこれらのさまざまな種類のワークフローや、作成しているアプリに、ある種投入できるようなものにすぎません。そして、それはただそれらのことを行います。だから私は、うーん、非常に早い段階で、私たちがAIについてどのように考え、そして、そして、そして、AIとは何かと言うかという一般的な概念は、かなり、かなり劇的に変わると思います。
それはとても示唆に富んでいますし、ちょうど時間になりました。うーん、DmitriとChang、my studioのストーリーを共有してくださって、本当にありがとうございました。そして、ええと、近いうちにまた皆さんとお話しできればと思います。はい、お招きいただきありがとうございました。そして参加してくださった皆さん、ありがとうございました。ありがとうございます。
良い一日を。ありがとうございます。バイバイ、バイ。
Meet the Speaker
Join the session for live Q&A with the speaker
Dmitry Shapiro
CEO and Co-Founder of MindStudio
Dmitry Shapiro, the CEO of MindStudio, ran product on three machine learning teams at Google from 2012-2016, was CTO of MySpace Music, and built two other venture-backed companies (raising over $140M in venture capital).
Sean Thielen
CTO and Co-Founder of MindStudio
Sean Thielen is a self-taught developer who studied Literature in college. The two met on Hacker News, a social networking site geared towards technology entrepreneurs. Together they ushered in the new era of the metaverse by founding GoMeta in 2016 - a company way ahead of its time. Soon after they founded Koji, one of the most innovative interactive content companies. Now their latest venture, MindStudio is a platform that allows for rapid creation of model-agnostic AI-powered applications. MindStudio is being used by tens of thousands of AI developers inside of enterprises, government agencies, SMBs, non-profits, and more.