Glossary
Generative AI

Generative AI

Published Nov 18, 20243 分で読めます

TL;DR:ジェネレーティブAI（GenAI）とは、テキストや画像から音楽や動画に至るまで、新たなコンテンツを創造するために設計された人工知能技術のサブセットを指す。膨大な量のデータからパターンや特徴を学習し、この知識を利用してオリジナルの出力を生成することで動作する。主なGenAIの例としては、GPT（Generative Pre-trained Transformer）のようなテキストジェネレーター、DALL-Eのような画像クリエイター、音声合成システムなどがある。これらのAIモデルは、クリエイティブな作業を自動化し、生産性を向上させ、様々な産業におけるイノベーションを促進する能力として特に評価されている。しかし、誤解を招くような情報を生成する可能性や、著作権やオーサーシップに関する倫理的な懸念といった課題もある。

ジェネレーティブAIを解き明かす：機械はいかにしてテキスト、画像、アイデアを理解し、生成するのか？

単に命令に従うのではなく、機械が能動的に物語や音楽、芸術作品を創造する世界を想像してみてほしい。創造性とテクノロジーの限界を押し広げるジェネレーティブAIの助けによって、これは現実のものとなりつつある。

ここでは、ジェネレーティブAIの現在の用途、その運用、そしてこの技術とその広範な影響を理解するために提起される倫理的問題について議論する。

ジェネレーティブAIとは何か？

**ニューラル・ネットワーク](https://zilliz.com/learn/Neural-Networks-and-Embeddings-for-Language-Models)や機械学習アルゴリズムのような従来のAIモデルは、回帰や分類のようなタスクを実行するためにパターンを特定することに集中している。一方、ジェネレーティブAIは、音、画像、テキストなどのデータ内のつながりを認識することで、さらに一歩前進する。単に分類したり予測したりするのではなく、学習した内容に基づいて新たな資料を作成するために、これらの関係を利用するのである。

例えば、何千もの肖像画をトレーニングすることで、ジェネレーティブAIは特徴の配置や照明のスタイルといった顔の特徴を学習し、まったく新しい、しかしリアルな肖像画を作成できるようになる。テキスト生成では、ジェネレーティブAIは大量のテキストを分析し、流れやトーン、単語の選択を把握し、それを使ってオリジナルの文章やストーリーを構築する。

人気のある生成モデルには、テキスト生成のためのClaudeやGPT-4、テキストプロンプトからの画像生成のためのMidjourneyやDALL-E 3、Jukedeckなどがある。Jukedeckは、学習したパターンを応用してオリジナルの音楽を作曲する。

図-生成AIのアーキテクチャ-データから創造へ.png](https://assets.zilliz.com/Figure_The_Architecture_of_Generative_AI_From_Data_to_Creation_752202f9c1.png)

図：生成AIのアーキテクチャ：データから創造へ

ジェネレーティブAIの仕組み

ジェネレーティブAIの核心は、膨大な量のデータから学習し、根本的なパターンと関係を把握することである。実際にどのように機能するのかを紹介しよう。

データのパターンと分布の学習

生成モデルは、テキスト文書、音声記録、写真などの大規模なデータセットを調べ、さまざまな特徴がどのように共存しているかを判断する。自然言語処理](https://zilliz.com/learn/A-Beginner-Guide-to-Natural-Language-Processing)(NLP)では、モデルは単語がどのように組み合わさって文章を作り、意味を表現するかを学習する。この深い理解により、AIは自然で文脈に適したコンテンツを作り出すことができる。

新しいデータの生成

一旦モデルがこれらのパターンを内面化したら、新しいコンテンツを生成し始めることができる：

ランダムノイズの使用（画像用）：**拡散モデルと視覚的生成モデルは、ランダムノイズを生成し、一連のノイズ除去ステップを適用して首尾一貫した画像を作成することから始まります。このノイズ除去プロセスにより、拡散モデルは、本質的な学習データ要素を保持しながら、ユニークなビジュアルを生成することができます。
トークン化（テキスト用）：** テキスト生成では、モデルは文章をトークン（単語やフレーズ）に分解します。シーケンスの次のトークンを予測することで、AIは次から次へと論理的に流れる文章を構築する。

図-生成AIワークフロー.png

図生成的AIワークフロー

ジェネレーティブAIモデルの種類

ジェネレーティブAIの傘下にはさまざまなタイプのモデルがあり、新しいデータを生成するためのメカニズムも多種多様である。

生成的逆数ネットワーク（GAN）

Generative Adversarial Networks（GAN）は、生成AIにおける最も革命的なアプローチのひとつである。GANの中核は、創造的な決闘でロックされた2つのニューラルネットワークで構成されています。ジェネレーター**と呼ばれる1つ目は、リアルな画像や本物そっくりの動画など、学習データセットを模倣したデータを生成しようとする。もう一方は「識別器」と呼ばれ、実際のデータとジェネレーターの創作物を区別しようとする批評家として働く。この敵対的なプロセスを通じて、生成者は時間とともに改善し、識別者でさえ騙されるほどリアルなデータを作成することを学習する。GANは、超リアルな画像の生成、ディープフェイクの作成、機械学習タスクのためのデータ拡張などに使用されている。驚くほど詳細な人間の顔を生成するStyleGANや、画像をある領域から別の領域に変換する（写真を絵画に変えるなど）CycleGANのようなアプリケーションは、この技術の大きな可能性を示している。

変分オートエンコーダ(VAE)

GANが競合に依存するのに対して、変分オートエンコーダ（VAE）は、生成AIに対してより構造化されたアプローチをとる。VAEは入力データを圧縮された潜在空間にエンコードし、それをデコードして元のデータを再構築したり、新しいバリエーションを作成したりする。VAEを際立たせているのは、エンコードに対する確率的アプローチであり、潜在空間が滑らかで連続的であることを保証している。このためVAEは、ある顔を別の顔にモーフィングしたり、異なるオブジェクト間を補間したりするなど、データのバリエーションを生成するのに理想的である。生成だけでなく、VAEはデータ圧縮や異常検出などのタスクにも使用される。例えば、VAEは「正常な」データパターンをモデル化し、逸脱を強調することができるため、データセット内の不正や異常値を特定するのに役立つ。

拡散モデル

拡散モデル**は、生成AIの新しい波であり、画像生成のようなタスクで顕著な結果を提供する。これらのモデルは、インクの一滴が水中に広がるように、時間の経過とともに秩序が失われていく自然な拡散プロセスに着想を得ている。拡散モデルは、このプロセスを逆に学習する。ランダムなノイズから始まり、首尾一貫した現実的な出力が現れるまで、データを徐々に洗練していく。この反復的アプローチにより、非常に詳細で複雑なデータを生成することができる。拡散モデルの台頭は、Stable DiffusionやDALL-E 2のようなアプリケーションによって顕著であり、単純なテキスト記述から優れたビジュアルを生成するなど、画像合成の可能性を再定義した。

自己回帰モデル

自己回帰モデルは、テキスト、音楽、音声など、連続したデータがキーとなる状況に最適です。これらのモデルは各データ部分を一度に1ステップずつ予測し、将来の予測の入力として以前の出力を使用します。この逐次的な性質により、自己回帰モデルは、一貫性と文脈が重要なテキスト生成のようなタスクに最適です。例えば、GPT (Generative Pre-trained Transformer) のようなモデルは、人間の創造性を模倣して、エッセイや物語、さらにはコード・スニペットを書くことができる。音声の分野では、WaveNetが同じ原理を活用して、本物そっくりの音声や高品質の音声合成を生成している。首尾一貫した、文脈を意識したコンテンツを生成する能力により、自己回帰モデルは自然言語処理や生成タスクにおいて不可欠なものとなっている。

トランスフォーマー

Transformerベースのモデルは、現代の生成AIのバックボーンであり、関連する入力に焦点を当て、長距離の依存関係を捉えることを可能にする注意メカニズムを搭載している。その汎用性は、人間のようなテキストの生成（例：GPT-4）から、見事なビジュアルの作成（例：DALL-E）やオーディオの処理（例：Whisper）まで、複数の領域に及ぶ。トランスフォーマーは、データを効率的かつ文脈的に扱うことで、テキスト生成、画像合成、マルチモーダル・アプリケーションなどのタスクを実行するのに適している。ドメイン固有のモデルとは異なり、トランスフォーマーは様々なデータタイプに適応可能であるため、会話AIからクリエイティブなツールに至るまで、様々なアプリケーションに不可欠であり、ジェネレーティブAIイノベーションの礎石としての役割を確固たるものにしている。

ジェネレーティブAIは進化を続けており、各タイプのモデルがさまざまな創造的かつ実用的なアプリケーションに独自の強みと能力をもたらしている。実物そっくりの画像を生成する、音楽を作曲する、説得力のある物語を書くなど、特定のニーズと構築するアプリケーションによって選択は異なります。

従来のAIモデルとの比較

ジェネレーティブAIは、従来のAIアプローチとは一線を画している。これらの戦略を比較してみよう：


視点｜生成AI｜識別AI｜｜｜目的｜学習データに似た新しいデータを作成する
目的(Objective)｜学習データに類似した新しいデータを作成する｜入力データに基づいて結果を分類または予測する｜(Data Handling*)
データハンドリング｜データの分布全体を学習する｜クラス間の判断境界を学習する｜データハンドリング｜クラス間の判断境界を学習する｜データハンドリング**｜クラス間の判断境界を学習する
GAN、VAE、トランスフォーマー、拡散モデル、CNN、SVM、ランダムフォレスト、ロジスティック回帰
典型的な応用例｜画像合成、テキスト生成、音声合成｜画像分類、物体検出、テキスト分類｜学習要件**｜GAN、VAE、変換、拡散モデル｜CNN
学習要件｜詳細な特徴とパターンを持つ大規模なデータセット｜クラス間の明確な区別を持つラベル付きデータセット｜複雑なデータセット｜学習要件｜詳細な特徴とパターンを持つ大規模なデータセット｜クラス間の明確な区別を持つラベル付きデータセット
複雑さ｜多くの場合、より高い計算資源を必要とする｜一般的に計算負荷は低い｜｜長所｜｜*訓練に必要なデータセット
長所｜創造的なコンテンツ生成と現実的な合成が可能｜分類と予測タスクにおいて高い精度を誇る｜長所*｜創造的なコンテンツ生成と現実的な合成が可能｜分類と予測タスクにおいて高い精度を誇る

生成AI：利点と現実世界の課題

問題解決、デザイン、創造への創造的なアプローチにより、ジェネレーティブAIは様々な分野の専門家にとって有用なツールとして登場した。テキストを起草し、ビジュアルを生成し、音楽やコードで実験できるようにすることで、人々の働き方が変わる。しかし、こうした利点にもかかわらず、ジェネレーティブAIには現実的な課題がある。

利点

コンテンツ作成の自動化：**ジェネレーティブAIは、執筆、デザイン、音楽などのクリエイティブな作業をサポートする。作家はアイデアの下書きに使用し、デザイナーはプロジェクトを開始するためのパターンを作成する。ミュージシャンは、レコーディング前に新しい作曲を試すこともできる。これにより、人間の手を加えるスペースを残しながら、創造的なプロセスをスピードアップすることができる。
パーソナライズされた体験:** Generative AIは、ユーザーの興味にマッチしたオーダーメイドのレコメンデーションを行うのに役立つ。過去の行動を分析し、適切な広告やコンテンツを作成する。マーケティングやeコマースでは、このパーソナライズされたタッチが視聴者とのつながりを強化する。
ジェネレーティブAIは、特に研究や製品デザインにおいて、斬新なアイデアを生み出します。医薬品などの分野では、新しい化合物を提案することができる。このAI主導の創造性は、専門家がさらに改良できる出発点を提供します。
追加データの作成：**ジェネレーティブAIは、実データが乏しかったりコストが高かったりする分野の合成データを作成することができる。これはヘルスケアのような分野で価値があり、診断のためのモデル・トレーニングを助ける。合成データは、品質を維持しながらモデルを改善するのに役立ちます。

課題

幻覚: これは、モデルが不正確な、捏造された、または誤解を招くような情報を生成し、それが事実または正確なものとして提示される現象を指します。
データと計算能力への高い要求:** Generative AIは大規模なデータセットと高度な計算能力を必要とする。画像生成のような高解像度のタスクは、強力なハードウェアと長い学習時間を必要とする。これらの要求は、小規模なクリエイターや企業のアクセスを制限する可能性がある。
品質と一貫性の確保：ジェネレーティブAIで高品質のコンテンツを制作することは困難な場合があります。モデルは一貫性に苦しんだり、反復的な出力を作成したりすることがある。医療画像のような分野では、精度を維持することが不可欠です。
倫理的考察：*** ジェネレーティブAIは、バイアスや悪用の可能性など、倫理的な懸念を引き起こす。例えば、ディープフェイクは欺瞞的なコンテンツを作成する可能性がある。AIの出力を注意深く監視することが、誤報や不公正な行為を防ぐ鍵となる。
プライバシーとデータセキュリティ：*** Generative AIは大規模なデータセットに依存するため、プライバシーが危険にさらされる可能性がある。取り扱いを誤ると、機密情報がモデルによって繰り返される可能性がある。特にヘルスケアのような分野では、強力なプライバシー保護措置が不可欠です。
明確な規制の必要性：**ジェネレーティブAIが成長するにつれ、規制の必要性も高まる。倫理基準やガイドラインは、AIが社会に利益をもたらすことを保証するのに役立つ。明確なルールは、誤った情報の拡散やスパムの生成といった悪用を減らす。

検索拡張生成（RAG）とGenAI

多くの生成モデル、特に大規模言語モデル（LLM）は、様々なタイプのコンテンツを生成する上で強力だが、限界がある。最大の課題のひとつは「幻覚」の問題であり、これはモデルが誤った、捏造された、または誤解を招く情報を生成し、それが事実または正確なものとして提示される現象を指す。これは、生成モデルがオフラインの一般に入手可能なデータで学習されるため、最新のデータや独自のデータに関連するコンテンツを生成できないためである。

検索拡張生成（RAG）は自然言語処理における方法論であり、生成モデルを検索コンポーネントと統合することによって、生成モデルの能力を強化する。このアプローチにより、モデルは動的に外部情報を取得し、取得したデータと内部知識の両方に基づいて応答を生成することができる。

RAGシステムは、Milvusのようなベクトルデータベース、埋め込みモデル、大規模言語モデル(LLM)から構成される。RAGシステムは、まず埋め込みモデルを用いて文書をベクトル埋め込みに変換し、ベクトルデータベースに格納する。次に、このベクトルデータベースから関連するクエリ情報を検索し、検索結果をLLMに提供する。最後に、LLMは検索された情報をコンテキストとして利用し、より正確な出力を生成する。

図- RAGワークフロー.png](https://assets.zilliz.com/Figure_RAG_workflow_5bfbcccddf.png)

よくある質問

**1.ジェネレーティブAIは何を作ることができますか？テキストだけですか？

ジェネレーティブAIはテキストだけでなく、3Dモデルや音楽、写真、動画など、事例からパターンを組み合わせて音楽や風景など独自のコンテンツを生成することができます。

**2.ジェネレーティブAIは他のAIツールとどう違うのですか？

ジェネレーティブAIは、新しい画像やストーリーのようなオリジナルのコンテンツを作成するのに対し、標準的なAIは、猫の識別のような既存のデータの認識や予測を主に行う。

**3.ジェネレーティブAIに倫理的な問題はありますか？

ジェネレーティブAIに関する懸念には、プライバシーの問題や、学習データからバイアスが強化される可能性などがある。ディープフェイクのようなリアルな画像や動画を作成することができるため、誤報や不公正な行為を防ぐために責任ある使用が不可欠となる。

**4.ジェネレーティブAIは最近どこで使われ、どのようなインパクトを与えているか？

ジェネレーティブAIは、カスタマーサービス、ヘルスケア、ゲーム、音楽など様々な分野で活用されている。迅速なソリューションを提供し、業界を超えた革新的なアプローチを促進する。

**5.ベクターデータベースとは何なのか、なぜジェネレーティブAIに不可欠なのか？

ベクトル・データベースは、ジェネレーティブAIに不可欠な複雑なデータ・パターンを保存し、リアルタイムのコンテンツ生成のための迅速な情報検索を可能にし、文脈に沿った正確な結果を向上させる。