ドメイン固有モデルとエージェント型AIによる産業問題解決：半導体製造のケーススタディ
半導体産業は岐路に立たされており、最先端の製造施設を設立・運営するための専門知識が決定的に不足している。このギャップはプロジェクトのスケジュールに影響を与え、コストを押し上げ、複雑さを増す成長分野での技術革新を制限している。
先ごろ開催されたSF Unstructured Data Meetupでは、業界の専門家であるAitomaticのChristopher Nguyen とShruti Raghavan が、AIがこの専門知識のギャップをどのように埋めることができるかを探求した。彼らの洞察は、ドメインに特化したモデルとエージェント型AIシステムが、いかにして専門知識を獲得し、共有し、適用できるかを明らかにし、業界に前進の道を提供した。この記事では、彼らの重要なポイントを振り返り、最も人気のあるベクトルデータベースであるMilvusが産業AI領域でどのように使用できるかを議論する。まずは、専門性の課題を経験している企業の実例から見ていきましょう。YouTubeで講演のまとめを見る。
AitomaticのChristopher NguyenとShruti Raghavanが9月のSF Unstructured Data Meetup with the AI Allianceに登壇した際の様子](https://assets.zilliz.com/DSC_0599_891b2d9c45.JPG)
.専門知識の挑戦：つのプロジェクトの物語
クリストファーは、台湾セミコンダクター・マニュファクチャリング・カンパニー（TSMC）による2つの類似プロジェクトの成果を対比することで、専門知識の不足を説明した。どちらのプロジェクトも同じ技術を使用し、同等の資金援助を受けているが、その進捗状況は大きく異なっている。日本の九州では、建設中の施設は順調に進んでいる。一方、アリゾナ州フェニックスにあるものは、現地の専門家不足のために困難に直面している。
この格差は、技術的・資金的リソースが同程度であっても、専門知識や経験の有無がいかにプロジェクトの成果に大きな影響を与えるかを浮き彫りにしている。この対比は、半導体業界がこのような専門知識の格差をどのように緩和できるのか、そしてAI主導のソリューションは拡張可能な答えを提供できるのか、という重要な問題を浮き彫りにしている。
特殊産業における汎用AIの限界
汎用大規模言語モデル(LLM)は、様々な領域でその能力を発揮しているが、特殊な産業用途では不足することが多い。半導体製造では、必要な知識はこれらの汎用モデルの範囲を超えている。
専門的な文脈における一般的なLLMのアウトプットは、新卒者のそれに匹敵し、広範な知識は持っているが、熟練したプロフェッショナルの深く経験的な専門知識には欠けている。この限界は、長年の実地経験に基づく微妙な理解と意思決定を必要とする複雑な製造プロセスを扱うときに明らかになる。
例えば、フォトリソグラフィ（シリコンウェーハ上に回路パターンを形成する）、エッチング（ウェーハ表面から材料を選択的に除去する）、化学的機械的平坦化（CMP、ウェーハ表面を平坦化し研磨する）などの半導体製造プロセスでは、理論的な知識だけでなく、さまざまなパラメータが実際のシナリオでどのように相互作用するかを理解する必要があります。
一般的なAIの能力と半導体製造の微妙なニーズとのギャップを埋めるには、このような分野に特化したモデルが重要になります。
半導体製造のためのドメイン固有言語モデル
汎用的なLLMの限界に対処するため、半導体分野向けの業界固有モデルが開発されている。半導体分野に特化したAI AllianceのオープンソースプロジェクトであるSemiKongは、そのようなモデルの一例である。このような特化型モデルは、半導体業界が直面する特有の課題に対処するために、ドメイン固有の知識を組み込むことを目的としている。
SemiKongの特徴は以下の通り：
1.業界固有の学習データ：このモデルは、研究論文、技術文書、業界レポートなど、半導体関連のテキストで学習されます。
2.業界特有の事前学習：半導体業界の知識を活用した事前学習アプローチを採用しています。
3.業界関連タスクでの性能：SemiKongは、半導体特有のタスクで汎用LLMとベンチマークを実施。
4.独自モデルの基礎：組織はSemiKongを出発点として、それぞれの製造プロセスや課題に合わせたモデルを構築することができます。
SemiKongはオープンソースの基盤の上に構築されているため、業界で使用されている既存のAIワークフローやツールとの統合が可能です。
産業アプリケーションのための高度なAIアーキテクチャ
Aitomaticは、SemiKongのようなモデルに特化した機能をベースに、Open Small Specialist Agents（OpenSSA）アーキテクチャを開発しました。このアプローチは、SemiKongに組み込まれた深い業界知識を活用し、単純な情報検索から能動的な問題解決に至るまで、半導体製造における複雑な意思決定が可能なエージェント型AIシステムを構築します。
OpenSSAは、効率的な知識管理、問題解決、専門家のフィードバックの統合を可能にする、相互に接続されたいくつかのコンポーネントを通じて動作します：
ナレッジキャプチャシステムの基盤は、プロセスエンジニアや装置の専門家など、各分野のスペシャリストから専門知識を収集することから始まります。この専門家のインプットは、2つの重要なリポジトリに保存されます：
1.知識ストア：知識ストア**：これらの専門家から提供された詳細な洞察を保持し、システムが問題に対処する際に活用できる。
2.プログラム・ストア：ナレッジストアと並んで、このリポジトリには、繰り返し発生する製造上の課題を解決するために設計された、再利用可能なプログラムやソリューションテンプレートが格納されています。
これらのリポジトリを合わせて、システムの問題解決能力のバックボーンを形成し、業界固有の情報や実績のあるソリューションの豊富な情報源を提供します。
エージェントの問題解決*取り込まれた知識に基づいて、システムのAIエージェントは、新しい問題にも慣れ親しんだ問題にも取り組むことができる。課題に直面したとき、知識ストアから情報を参照して新しい問題定式化を作成するか、以前に同様の問題に遭遇したことがある場合、プログラム・ストアから既知の解決策を検索することができます。
知識と問題認識をシームレスに統合することで、システムはそれぞれの状況に合わせた戦略を開発し、効果的な解決策が常に手の届くところにあることを保証する。
プログラムの実行*一度解決策が策定されると、それが新しいアプローチであろうと既知のものであろうと、システムは実行に移る。ここで、製造実行システム（MES）のような現実の製造環境とインターフェイスし、これらのソリューションを直接実装します。実行段階は、システムの問題解決プロセスの集大成となる。
専門家のフィードバック*AIがソリューションを実行した後、人間の専門家が結果をレビューし、重要なフィードバックを提供します。このフィードバック・ループにより、システムは実世界の専門知識に基づいた状態を維持し、各実行から学び、将来の戦略を洗練させることができます。専門家のインプットは、進化する製造の課題に対するAIの理解を向上させます。
知識の更新*専門家からのフィードバックは、知識とプログラムストアの両方を更新するために使用され、AIシステムが継続的に改善されることを保証します。
OpenSSAアーキテクチャは、半導体製造における複雑な問題を解決するために、広範な言語モデル能力と特定のドメイン専門知識の両方を活用できるAIエージェントを作成することを目指しています。例えば、AIエージェントは、ガス流量、チャンバー圧力、RFパワー設定などの複数の要因を考慮し、知識ベースと問題解決能力を活用して最適なパラメーターを提案することで、プラズマエッチングプロセスの最適化を支援することができる。
AIエージェントの動きを見るには、このビデオをご覧ください。
階層的タスクプランニングと反復的意思決定
OpenSSAのようなアーキテクチャを使用して開発されたAIエージェントは、洗練された問題解決戦略を採用している。RobertとShrutiは、AIが、半導体製造の変動する条件に適応するために重要な、階層的タスクプランニングと反復的意思決定を通して、どのように問題解決にアプローチできるかを紹介した。
AIエージェントの問題解決アプローチは、2つの重要な側面から構成されている：
**階層的タスクプランニング
階層的タスクプランニングは、複雑なタスクをより小さく管理可能なサブタスクに分解する。このアプローチは、タスクとサブタスクのツリー状の構造を作成し、AIが複雑な製造プロセスを効率的に管理することを可能にします。
例えば、化学蒸着（CVD）プロセスを最適化する場合、AIは以下のサブタスクに分解します：
ガス流量の調整
チャンバー温度の制御
蒸着時間の最適化
膜厚のモニタリング
これらの各サブタスクは、必要に応じてさらに分割することができ、タスクの複数レベルの階層を作ることができる。この構造により、AIは複雑な問題に体系的に取り組むことができ、プロセスのあらゆる側面に確実に対処することができます。
**反復的意思決定 (OODAループ)
AIは、OODAループ（Observe、Orient、Decide、Act）として知られる反復的意思決定プロセスを採用し、タスク階層の各レベルでの行動をガイドします。この継続的なサイクルにより、AIは変化する状況にリアルタイムで適応することができる：
観察する：AIはセンサーや製造システムからデータを収集し、プロセスの現状に関する関連情報を収集する。
方向付ける：収集したデータを、過去のデータや既知のパラメータを考慮しながら、現在の製造プロセスの文脈で分析する。
決定する：分析結果に基づいて、AIはさまざまな選択肢とその潜在的な結果を考慮しながら、取るべき最善の行動を選択します。
実行する：選択されたアクションが実行され、製造プロセスに影響を与える。
このサイクルは継続的に繰り返され、AIは製造環境の変化に動的に対応することができる。例えば、CVDプロセス中にAIがガス流量の予期せぬ変化を検出した場合、AIは他のパラメーターを迅速に調整し、最適な成膜条件を維持することができる。
このように階層的なプランニングと反復推論を組み合わせることで、AIは産業環境における複雑で多面的な問題を効果的に処理することができる。ハイレベルな戦略的プランニングと、オペレーションレベルでの迅速で戦術的な意思決定の両方を可能にする。これは、プラズマエッチングのような半導体製造プロセスの最適化など、実用的なアプリケーションのバックボーンを形成する。
実用的なアプリケーションAIによるエッチングプロセスの最適化
これらのAIアプローチの実用的なアプリケーションは、エッチングプロセスの最適化である。エッチングは、半導体製造における重要な工程であり、シリコンウエハーの特定の領域を除去して、チップの機能に必要な複雑なパターンを作成します。Aitomaticは、ドメイン固有の言語モデルとOpenSSAアーキテクチャを組み合わせたシステムを開発し、半導体製造能力を強化しています。
図1- エッチング・アドバイザー・アーキテクチャ.png](https://assets.zilliz.com/Figure_1_Etching_Advisor_Architecture_85795ddf85.png)
図1: エッチング・アドバイザ・アーキテクチャ
AIが支援するエッチング最適化システムのレイヤーアーキテクチャで何が起きているのかを見てみよう：
1.基本層：この基礎層は、基本的な推論能力と一般的な言語理解を提供する。エンジニアからの自然言語クエリーを処理し、基本的な製造データを解釈することができます。
2.**ミドルレイヤーこのレイヤーは、ドメイン固有の概念を理解し、企業固有の知識を統合します。アスペクト比（エッチングされた特徴の深さと幅の比率）や選択性（ある材料を他の材料より速くエッチングする能力）のような専門用語を理解し、企業独自のプロセスレシピを組み込むことができます。
3.最上層：このレイヤーは、高度な問題解決能力を提供し、半導体エッチングにおける専門家レベルの知識をカプセル化します。複雑なマルチステップエッチング戦略を提案し、マスク侵食やエッチング停止などの潜在的な問題を予測し、予防策を推奨することができます。
各レイヤーは、その下のレイヤーの能力の上に構築され、システムは、一般的な知識と専門的な専門知識を組み合わせることにより、複雑なエッチングプロセスに対して詳細な推奨を提供することができます。例えば、メモリチップのディープトレンチエッチングを最適化する場合、システムは、側壁のパッシベーションを改善するために混合ガスを調整することを提案したり、ノッチングを防止するために特定のパワーサイクル戦略を推奨したり、残留物を除去するためのエッチング後処理を提案したりします。
こうしたAIシステムが効率的に機能するためには、堅牢なデータ管理ソリューションが必要だ。そこで、様々な目的のために複雑な製造データの効果的な検索と保存を可能にする高性能ベクトル・データベースであるMilvusが重要な役割を果たしている。
産業用AIにおけるMilvusの役割
Milvusは、産業環境、特に半導体製造における高度なAIアプリケーションを実現する上で重要な役割を果たしている。特にSemiKongのようなドメインに特化した言語モデルでRAG（Retrieval-Augmented Generation）を実装する場合、その特徴と機能は最新のAIシステムの複雑なデータと検索のニーズを処理するのに適しています。
産業アプリケーション向けMilvusの主な特徴
1.マルチテナント**：Milvusは、複数のユーザーやアプリケーションが互いに干渉することなく、同じシステム上で作業することを可能にします。半導体製造においては、異なるチームや製造ラインが同じインフラを共有しながら、特定のデータにセキュアにアクセスすることができます。
2.ハードウェア・アクセラレーテッド・コンピュート：様々なハードウェア環境（AVX512、SIMD用Neon、GPUアクセラレーションを含む）に最適化されたMilvusは、リソース集約的なタスクに高速処理を提供します。これは、複雑な製造データのリアルタイム分析や、プロセス最適化のためのAIモデル推論に特に有効です。
3.言語とAPIのサポート：Python、Java、Golang、NodeJSなどをサポートするMilvusは、さまざまな開発環境や既存の産業用ソフトウェアエコシステムとシームレスに統合できます。
4.スケーラブルで弾力的なアーキテクチャ：Milvusは、半導体製造データが長期的に増大するにつれて、過去のプロセスデータが蓄積されても一貫したパフォーマンスを保証し、需要に応じて自動的に拡張します。
5.多様なインデックスをサポート：Milvusは複数のインデックスタイプ(例:HNSW、PQ、バイナリ、DiskANN)をサポートしており、製造データの保存および検索方法を柔軟に変更することができます。これにより、特定の製造シナリオに関連する情報を効率的に検索できる。
6.調整可能な一貫性：一貫性レベルを調整できるため、半導体メーカーは、さまざまな製造プロセスや品質管理要件の特定のニーズに基づいて、クエリー性能とデータ精度のバランスをとることができます。
半導体製造向けRAGシステムにおけるMilvus
MilvusとSemiKongのようなドメインに特化したLLMを使用して半導体製造向けのRAGシステムを実装する場合、プロセスは次のようになります：
1.知識ベース作成：
技術文書、研究論文、製造ログからベクトル埋め込みを作成する。
これらはMilvusに保存され、最適な保存と検索のためにMilvusの多様なインデックスサポートを活用する。
2.クエリ処理：
エンジニアは問題の説明（例：予期せぬエッチングレートの変動）を入力します。
クエリはベクトル表現に変換されます。
3.**検索
Milvusはハードウェアアクセラレーテッドコンピューティング機能を使って類似検索を行う。
高度な検索手法（例：トップK ANN、範囲ANN、フィルタリング検索）を採用し、最も関連性の高い過去の事例や文書を検索する。
マルチテナントにより、許可されたデータのみがアクセスされることを保証します。
4.拡張と生成：
取得された情報は元のクエリと組み合わされ、SemiKong LLMに入力される。
SemiKongは半導体の知識と検索された特定の情報を組み合わせて応答を生成します。
5.連続学習：
- 新しいケースやソリューションがMilvusデータベースに追加され、そのスケーラブルなアーキテクチャを活用して知識ベースが成長してもパフォーマンスを維持します。
様々な産業ユースケースにおけるMilvusテクノロジー
1.**コンピュートタイプ様々なハードウェア環境に対応するMilvusの最適化により、様々な産業用途における高速処理とコスト効率の高いスケーラビリティを実現します。
2.**検索タイプ幅広い検索方法により、類似した製造不良の特定、プロセスパラメータのマッチング、関連文書の検索など、特定の産業ニーズに合わせた検索機能を実現します。
3.**インデックスタイプMilvusは15種類のインデックスタイプを用意しており、様々な産業データセットやクエリパターンに対して、パフォーマンス、精度、コストのバランスを取るためのオプションを提供します。
産業用AIにおけるMilvusの利点
意思決定の強化**：関連情報の迅速かつ正確な検索を可能にすることで、Milvusは複雑な製造環境におけるデータ駆動型の意思決定をサポートします。
効率性の向上**：ハードウェアアクセラレーションと最適化されたインデックスにより、リアルタイムの産業アプリケーションに不可欠なクエリ処理の高速化を実現します。
スケーラビリティ**：産業用データ量の増大に伴い、Milvusのエラスティックなアーキテクチャは、頻繁なシステムのオーバーホールの必要なく、一貫したパフォーマンスを保証します。
柔軟性様々なプログラミング言語やAPIをサポートしているため、既存の産業用システムやワークフローとの統合が容易です。
データ・セキュリティ**：マルチテナント機能により、共有の製造または研究環境における安全なデータの取り扱いが可能です。
RAGシステムにおけるMilvusの能力とドメイン固有のLLMを活用することにより、半導体製造のような産業は、問題解決、プロセス最適化、知識保存のための強力なツールを作成することができます。この技術の組み合わせは、現代の産業環境における専門知識不足と複雑なデータ管理という課題に対処します。
半導体産業とそれ以外への示唆
ドメインに特化した言語モデル、エージェント型AIシステム、ベクトルデータベースの組み合わせは、半導体産業やその他の複雑な製造部門にいくつかの示唆を与える：
1.専門知識不足への対応：これらのAIシステムは、経験豊富な専門家の知識を取り込み、広めることができるため、専門家の引退や人材不足の影響を緩和するのに役立つ。これは、アリゾナ州のTSMCプロジェクトのように、地元の半導体製造の専門知識が限られているような地域では極めて重要である。
2.製造プロセスにおけるイノベーションの加速：膨大な量のデータを素早く分析し、最適化を提案することで、AIは製造技術の開発と改良を加速できる。これは、極端紫外線（EUV）リソグラフィや3Dチップ積層などの新技術の迅速な導入につながる可能性がある。
3.高度な専門知識を組織全体でより利用しやすくする：AIシステムは、経験の浅いスタッフに専門家レベルのアドバイスを提供し、知識を民主化することで、企業のあらゆるレベルでの意思決定を改善することができる。
4.**カスタマイズされた独自のAIシステムの構築が可能になる：企業は、これらのAI基盤の上に、特定の製造プロセスに合わせたシステムを構築することができ、潜在的に競争力を提供することができる。
5.企業が新しい地域で事業を確立するのを助ける：AIシステムは、知識とベストプラクティスを新しい施設に移転するのに役立ち、半導体産業の経験が少ない地域での製造事業立ち上げの課題を緩和する可能性がある。
6.プロセスの最適化と効率の向上：製造プロセスの継続的な分析と最適化は、歩留まりの向上、無駄の削減、全体的な効率の向上につながります。これは、歩留まりのわずかな改善でも大幅なコスト削減につながるこの業界では極めて重要です。
7.予知保全と品質管理の改善：AIは機器の故障や品質問題を事前に予測することができるため、予防的なメンテナンスが可能になり、安定した製品品質を確保することができます。これは、装置のダウンタイムや欠陥が非常に大きなコストとなる半導体製造において特に重要である。
8.新技術への迅速な適応：新しい製造技術が登場すると、AIシステムはその知識を素早く取り入れることができ、最先端技術の迅速な導入を可能にする。この俊敏性は、技術の進歩が速い半導体業界では極めて重要である。
結論
ロバートソンとシュルティは、ドメイン固有のAIとOpenSSAのような高度なアーキテクチャが、半導体製造における専門知識のギャップをどのように埋めることができるかを紹介する上で、素晴らしい仕事をした。Milvusを統合することで、ベクトルデータ管理のための強力なツールが、高度に専門化された産業において、正確でリアルタイムのソリューションを提供するAIの能力をいかに高めることができるかがわかる。彼らの洞察は、適切なテクノロジーさえあれば、最も複雑な分野でもAIを活用して効率的にプロセスを革新し、最適化できることを強調している。
読み続けて
Vector Databases vs. NoSQL Databases
Use a vector database for AI-powered similarity search; use NoSQL databases for flexibility, scalability, and diverse non-relational data storage needs.
Semantic Search vs. Lexical Search vs. Full-text Search
Lexical search offers exact term matching; full-text search allows for fuzzy matching; semantic search understands context and intent.
Stop Waiting, Start Building: Voice Assistant With Milvus and Llama 3.2
We'll learn to build a Voice Assistant, a specialized Agentic RAG system designed for voice interactions, with Milvus, Llama 3.2, and other GenAI tools.