Решение промышленных задач с помощью предметно-ориентированных моделей и агентного ИИ: пример из практики производства полупроводников
Полупроводниковая отрасль находится на перепутье, сталкиваясь с критической нехваткой специализированной экспертизы для создания и эксплуатации передовых производственных мощностей. Этот разрыв влияет на сроки проектов, повышает затраты и ограничивает инновации в растущей области, которая становится всё более сложной.
Во время недавней SF Unstructured Data Meetup отраслевые эксперты Christopher Nguyen и Shruti Raghavan из Aitomatic рассмотрели, как ИИ может преодолеть этот разрыв в экспертизе. Их идеи показали, как доменно-специфичные модели и агентные системы ИИ могут фиксировать, распространять и применять специализированные знания, предлагая отрасли путь вперёд. В этой статье будут обобщены их ключевые тезисы и рассмотрено, как Milvus, самая популярная векторная база данных, может использоваться в области промышленного ИИ. Начнём с реального примера компании, столкнувшейся с проблемой экспертизы. Посмотрите краткий обзор выступления на YouTube.
Christopher Nguyen и Shruti Raghavan из Aitomatic выступают на сентябрьской SF Unstructured Data Meetup с AI Alliance
Проблема экспертизы: история двух проектов
Christopher проиллюстрировал нехватку экспертизы, сопоставив результаты двух похожих проектов компании Taiwan Semiconductor Manufacturing Company (TSMC). Оба проекта используют идентичную технологию и имеют сопоставимое финансовое обеспечение, однако их прогресс существенно различается. На Кюсю, Япония, строящийся объект успешно продвигается вперёд. С другой стороны, объект в Финиксе, Аризона, сталкивается с трудностями из-за нехватки местной экспертизы.
Это различие подчёркивает, насколько доступность специализированных знаний и опыта может существенно влиять на результаты проектов, даже когда технологические и финансовые ресурсы схожи. Этот контраст поднимает ключевой вопрос: как полупроводниковая отрасль может уменьшить такие различия в экспертизе, и могут ли какие-либо решения на основе ИИ дать масштабируемый ответ?
Ограничения универсального ИИ в специализированных отраслях
Универсальные большие языковые модели (LLM) продемонстрировали возможности в различных областях, но часто оказываются недостаточными в специализированных промышленных приложениях. В производстве полупроводников необходимые знания выходят за рамки возможностей этих универсальных моделей.
Результаты универсальных LLM в специализированных контекстах сопоставимы с результатами недавнего выпускника — обладающего широкими знаниями, но лишённого глубокой, основанной на опыте экспертизы опытного профессионала. Это ограничение становится очевидным при работе со сложными производственными процессами, которые требуют тонкого понимания и принятия решений на основе многолетнего практического опыта.
Например, процессы производства полупроводников, такие как фотолитография (создание схемных рисунков на кремниевых пластинах), травление (избирательное удаление материалов с поверхности пластины) и химико-механическая планаризация (CMP, выравнивание и полировка поверхности пластины), требуют не только теоретических знаний, но и понимания того, как различные параметры взаимодействуют в реальных сценариях.
Именно здесь предметно-ориентированные модели становятся критически важными для преодоления разрыва между общими возможностями ИИ и специфическими потребностями производства полупроводников.
Предметно-ориентированные языковые модели для производства полупроводников
Чтобы устранить ограничения LLM общего назначения, для полупроводниковой отрасли разрабатываются отраслевые модели. SemiKong, проект с открытым исходным кодом от AI Alliance, ориентированный на полупроводниковую отрасль, является примером такой модели. Эти специализированные модели призваны включать предметно-ориентированные знания для решения уникальных задач, с которыми сталкивается полупроводниковая индустрия.
Возможности SemiKong включают:
Отраслевые обучающие данные: Модель обучается на текстах, связанных с полупроводниками, включая научные статьи, технические документы и отраслевые отчеты.
Предметно-ориентированное предварительное обучение: Модель использует подходы к предварительному обучению, которые задействуют знания полупроводниковой отрасли.
Производительность в отраслевых задачах: SemiKong сравнивается с LLM общего назначения в задачах, специфичных для полупроводников.
Основа для проприетарных моделей: Организации могут использовать SemiKong как отправную точку для создания моделей, адаптированных к их конкретным производственным процессам и задачам.
SemiKong построен на основах с открытым исходным кодом, что позволяет интегрировать его с существующими рабочими процессами и инструментами ИИ, используемыми в отрасли.
Продвинутые архитектуры ИИ для промышленных приложений
Опираясь на специализированные возможности таких моделей, как SemiKong, Aitomatic разработала архитектуру Open Small Specialist Agents (OpenSSA). Этот подход использует глубокие отраслевые знания, встроенные в SemiKong, для создания агентных систем ИИ, способных к сложному принятию решений в производстве полупроводников, выходя за рамки простого поиска информации к активному решению проблем.
OpenSSA работает через несколько взаимосвязанных компонентов, которые обеспечивают эффективное управление знаниями, решение проблем и интеграцию экспертной обратной связи:
Сбор знанийОснова системы начинается со сбора экспертных знаний от специалистов предметной области, таких как инженеры-технологи и эксперты по оборудованию. Этот экспертный вклад хранится в двух ключевых репозиториях:
Хранилище знаний: Оно содержит подробные сведения, предоставленные этими специалистами, которые система может использовать при решении проблем.
Хранилище программ: Наряду с хранилищем знаний этот репозиторий содержит повторно используемые программы или шаблоны решений, предназначенные для решения повторяющихся производственных задач.
Вместе эти репозитории формируют основу возможностей системы по решению проблем, предоставляя богатый источник отраслевой информации и проверенных решений.
Решение проблем агентамиОпираясь на собранные знания, ИИ-агенты системы могут решать как новые, так и знакомые проблемы. Столкнувшись с задачей, она может либо создать новую формулировку проблемы, обращаясь к информации из хранилища знаний, либо искать известные решения в хранилище программ, когда подобная проблема уже встречалась ранее.
Благодаря бесшовной интеграции знаний с распознаванием проблем система разрабатывает стратегии, адаптированные к каждой ситуации, обеспечивая постоянную доступность эффективных решений.
Выполнение программыПосле того как стратегия решения сформулирована, будь то новый подход или известный, система переходит к выполнению. На этом этапе она взаимодействует с реальными производственными средами, такими как Manufacturing Execution Systems (MES), чтобы напрямую внедрить эти решения. Этап выполнения знаменует кульминацию процесса решения проблем системой.
Экспертная обратная связьПосле того как ИИ выполняет решение, эксперты-люди анализируют результаты и предоставляют критически важную обратную связь. Этот цикл обратной связи обеспечивает привязку системы к реальному экспертному опыту, позволяя ей учиться на каждом выполнении и совершенствовать свои будущие стратегии. Экспертный вклад улучшает понимание ИИ развивающихся производственных задач.
Обновления знанийЗатем экспертная обратная связь используется для обновления как хранилищ знаний, так и программ, обеспечивая непрерывное совершенствование системы ИИ.
Архитектура OpenSSA направлена на создание AI-агентов, которые могут использовать как широкие возможности языковых моделей, так и специфическую доменную экспертизу для решения сложных задач в производстве полупроводников. Например, AI-агент может помогать оптимизировать процесс плазменного травления, учитывая множество факторов, таких как скорости потоков газов, давление в камере и настройки RF-мощности, опираясь на свою базу знаний и возможности решения задач для предложения оптимальных параметров.
Чтобы увидеть AI-агента в действии, посмотрите это видео.
Иерархическое планирование задач и итеративное принятие решений
AI-агенты, разработанные с использованием архитектур вроде OpenSSA, применяют сложные стратегии решения задач. Роберт и Шрути показали, как ИИ может подходить к решению задач с помощью иерархического планирования задач и итеративного принятия решений, что критически важно для адаптации к изменчивым условиям производства полупроводников.
Подход AI-агента к решению задач состоит из двух ключевых аспектов:
Иерархическое планирование задач
Иерархическое планирование задач предполагает разбиение сложных задач на более мелкие, управляемые подзадачи. Этот подход создает древовидную структуру задач и подзадач, позволяя ИИ эффективно управлять сложными производственными процессами.
Например, при оптимизации процесса химического осаждения из газовой фазы (CVD) ИИ разбивает его на следующие подзадачи:
Регулировка скоростей потоков газов
Контроль температуры камеры
Оптимизация времени осаждения
Мониторинг толщины пленки
Каждая из этих подзадач при необходимости может быть дополнительно разделена, создавая многоуровневую иерархию задач. Такая структура позволяет ИИ систематически решать сложные проблемы, обеспечивая учет всех аспектов процесса.
Итеративное принятие решений (цикл OODA)
ИИ использует итеративный процесс принятия решений, известный как цикл OODA (Observe, Orient, Decide, Act), чтобы направлять свои действия на каждом уровне иерархии задач. Этот непрерывный цикл позволяет ИИ адаптироваться к меняющимся условиям в реальном времени:
Observe: ИИ собирает данные с датчиков и производственных систем, получая релевантную информацию о текущем состоянии процесса.
Orient: Он анализирует собранные данные в контексте текущего производственного процесса, учитывая исторические данные и известные параметры.
Decide: На основе анализа ИИ выбирает лучшее действие, взвешивая различные варианты и их потенциальные результаты.
Act: Выбранное действие реализуется, влияя на производственный процесс.
Этот цикл повторяется непрерывно, позволяя ИИ динамически реагировать на изменения в производственной среде. Например, если ИИ обнаруживает неожиданное изменение скоростей потоков газов во время процесса CVD, он может быстро скорректировать другие параметры, чтобы поддерживать оптимальные условия осаждения.
Это сочетание иерархического планирования и итеративного рассуждения позволяет ИИ эффективно справляться со сложными, многоаспектными задачами в промышленных условиях. Оно обеспечивает как высокоуровневое стратегическое планирование, так и быстрое тактическое принятие решений на операционном уровне. Это формирует основу практических приложений, таких как оптимизация процессов производства полупроводников, например плазменного травления.
Практическое применение: оптимизация процесса травления с помощью ИИ
Практическое применение этих подходов ИИ — оптимизация процесса травления. Травление — это критически важный этап в производстве полупроводников, на котором удаляются определенные области кремниевой пластины для создания сложных узоров, необходимых для функциональности чипа. Aitomatic разработала системы, которые объединяют доменно-специфичные языковые модели с архитектурой OpenSSA для расширения возможностей производства полупроводников.
Рисунок 1- Архитектура советника по травлению.png
Рисунок 1: Архитектура Etching Advisor
Давайте рассмотрим, что происходит в многоуровневой архитектуре системы оптимизации травления с поддержкой ИИ:
Базовый слой: Этот фундаментальный слой обеспечивает базовые возможности вывода и общее понимание языка. Он может обрабатывать запросы инженеров на естественном языке и интерпретировать базовые производственные данные.
Средний слой: Этот слой обеспечивает понимание предметно-специфических концепций и интегрирует знания, специфичные для компании. Он понимает специализированные термины, такие как aspect ratio (отношение глубины к ширине в вытравленном элементе) или selectivity (способность травить один материал быстрее другого), и может включать собственные рецептуры процессов компании.
Верхний слой: Этот слой предоставляет расширенные возможности решения задач и инкапсулирует знания экспертного уровня в области полупроводникового травления. Он может предлагать сложные многоэтапные стратегии травления, прогнозировать потенциальные проблемы, такие как эрозия маски или остановка травления, и рекомендовать профилактические меры.
Каждый слой опирается на возможности нижележащих слоев, позволяя системе предоставлять подробные рекомендации для сложных процессов травления путем объединения общих знаний со специализированной экспертизой. Например, при оптимизации травления глубокой траншеи для микросхемы памяти система может предложить скорректировать газовую смесь для улучшения пассивации боковых стенок, рекомендовать конкретную стратегию циклирования мощности для предотвращения образования выемок и предложить обработку после травления для удаления остатков.
Для эффективной работы этим системам ИИ требуются надежные решения для управления данными. Именно здесь Milvus, высокопроизводительная векторная база данных, играет ключевую роль, обеспечивая эффективное извлечение и хранение сложных производственных данных для различных целей.
Роль Milvus в промышленном ИИ
Milvus играет ключевую роль в обеспечении передовых приложений ИИ в промышленных условиях, особенно в производстве полупроводников. Его функции и возможности делают его хорошо подходящим для обработки сложных данных и потребностей современных систем ИИ в извлечении информации, особенно при реализации Retrieval-Augmented Generation (RAG) с предметно-специфическими языковыми моделями, такими как SemiKong.
Ключевые функции Milvus для промышленных приложений
Мультитенантность: Milvus позволяет нескольким пользователям или приложениям работать в одной системе, не мешая друг другу. В производстве полупроводников это позволяет разным командам или производственным линиям иметь безопасный, изолированный доступ к своим специфическим данным при использовании общей инфраструктуры.
Аппаратно-ускоренные вычисления: Оптимизированный для различных аппаратных сред (включая AVX512, Neon для SIMD и ускорение GPU), Milvus обеспечивает быструю обработку ресурсоемких задач. Это особенно ценно для анализа сложных производственных данных в реальном времени или вывода моделей ИИ для оптимизации процессов.
Поддержка языков и API: Благодаря поддержке Python, Java, Golang, NodeJS и других, Milvus бесшовно интегрируется с различными средами разработки и существующими промышленными программными экосистемами.
Масштабируемая и эластичная архитектура: По мере роста данных производства полупроводников с течением времени Milvus автоматически масштабируется для удовлетворения спроса, обеспечивая стабильную производительность даже по мере накопления исторических данных процессов.
Поддержка разнообразных индексов: Milvus поддерживает несколько типов индексов (например, HNSW, PQ, Binary, DiskANN), обеспечивая гибкость в том, как производственные данные хранятся и ищутся. Это обеспечивает эффективное извлечение релевантной информации для конкретных производственных сценариев.
Настраиваемая согласованность: Возможность регулировать уровни согласованности позволяет производителям полупроводников находить баланс между производительностью запросов и точностью данных в зависимости от конкретных потребностей различных производственных процессов или требований контроля качества.
Milvus в системах RAG для производства полупроводников
При внедрении системы RAG с использованием Milvus и доменно-специфической LLM, такой как SemiKong, для производства полупроводников процесс выглядит следующим образом:
Создание базы знаний:
Векторные вложения создаются на основе технических документов, исследовательских статей и производственных журналов.
Они хранятся в Milvus с использованием его поддержки разнообразных индексов для оптимального хранения и извлечения.
Обработка запроса:
Инженер вводит описание проблемы (например, неожиданные вариации скорости травления).
Запрос преобразуется в векторное представление.
Извлечение:
Milvus выполняет поиск по сходству, используя свои аппаратно-ускоренные вычислительные возможности.
Он применяет передовые методы поиска (например, top-K ANN, range ANN, отфильтрованные поиски), чтобы найти наиболее релевантные прошлые случаи или документы.
Мультитенантность гарантирует, что доступ осуществляется только к авторизованным данным.
Дополнение и генерация:
Извлеченная информация объединяется с исходным запросом и передается в LLM SemiKong.
SemiKong генерирует ответ, сочетая свои знания о полупроводниках с конкретной извлеченной информацией.
Непрерывное обучение:
- Новые случаи и решения добавляются в базу данных Milvus, используя ее масштабируемую архитектуру для поддержания производительности по мере роста базы знаний.
Технологии Milvus для различных промышленных вариантов использования
Типы вычислений: Оптимизация Milvus для различных аппаратных сред обеспечивает быструю обработку и экономически эффективное масштабирование в различных промышленных приложениях.
Типы поиска: Широкий набор методов поиска позволяет адаптировать поисковую функциональность к конкретным промышленным потребностям, будь то выявление похожих производственных дефектов, сопоставление параметров процесса или поиск релевантной документации.
Типы индексов: Благодаря 15 доступным типам индексирования Milvus предоставляет варианты для балансирования производительности, точности и стоимости для различных промышленных наборов данных и шаблонов запросов.
Преимущества Milvus в промышленном ИИ
Улучшенное принятие решений: Обеспечивая быстрое и точное извлечение релевантной информации, Milvus поддерживает принятие решений на основе данных в сложных производственных средах.
Повышенная эффективность: Аппаратное ускорение и оптимизированное индексирование приводят к более быстрой обработке запросов, что критически важно для промышленных приложений реального времени.
Масштабируемость: По мере роста объемов промышленных данных эластичная архитектура Milvus обеспечивает стабильную производительность без необходимости частых капитальных модернизаций системы.
Гибкость: Поддержка различных языков программирования и API позволяет легко интегрироваться с существующими промышленными системами и рабочими процессами.
Безопасность данных: Функции мультитенантности обеспечивают безопасную обработку данных в совместно используемых производственных или исследовательских средах.
Используя возможности Milvus в системах RAG с доменно-специфическими LLM, отрасли, такие как производство полупроводников, могут создавать мощные инструменты для решения проблем, оптимизации процессов и сохранения знаний. Это сочетание технологий решает проблемы нехватки экспертизы и сложного управления данными в современных промышленных условиях.
Последствия для полупроводниковой отрасли и не только
Сочетание предметно-ориентированных языковых моделей, агентных AI-систем и векторных баз данных имеет ряд последствий для полупроводниковой отрасли и других сложных производственных секторов:
Решение проблемы дефицита экспертизы: Эти AI-системы могут фиксировать и распространять знания опытных специалистов, помогая смягчить последствия ухода экспертов на пенсию и дефицита талантов. Это особенно важно в таких областях, как проект TSMC в Аризоне, где местная экспертиза в области производства полупроводников может быть ограниченной.
Ускорение инноваций в производственных процессах: Быстро анализируя огромные объемы данных и предлагая оптимизации, AI может ускорить разработку и совершенствование производственных технологий. Это может привести к более быстрому внедрению новых технологий, таких как литография в экстремальном ультрафиолете (EUV) или 3D-укладка чипов.
Повышение доступности экспертизы высокого уровня во всех подразделениях организаций: AI-системы могут предоставлять консультации экспертного уровня менее опытным сотрудникам, демократизируя знания и улучшая принятие решений на всех уровнях компании.
Обеспечение возможности создания индивидуализированных проприетарных AI-систем: Компании могут строить на основе этих AI-фундаментов системы, адаптированные к их конкретным производственным процессам, потенциально получая конкурентное преимущество.
Помощь компаниям в запуске операций в новых регионах: AI-системы могут помогать передавать знания и лучшие практики новым предприятиям, потенциально облегчая сложности организации производства в регионах с меньшим опытом в полупроводниковой отрасли.
Повышение оптимизации процессов и эффективности: Непрерывный анализ и оптимизация производственных процессов могут привести к повышению выхода годной продукции, сокращению отходов и более высокой общей эффективности. Это критически важно в отрасли, где даже небольшие улучшения выхода годной продукции могут привести к значительной экономии затрат.
Улучшение прогнозного обслуживания и контроля качества: AI может прогнозировать отказы оборудования и проблемы с качеством до их возникновения, обеспечивая проактивное обслуживание и стабильное качество продукции. Это особенно важно в производстве полупроводников, где простои оборудования и дефекты могут быть чрезвычайно дорогостоящими.
Содействие более быстрой адаптации к новым технологиям: По мере появления новых производственных технологий AI-системы могут быстро включать эти знания, обеспечивая более быстрое внедрение передовых методов. Такая гибкость критически важна в стремительно развивающейся полупроводниковой отрасли, где технологические достижения происходят быстро.
Заключение
Robertson и Shruti отлично продемонстрировали, как предметно-ориентированный AI и продвинутые архитектуры, такие как OpenSSA, могут преодолеть разрыв в экспертизе в производстве полупроводников. Благодаря интеграции Milvus мы видим, как мощные инструменты для управления векторными данными могут усилить способность AI предоставлять точные решения в реальном времени в узкоспециализированных отраслях. Их выводы подчеркивают, что при наличии правильной технологии даже самые сложные области могут эффективно использовать AI для инноваций и оптимизации процессов.
Читать далее
How to Build an Enterprise-Ready RAG Pipeline on AWS with Bedrock, Zilliz Cloud, and LangChain
Build production-ready enterprise RAG with AWS Bedrock, Nova models, Zilliz Cloud, and LangChain. Complete tutorial with deployable code.
Cosmos World Foundation Model Platform for Physical AI
NVIDIA's Cosmos platform enables safe, digital twin training of GenAI models for physical applications, overcoming data scarcity and safety challenges.
Why Deepseek is Waking up AI Giants Like OpenAI And Why You Should Care
Discover how DeepSeek R1's open-source AI model with superior reasoning capabilities and lower costs is disrupting the AI landscape and challenging tech giants like OpenAI.