Risoluzione dei problemi industriali attraverso modelli specifici di dominio e IA agentica: un caso di studio sulla produzione di semiconduttori
L’industria dei semiconduttori si trova a un bivio, di fronte a una carenza critica di competenze specialistiche per la creazione e la gestione di impianti di produzione all’avanguardia. Questo divario incide sulle tempistiche dei progetti, aumenta i costi e limita l’innovazione in un settore in crescita sempre più complesso.
Durante il recente SF Unstructured Data Meetup, gli esperti del settore Christopher Nguyen e Shruti Raghavan di Aitomatic hanno esplorato come l’AI possa colmare questo divario di competenze. Le loro intuizioni hanno mostrato come modelli specifici per dominio e sistemi di AI agentica possano acquisire, condividere e applicare conoscenze specialistiche, offrendo una via da seguire per l’industria. Questo articolo riepilogherà i loro punti chiave e discuterà come Milvus, il più popolare database vettoriale, possa essere utilizzato nel dominio dell’AI industriale. Iniziamo esaminando un esempio reale di un’azienda che sta affrontando una sfida legata alle competenze. Guarda il riepilogo dell’intervento su YouTube.
Christopher Nguyen e Shruti Raghavan di Aitomatic parlano al SF Unstructured Data Meetup di settembre con l’AI Alliance
La sfida delle competenze: una storia di due progetti
Christopher ha illustrato la carenza di competenze contrapponendo i risultati di due progetti simili della Taiwan Semiconductor Manufacturing Company (TSMC). Entrambi i progetti utilizzano tecnologia identica e dispongono di un sostegno finanziario comparabile, eppure i loro progressi differiscono in modo significativo. A Kyushu, in Giappone, l’impianto in costruzione sta procedendo bene. D’altra parte, quello a Phoenix, in Arizona, sta incontrando difficoltà a causa di una carenza di competenze locali.
Questa disparità evidenzia come la disponibilità di conoscenze ed esperienze specialistiche possa influenzare in modo significativo gli esiti dei progetti, anche quando le risorse tecnologiche e finanziarie sono simili. Questo contrasto mette in luce una domanda chiave: come può l’industria dei semiconduttori mitigare tali disparità di competenze, e potrebbero eventuali soluzioni basate sull’AI fornire una risposta scalabile?
Limiti dell’AI general-purpose nei settori specializzati
I modelli linguistici di grandi dimensioni (LLM) general-purpose hanno dimostrato capacità in vari domini, ma spesso risultano insufficienti nelle applicazioni industriali specializzate. Nella produzione di semiconduttori, le conoscenze richieste vanno oltre l’ambito di questi modelli generali.
L’output degli LLM generali in contesti specializzati è paragonabile a quello di un neolaureato: dotato di conoscenze ampie, ma privo della profonda competenza esperienziale di un professionista esperto. Questo limite diventa evidente quando si affrontano processi produttivi complessi che richiedono una comprensione sfumata e un processo decisionale basato su anni di esperienza pratica.
Ad esempio, i processi di produzione dei semiconduttori come la fotolitografia (creazione di schemi circuitali su wafer di silicio), l’incisione (rimozione selettiva di materiali dalla superficie di un wafer) e la planarizzazione chimico-meccanica (CMP, appiattimento e lucidatura della superficie del wafer) richiedono non solo conoscenze teoriche, ma anche una comprensione di come vari parametri interagiscono in scenari reali.
È qui che i modelli specifici di dominio diventano fondamentali per colmare il divario tra le capacità generali dell'IA e le esigenze sfumate della produzione di semiconduttori.
Modelli linguistici specifici di dominio per la produzione di semiconduttori
Per affrontare i limiti degli LLM generalisti, vengono sviluppati modelli specifici per il settore del dominio dei semiconduttori. SemiKong, un progetto open-source dell'AI Alliance specifico per il dominio dei semiconduttori, è un esempio di tale modello. Questi modelli specializzati mirano a incorporare conoscenze specifiche di dominio per affrontare le sfide uniche incontrate dall'industria dei semiconduttori.
Le caratteristiche di SemiKong includono:
Dati di addestramento specifici del settore: Il modello viene addestrato su testi relativi ai semiconduttori, inclusi articoli di ricerca, documenti tecnici e rapporti di settore.
Pre-addestramento specifico di dominio: Il modello utilizza approcci di pre-addestramento che sfruttano la conoscenza dell'industria dei semiconduttori.
Prestazioni su attività rilevanti per il settore: SemiKong viene confrontato con LLM generalisti su attività specifiche dei semiconduttori.
Base per modelli proprietari: Le organizzazioni possono utilizzare SemiKong come punto di partenza per costruire modelli adattati ai loro specifici processi e sfide di produzione.
SemiKong si basa su fondazioni open-source, consentendo l'integrazione con i flussi di lavoro e gli strumenti di IA esistenti utilizzati nel settore.
Architetture IA avanzate per applicazioni industriali
Basandosi sulle capacità specializzate di modelli come SemiKong, Aitomatic ha sviluppato un'architettura Open Small Specialist Agents (OpenSSA). Questo approccio sfrutta la profonda conoscenza del settore incorporata in SemiKong per creare sistemi di IA agentica capaci di prendere decisioni complesse nella produzione di semiconduttori, estendendosi oltre il semplice recupero di informazioni fino alla risoluzione attiva dei problemi.
OpenSSA opera attraverso diversi componenti interconnessi, che consentono una gestione efficiente della conoscenza, la risoluzione dei problemi e l'integrazione del feedback degli esperti:
Acquisizione della conoscenzaLa base del sistema inizia con l'acquisizione della conoscenza degli esperti da specialisti di dominio, come ingegneri di processo ed esperti di apparecchiature. Questo input esperto viene archiviato in due repository essenziali:
Archivio della conoscenza: Contiene approfondimenti dettagliati forniti da questi specialisti, a cui il sistema può attingere quando affronta problemi.
Archivio dei programmi: Accanto all'archivio della conoscenza, questo repository contiene programmi riutilizzabili o modelli di soluzione progettati per risolvere sfide produttive ricorrenti.
Insieme, questi repository costituiscono la spina dorsale delle capacità di risoluzione dei problemi del sistema, fornendo una ricca fonte di informazioni specifiche del settore e soluzioni comprovate.
Risoluzione dei problemi da parte degli agentiBasandosi sulla conoscenza acquisita, gli agenti IA del sistema possono affrontare sia problemi nuovi sia familiari. Di fronte a una sfida, può creare una nuova formulazione del problema facendo riferimento alle informazioni dell'archivio della conoscenza oppure cercare soluzioni note nell'archivio dei programmi quando un problema simile è già stato incontrato in precedenza.
Integrando senza soluzione di continuità la conoscenza con il riconoscimento dei problemi, il sistema sviluppa strategie adattate a ciascuna situazione, garantendo che soluzioni efficaci siano sempre a portata di mano.
Esecuzione del programmaUna volta formulata una strategia di soluzione, che si tratti di un nuovo approccio o di uno noto, il sistema passa all'esecuzione. È qui che si interfaccia con ambienti di produzione reali, come i Manufacturing Execution Systems (MES), per implementare direttamente queste soluzioni. La fase di esecuzione segna il culmine del processo di risoluzione dei problemi del sistema.
Feedback degli espertiDopo che l'IA esegue la soluzione, gli esperti umani esaminano i risultati e forniscono feedback critico. Questo ciclo di feedback garantisce che il sistema rimanga ancorato all'esperienza del mondo reale, consentendogli di apprendere da ogni esecuzione e affinare le sue strategie future. L'input degli esperti migliora la comprensione da parte dell'IA delle sfide produttive in evoluzione.
Aggiornamenti della conoscenzaIl feedback degli esperti viene quindi utilizzato per aggiornare sia gli archivi della conoscenza sia quelli dei programmi, garantendo che il sistema di IA migliori continuamente.
L'architettura OpenSSA mira a creare agenti IA in grado di sfruttare sia le ampie capacità dei modelli linguistici sia competenze specifiche di dominio per risolvere problemi complessi nella produzione di semiconduttori. Ad esempio, un agente IA potrebbe assistere nell'ottimizzazione di un processo di incisione al plasma considerando molteplici fattori come le portate dei gas, la pressione della camera e le impostazioni della potenza RF, attingendo alla propria base di conoscenze e alle capacità di risoluzione dei problemi per suggerire parametri ottimali.
Per vedere l'agente IA in azione, guarda questo video.
Pianificazione gerarchica delle attività e processo decisionale iterativo
Gli agenti IA sviluppati utilizzando architetture come OpenSSA impiegano strategie sofisticate di risoluzione dei problemi. Robert e Shruti hanno mostrato come l'IA possa affrontare la risoluzione dei problemi attraverso la pianificazione gerarchica delle attività e il processo decisionale iterativo, fondamentali per adattarsi alle condizioni variabili della produzione di semiconduttori.
L'approccio dell'agente IA alla risoluzione dei problemi consiste in due aspetti chiave:
Pianificazione gerarchica delle attività
La pianificazione gerarchica delle attività comporta la scomposizione di compiti complessi in sottoattività più piccole e gestibili. Questo approccio crea una struttura ad albero di attività e sottoattività, consentendo all'IA di gestire in modo efficiente processi produttivi intricati.
Ad esempio, quando ottimizza un processo di deposizione chimica da vapore (CVD), l'IA lo suddivide nelle seguenti sottoattività:
Regolazione delle portate dei gas
Controllo della temperatura della camera
Ottimizzazione del tempo di deposizione
Monitoraggio dello spessore del film
Ognuna di queste sottoattività può essere ulteriormente suddivisa se necessario, creando una gerarchia multilivello di attività. Questa struttura consente all'IA di affrontare problemi complessi in modo sistematico, garantendo che vengano trattati tutti gli aspetti di un processo.
Processo decisionale iterativo (ciclo OODA)
L'IA impiega un processo decisionale iterativo noto come ciclo OODA (Osservare, Orientarsi, Decidere, Agire) per guidare le proprie azioni a ogni livello della gerarchia delle attività. Questo ciclo continuo consente all'IA di adattarsi in tempo reale alle condizioni mutevoli:
Osservare: l'IA raccoglie dati da sensori e sistemi di produzione, acquisendo informazioni rilevanti sullo stato attuale del processo.
Orientarsi: analizza i dati raccolti nel contesto dell'attuale processo di produzione, considerando dati storici e parametri noti.
Decidere: sulla base dell'analisi, l'IA sceglie l'azione migliore da intraprendere, valutando diverse opzioni e i loro potenziali risultati.
Agire: l'azione scelta viene implementata, influenzando il processo di produzione.
Questo ciclo si ripete continuamente, consentendo all'IA di rispondere dinamicamente ai cambiamenti nell'ambiente di produzione. Ad esempio, se l'IA rileva una variazione inattesa nelle portate dei gas durante il processo CVD, può regolare rapidamente altri parametri per mantenere condizioni di deposizione ottimali.
Questa combinazione di pianificazione gerarchica e ragionamento iterativo consente all'IA di gestire efficacemente problemi complessi e sfaccettati in contesti industriali. Permette sia una pianificazione strategica di alto livello sia un processo decisionale tattico rapido a livello operativo. Ciò costituisce la spina dorsale delle applicazioni pratiche, come l'ottimizzazione dei processi di produzione dei semiconduttori quali l'incisione al plasma.
Applicazione pratica: ottimizzazione del processo di incisione assistita dall'IA
Un'applicazione pratica di questi approcci di IA è nell'ottimizzazione del processo di incisione. L'incisione è una fase critica nella produzione di semiconduttori in cui aree specifiche di un wafer di silicio vengono rimosse per creare i motivi intricati necessari alla funzionalità del chip. Aitomatic ha sviluppato sistemi che combinano modelli linguistici specifici di dominio con l'architettura OpenSSA per migliorare le capacità di produzione dei semiconduttori.
Figura 1- Architettura di Etching Advisor.png
Figura 1: Architettura di Etching Advisor
Esaminiamo cosa accade nell'architettura a livelli di un sistema di ottimizzazione dell'incisione assistito dall'AI:
Livello di base: Questo livello fondamentale fornisce capacità di inferenza di base e comprensione generale del linguaggio. Può elaborare query in linguaggio naturale provenienti dagli ingegneri e interpretare dati di produzione di base.
Livello intermedio: Questo livello offre comprensione dei concetti specifici del dominio e integra conoscenze specifiche dell'azienda. Comprende termini specialistici come aspect ratio (il rapporto tra profondità e larghezza in una caratteristica incisa) o selectivity (la capacità di incidere un materiale più velocemente di un altro) e può incorporare le ricette di processo proprietarie di un'azienda.
Livello superiore: Questo livello fornisce capacità avanzate di risoluzione dei problemi e racchiude conoscenze di livello esperto nell'incisione dei semiconduttori. Può suggerire strategie di incisione complesse in più fasi, prevedere potenziali problemi come l'erosione della maschera o l'arresto dell'incisione, e raccomandare misure preventive.
Ogni livello si basa sulle capacità di quelli sottostanti, consentendo al sistema di fornire raccomandazioni dettagliate per processi di incisione complessi combinando conoscenze generali con competenze specialistiche. Ad esempio, quando si ottimizza l'incisione di una trincea profonda per un chip di memoria, il sistema potrebbe suggerire di regolare la miscela di gas per migliorare la passivazione delle pareti laterali, raccomandare una strategia specifica di cicli di potenza per prevenire l'incisione laterale e proporre un trattamento post-incisione per rimuovere i residui.
Per funzionare in modo efficiente, questi sistemi AI richiedono soluzioni robuste di gestione dei dati. È qui che Milvus, un database vettoriale ad alte prestazioni, svolge un ruolo cruciale consentendo il recupero e l'archiviazione efficaci di dati di produzione complessi per vari scopi.
Il ruolo di Milvus nell'AI industriale
Milvus svolge un ruolo cruciale nel rendere possibili applicazioni AI avanzate in contesti industriali, in particolare nella produzione di semiconduttori. Le sue caratteristiche e capacità lo rendono particolarmente adatto a gestire i dati complessi e le esigenze di recupero dei moderni sistemi AI, soprattutto quando si implementa la Retrieval-Augmented Generation (RAG) con modelli linguistici specifici del dominio come SemiKong.
Caratteristiche chiave di Milvus per applicazioni industriali
Multi-tenancy: Milvus consente a più utenti o applicazioni di lavorare sullo stesso sistema senza interferire tra loro. Nella produzione di semiconduttori, ciò permette a team o linee di produzione diversi di avere accesso sicuro e isolato ai propri dati specifici, condividendo al contempo la stessa infrastruttura.
Compute accelerato da hardware: Ottimizzato per vari ambienti hardware (inclusi AVX512, Neon per SIMD e accelerazione GPU), Milvus offre elaborazione rapida per attività a elevato consumo di risorse. Questo è particolarmente prezioso per l'analisi in tempo reale di dati di produzione complessi o per l'inferenza di modelli AI per l'ottimizzazione dei processi.
Supporto per linguaggi e API: Con supporto per Python, Java, Golang, NodeJS e altro ancora, Milvus si integra perfettamente con vari ambienti di sviluppo e con gli ecosistemi software industriali esistenti.
Architettura scalabile ed elastica: Man mano che i dati di produzione dei semiconduttori crescono nel tempo, Milvus si scala automaticamente per soddisfare la domanda, garantendo prestazioni costanti anche con l'accumularsi dei dati storici di processo.
Supporto a indici diversificati: Milvus supporta molteplici tipi di indice (ad es., HNSW, PQ, Binary, DiskANN), consentendo flessibilità nel modo in cui i dati di produzione vengono archiviati e ricercati. Ciò consente un recupero efficiente delle informazioni pertinenti per scenari di produzione specifici.
Consistenza regolabile: La possibilità di regolare i livelli di consistenza consente ai produttori di semiconduttori di bilanciare le prestazioni delle query e l’accuratezza dei dati in base alle esigenze specifiche dei diversi processi di produzione o dei requisiti di controllo qualità.
Milvus nei sistemi RAG per la produzione di semiconduttori
Quando si implementa un sistema RAG utilizzando Milvus e un LLM specifico di dominio come SemiKong per la produzione di semiconduttori, il processo si presenta così:
Creazione della knowledge base:
Gli embedding vettoriali vengono creati a partire da documenti tecnici, articoli di ricerca e log di produzione.
Questi vengono archiviati in Milvus, sfruttando il suo supporto a indici diversificati per un’archiviazione e un recupero ottimali.
Elaborazione delle query:
Un ingegnere inserisce una descrizione del problema (ad es., variazioni inattese della velocità di incisione).
La query viene convertita in una rappresentazione vettoriale.
Recupero:
Milvus esegue una ricerca di similarità utilizzando le sue capacità di calcolo accelerate via hardware.
Impiega metodi di ricerca avanzati (ad es., top-K ANN, range ANN, ricerche filtrate) per trovare i casi o i documenti passati più pertinenti.
La multi-tenancy garantisce che venga effettuato l’accesso solo ai dati autorizzati.
Aumento e generazione:
Le informazioni recuperate vengono combinate con la query originale e fornite al LLM SemiKong.
SemiKong genera una risposta, combinando la sua conoscenza dei semiconduttori con le informazioni specifiche recuperate.
Apprendimento continuo:
- Nuovi casi e soluzioni vengono aggiunti al database Milvus, sfruttando la sua architettura scalabile per mantenere le prestazioni man mano che la knowledge base cresce.
Tecnologie Milvus per vari casi d’uso industriali
Tipi di calcolo: L’ottimizzazione di Milvus per diversi ambienti hardware garantisce un’elaborazione rapida e una scalabilità conveniente in varie applicazioni industriali.
Tipi di ricerca: L’ampia gamma di metodi di ricerca consente di adattare la funzionalità di ricerca a specifiche esigenze industriali, che si tratti di identificare difetti di produzione simili, abbinare parametri di processo o trovare documentazione pertinente.
Tipi di indice: Con 15 tipi di indicizzazione disponibili, Milvus offre opzioni per bilanciare prestazioni, accuratezza e costi per diversi dataset industriali e pattern di query.
Vantaggi di Milvus nell’IA industriale
Processo decisionale migliorato: Consentendo un recupero rapido e accurato delle informazioni pertinenti, Milvus supporta decisioni basate sui dati in ambienti di produzione complessi.
Efficienza migliorata: L’accelerazione hardware e l’indicizzazione ottimizzata portano a un’elaborazione delle query più rapida, cruciale per applicazioni industriali in tempo reale.
Scalabilità: Con la crescita dei volumi di dati industriali, l’architettura elastica di Milvus garantisce prestazioni costanti senza la necessità di frequenti revisioni del sistema.
Flessibilità: Il supporto per vari linguaggi di programmazione e API consente una facile integrazione con i sistemi e i workflow industriali esistenti.
Sicurezza dei dati: Le funzionalità di multi-tenancy consentono una gestione sicura dei dati in ambienti condivisi di produzione o ricerca.
Sfruttando le capacità di Milvus nei sistemi RAG con LLM specifici di dominio, settori come la produzione di semiconduttori possono creare strumenti potenti per la risoluzione dei problemi, l’ottimizzazione dei processi e la conservazione della conoscenza. Questa combinazione di tecnologie affronta le sfide della carenza di competenze e della gestione di dati complessi negli ambienti industriali moderni.
Implicazioni per l'industria dei semiconduttori e oltre
La combinazione di modelli linguistici specifici per dominio, sistemi di IA agentica e database vettoriali ha diverse implicazioni per l'industria dei semiconduttori e altri settori manifatturieri complessi:
Affrontare la carenza di competenze: Questi sistemi di IA possono acquisire e diffondere le conoscenze di professionisti esperti, contribuendo a mitigare l'impatto del pensionamento degli esperti e della carenza di talenti. Questo è cruciale in aree come il progetto TSMC in Arizona, dove le competenze locali nella produzione di semiconduttori potrebbero essere limitate.
Accelerare l'innovazione nei processi produttivi: Analizzando rapidamente enormi quantità di dati e suggerendo ottimizzazioni, l'IA può accelerare lo sviluppo e il perfezionamento delle tecniche di produzione. Ciò potrebbe portare a un'adozione più rapida di nuove tecnologie come la litografia a ultravioletti estremi (EUV) o l'impilamento di chip 3D.
Rendere le competenze di alto livello più accessibili in tutta l'organizzazione: I sistemi di IA possono fornire consulenza di livello esperto al personale meno esperto, democratizzando la conoscenza e migliorando il processo decisionale a tutti i livelli di un'azienda.
Consentire la creazione di sistemi di IA personalizzati e proprietari: Le aziende possono basarsi su queste fondamenta di IA per creare sistemi su misura per i loro specifici processi produttivi, potenzialmente offrendo un vantaggio competitivo.
Aiutare le aziende a stabilire operazioni in nuove regioni: I sistemi di IA possono aiutare a trasferire conoscenze e best practice a nuovi stabilimenti, potenzialmente attenuando le sfide legate all'avvio di operazioni produttive in aree con minore esperienza nell'industria dei semiconduttori.
Migliorare l'ottimizzazione e l'efficienza dei processi: L'analisi e l'ottimizzazione continue dei processi produttivi possono portare a rese migliori, riduzione degli sprechi e maggiore efficienza complessiva. Questo è cruciale in un settore in cui anche piccoli miglioramenti della resa possono tradursi in significativi risparmi sui costi.
Migliorare la manutenzione predittiva e il controllo qualità: L'IA può prevedere guasti alle apparecchiature e problemi di qualità prima che si verifichino, consentendo una manutenzione proattiva e garantendo una qualità del prodotto costante. Questo è particolarmente importante nella produzione di semiconduttori, dove i tempi di inattività delle apparecchiature e i difetti possono essere estremamente costosi.
Facilitare un'adattamento più rapido alle nuove tecnologie: Man mano che emergono nuove tecnologie produttive, i sistemi di IA possono incorporare rapidamente queste conoscenze, consentendo un'adozione più veloce di tecniche all'avanguardia. Questa agilità è cruciale nell'industria dei semiconduttori, caratterizzata da ritmi rapidi, dove i progressi tecnologici avvengono velocemente.
Conclusione
Robertson e Shruti hanno fatto un ottimo lavoro nel mostrare come l'IA specifica per dominio e architetture avanzate come OpenSSA possano colmare il divario di competenze nella produzione di semiconduttori. Integrando Milvus, vediamo come potenti strumenti per la gestione dei dati vettoriali possano migliorare la capacità dell'IA di offrire soluzioni precise e in tempo reale in settori altamente specializzati. Le loro intuizioni sottolineano che, con la tecnologia giusta, anche i campi più complessi possono sfruttare l'IA per innovare e ottimizzare i processi in modo efficace.
Continua a leggere
Why Teams Are Migrating from Weaviate to Zilliz Cloud — and How to Do It Seamlessly
Explore how Milvus scales for large datasets and complex queries with advanced features, and discover how to migrate from Weaviate to Zilliz Cloud.
Selecting the Right ETL Tools for Unstructured Data to Prepare for AI
Learn the right ETL tools for unstructured data to power AI. Explore key challenges, tool comparisons, and integrations with Milvus for vector search.
Why Deepseek is Waking up AI Giants Like OpenAI And Why You Should Care
Discover how DeepSeek R1's open-source AI model with superior reasoning capabilities and lower costs is disrupting the AI landscape and challenging tech giants like OpenAI.