Arize AI
Arize AI è il creatore di Arize, una piattaforma di osservabilità per il Machine Learning che aiuta i professionisti del ML a portare con successo i modelli dalla ricerca alla produzione con facilità. Hanno anche creato e gestiscono il progetto open source Arize Phoenix, che aiuta gli utenti a valutare, risolvere i problemi e mettere a punto i modelli di LLM, CV e NLP in un notebook.
Arize AI and Zilliz
Insieme Arize AI e Zilliz aiutano gli utenti a comprendere meglio e a mettere a punto i loro modelli LLM, CV e NLP per aumentare la fiducia nelle loro incorporazioni e nei sistemi di ricerca per similarità e di generazione aumentata del reperimento (RAG) che costruiscono con database vettoriali come Zilliz Cloud e Milvus.
Valutazioni RAG: Analisi statistica delle strategie di reperimento
In questo video, Jason Lopatecki, CEO e cofondatore, e Sally-Ann DeLucia, ML Solutions Engineer di Arize AI, approfondiscono i 5 pilastri dell'osservabilità di LLM: valutazione, tracce e intervalli, prompt engineering, ricerca e recupero e messa a punto. Questi pilastri esplorano le valutazioni dei risultati delle LLM, il miglioramento del recupero del contesto e le intuizioni sul benchmarking e l'analisi dei sistemi di recupero per LLM e RAG.
Creazione e risoluzione dei problemi di un motore di interrogazione LLM avanzato
In questa sessione on-demand, si procede passo dopo passo alla creazione di un robusto motore di query utilizzando la potenza combinata di Arize Phoenix, LlamaIndex, LangChain, GPT 3.5 Turbo, NLTK e Milvus. Avrete una panoramica dell'orchestrazione LLM, un'introduzione ai database vettoriali e una spiegazione di come funziona la ricerca e il recupero e perché è necessaria.
Embeddings: Scoprire la chiave per costruire applicazioni di IA scalabili con Zilliz
Questo intervento si concentra sull'uso degli embeddings per applicazioni di IA generativa scalabili. Si discute di come il framework CVP possa essere utilizzato per risolvere molti dei problemi esistenti relativi all'allucinazione e alla mancanza di conoscenza del dominio che si riscontrano nei modelli di IA generativa. Viene presentata una demo della chat OSS, una manifestazione del framework CVP.
Estensione della finestra di contesto dei modelli LLaMA Lettura del documento
Ascoltate gli esperti di AI & ML discutere un documento di ricerca sulla Position Interpolation (PI), un metodo che estende le dimensioni della finestra di contesto dei modelli LLaMA fino a 32.768 posizioni con una messa a punto minima. Imparerete come funzionano i punteggi di attenzione per capire a cosa servono realmente le incorporazioni posizionali.