Arize AI
Arize AI는 ML 실무자가 연구 단계에서 생산 단계로 모델을 쉽게 전환할 수 있도록 지원하는 머신 러닝 통합 가시성 플랫폼인 Arize를 개발한 회사입니다. 또한 사용자가 노트북에서 LLM, CV, NLP 모델을 평가, 문제 해결, 미세 조정할 수 있도록 도와주는 오픈 소스 프로젝트인 Arize Phoenix를 만들고 유지 관리합니다.
Arize AI and Zilliz
아리제 AI와 질리즈는 사용자가 LLM, CV, NLP 모델을 더 잘 이해하고 미세 조정하여 임베딩에 대한 신뢰도를 높이고, 질리즈 클라우드와 밀버스 같은 벡터 데이터베이스로 구축하는 검색 증강 생성(RAG) 및 유사성 검색 시스템에 대한 신뢰도를 높일 수 있도록 지원합니다.
RAG 평가: 검색 전략의 통계적 분석
이 동영상에서는 아리제 AI의 CEO 겸 공동 창립자이자 ML 솔루션 엔지니어인 제이슨 로파테키(Jason Lopatecki)와 샐리 앤 델루시아(Sally-Ann DeLucia)가 평가, 추적 및 스팬, 신속한 엔지니어링, 검색 및 검색, 미세 조정이라는 LLM Observability의 5가지 요소에 대해 자세히 설명합니다. 이 5가지 요소에서는 LLM 출력 평가, 컨텍스트 검색 개선, LLM 및 RAG의 검색 시스템 벤치마킹 및 분석에 대한 인사이트를 살펴봅니다.
고급 LLM 쿼리 엔진 구축 및 문제 해결하기
이 온디맨드 세션에서는 아리즈 피닉스, LlamaIndex, LangChain, GPT 3.5 터보, NLTK, Milvus의 결합된 성능을 사용하여 강력한 쿼리 엔진을 만드는 방법을 단계별로 살펴봅니다. LLM 오케스트레이션에 대한 개요, 벡터 데이터베이스에 대한 소개, 검색 및 검색이 어떻게 작동하고 왜 필요한지에 대한 설명이 제공됩니다.
임베딩: Zilliz로 확장 가능한 AI 애플리케이션 구축의 핵심을 알아보세요.
이 컨퍼런스 강연에서는 확장 가능한 제너레이티브 AI 애플리케이션을 위한 임베딩 사용에 중점을 두었습니다. CVP 프레임워크를 사용하여 제너레이티브 AI 모델에서 볼 수 있는 환각과 도메인 지식 부족에 관한 기존의 많은 문제를 해결하는 방법에 대해 설명합니다. CVP 프레임워크의 한 형태인 OSS 채팅 데모도 볼 수 있습니다.
LLaMA 모델의 컨텍스트 창 확장하기 논문 읽기
최소한의 미세 조정으로 LLaMA 모델의 컨텍스트 창 크기를 최대 32,768개 위치까지 확장하는 방법인 위치 보간(PI)에 대한 AI 및 ML 전문가의 연구 논문을 들어보세요. 위치 임베딩의 실제 용도를 이해하기 위해 관심도 점수가 어떻게 작동하는지 알아보세요.