watsonx Assistant
Build Retrieval-Augmented Generation Chatbots with watsonx Assistant and Milvus or Zilliz Cloud
이 통합 기능을 무료로 사용하세요.왓슨x 어시스턴트란 무엇인가요?
IBM® 왓슨X™ AI 및 데이터 플랫폼은 개발자가 하나의 플랫폼에서 맞춤형 AI 애플리케이션을 구축할 수 있도록 지원하는 솔루션입니다. 왓슨X는 네 가지 구성 요소로 이루어져 있습니다:
- watsonx.ai-모델을 학습, 검증, 조정 및 배포하는 솔루션입니다.
- Watsonx.data - 데이터를 위한 데이터 저장소
- Watsonx.governance - 데이터의 엔드투엔드 수명 주기 거버넌스를 관리하기 위한 도구 세트
- 왓슨x 어시스턴트 - 개발자가 AI 기반 음성 에이전트 및 챗봇을 구축하는 데 도움이 되는 대화형 인공지능 플랫폼입니다.
왓슨x 어시스턴트와 질리즈 클라우드(매니지드 밀버스)가 필요한 이유
개발자가 고객 서비스를 개선하고 영업 및 지원 지원을 제공하는 챗봇을 만들 수 있는 대화형 AI 플랫폼인 IBM 왓슨x 어시스턴트입니다. 이러한 챗봇은 제품 및 고객 세부 정보와 관련된 회사의 개인 데이터를 활용하므로 모든 데이터는 비공개로 유지됩니다. 이를 통해 보다 포괄적인 지원을 제공하여 생산성을 높이고 수익을 개선할 수 있습니다.
왓슨x 어시스턴트는 질리즈 클라우드와 연동하여 검색 증강 세대(RAG) 프레임워크의 기반이 됩니다. 이를 통해 개인 데이터를 대규모 언어 모델의 강력한 언어 생성 기능과 결합하여 안심하고 사용할 수 있습니다. 이 솔루션이 유용한 이유는 다음과 같습니다:
- 효율적인 저장 및 검색: 벡터 데이터베이스는 고차원 벡터를 효율적으로 저장하고 검색합니다. LLM에서 생성된 대용량 문서 컬렉션과 임베딩이 일반적인 왓슨x 어시스턴트의 맥락에서 벡터 데이터베이스는 이러한 벡터를 효과적으로 관리하는 데 도움이 될 수 있습니다.
- 빠른 유사도 검색: 벡터 데이터베이스는 시맨틱 문서 검색 및 검색 증강 생성(RAG) 파이프라인과 같은 작업에 필수적인 유사도 검색 작업에 최적화되어 있습니다. 벡터를 인덱싱하고 빠른 유사도 검색을 가능하게 함으로써 벡터 데이터베이스는 watsonx Assistant에서 이러한 작업의 속도를 크게 높일 수 있습니다.
- 확장성: 문서 컬렉션과 벡터의 수가 증가함에 따라 확장성은 필수적인 요소가 되었습니다. 벡터 데이터베이스는 수평적으로 확장할 수 있도록 설계되었기 때문에 대규모 배포와 증가하는 데이터 볼륨을 효과적으로 처리할 수 있습니다.
- 왓슨 AI 서비스와의 통합: 왓슨 AI 서비스를 활용하면 텍스트, 오디오 또는 이미지 파일에서 생성된 벡터 임베딩을 Zilliz Cloud로 변환하고 저장할 수 있습니다. 고객과의 대화, 고객이 신고한 청구서의 오류 스크린샷, 파손된 제품 사진, 고객과 작업할 때 일반적으로 사용되는 상세 상품 및 판매 정보 등을 다양한 방식으로 임베딩할 수 있습니다. 이러한 포괄적인 데이터 수집이 고객과의 친밀도를 높일 수 있는 원동력입니다.
또한, 왓슨엑스는 영어 외에도 일본어, 독일어, 스페인어, 프랑스어, 포르투갈어 등 자연어를 지원하는 다양한 기반 모델을 보유하고 있습니다.
IBM 왓슨x 어시스턴트와 질리즈 클라우드의 작동 방식
검색 증강 생성(RAG)
IBM 왓슨엑스는 코드가 필요 없는 검색 증강 생성 솔루션을 질리즈 클라우드와 통합하여 LLM 모델을 피드하고 재교육할 필요성을 줄여줍니다. 사용자는 최신 비즈니스 문서나 정책을 업로드하기만 하면 모델이 정보를 검색하여 업데이트된 응답을 반환합니다.
- 챗봇을 위한 모든 관련 데이터(비즈니스 텍스트, 오디오 파일, 이미지 등)를 수집합니다. 이 비정형 데이터 세트를 요구사항에 가장 적합한 왓슨x 파운데이션 모델 중 하나로 변환하고 벡터 임베딩을 통해 질리즈 클라우드에 저장합니다.
- 사용자가 검색 부분이라고도 하는 질문을 하면, 왓슨x 어시스턴트는 질리즈 클라우드의 시맨틱 검색 기능을 활용하여 벡터 임베딩으로 저장된 관련 콘텐츠를 검색합니다.
- 쿼리 결과는 질문과 결합되어 IBM의 Granite와 같은 대규모 언어 모델로 전송되어 해당 콘텐츠에 기반한 대화형 답변을 합성 및 생성합니다.
Milvus와 함께 왓슨엑스 사용 방법 알아보기
이 튜토리얼을 통해 Milvus에서 왓슨x를 사용하는 방법을 알아보세요.