Fireworks AI
Build AI applications by combining Fireworks AI's LLM models with Zilliz Cloud's vector database capabilities
이 통합 기능을 무료로 사용하세요.불꽃놀이 소개
AI Fireworks AI는 개발자가 고성능과 안정성을 갖춘 AI 모델을 실행하고 커스터마이징할 수 있는 생성형 AI 플랫폼입니다. 이 플랫폼은 서버리스 모델, 온디맨드 배포, 텍스트, 오디오, 이미지 및 임베딩 모델에 대한 미세 조정 옵션을 제공합니다.
이 플랫폼은 종량제 모델을 사용하며 JSON 모드, 문법 모드, Flumina 프레임워크를 통한 함수 호출과 같은 기능을 포함합니다.
질리즈 클라우드와 불꽃놀이가 필요한 이유
AI 질리즈 클라우드와 파이어웍스 AI를 결합하면 AI 애플리케이션 구축을 위한 강력한 기반이 만들어집니다. Zilliz Cloud는 벡터 저장 및 유사도 검색을 처리하고, Fireworks AI는 최적화된 언어 및 임베딩 모델에 대한 액세스를 제공합니다.
이러한 통합을 통해 개발자는 복잡한 인프라를 관리하지 않고도 프로덕션에 바로 사용할 수 있는 AI 애플리케이션을 구축할 수 있습니다. 이 조합은 안정적인 벡터 검색과 고성능 LLM 기능이 필요한 애플리케이션에 특히 유용합니다.
질리즈 클라우드와 파이어웍스 AI의 작동 원리
이 통합은 Fireworks AI의 모델을 사용하여 데이터에서 임베딩을 생성한 다음 Zilliz Cloud에 저장하고 검색하는 방식으로 작동합니다. 관련 정보를 검색해야 할 때 Zilliz Cloud는 이러한 임베딩에서 유사성 검색을 수행합니다. RAG 애플리케이션의 경우, Zilliz Cloud는 벡터 유사도를 기반으로 가장 관련성이 높은 문서를 검색한 다음 Fireworks AI의 LLM을 사용하여 정확한 문맥에 맞는 응답을 생성합니다.
기술 구현
인증 설정:
- Fireworks API 키를 환경 변수로 설정합니다.
- URI와 API 키로 질리즈 클라우드 연결 설정하기
- 데이터 처리 흐름:
- Fireworks AI의 임베딩 모델(예: nomic-ai/nomic-embed-text-v1.5)을 사용하여 임베딩을 생성합니다.
- 지정된 치수로 질리즈 클라우드 컬렉션에 벡터를 저장합니다.
- 벡터 검색에 내부 제품(IP) 또는 코사인 유사도 사용
- 컬렉션 관리:
- 특정 파라미터로 컬렉션 생성
- 임베딩 모델 출력에 따른 차원 크기 구성
- 데이터 신뢰성을 위한 일관성 수준 설정
- 검색 및 검색:
- 사용자 정의 가능한 제한으로 시맨틱 검색 수행
- 유사도 점수로 관련 문서 검색
- 최종 응답을 위해 Fireworks AI의 LLM을 통해 결과 처리
- Fireworks API 키를 환경 변수로 설정합니다.
학습
학습 섹션 가장 좋은 시작 방법은 실습 튜토리얼입니다. 이 튜토리얼에서는 Fireworks AI 및 Zilliz Cloud를 사용하여 RAG(검색 증강 생성) 시스템을 구축하는 방법을 안내합니다.
다음은 몇 가지 추가 리소스입니다:
- Fireworks AI 문서](https://docs.fireworks.ai/getting-started/introduction)
- 밀버스와 파이어웍스 AI로 RAG 구축하기](https://milvus.io/docs/build_RAG_with_milvus_and_fireworks.md)
- API 참조 문서](https://docs.fireworks.ai/api-reference/introduction)