SiliconFlow
SiliconFlow and Zilliz Cloud integrate to power efficient GenAI applications
이 통합 기능을 무료로 사용하세요.실리콘플로우 소개
실리콘플로우에서는 AI 모델을 간단하고 비용 효율적으로 배포할 수 있는 서비스형 모델(MaaS) 플랫폼인 실리콘클라우드를 제공합니다. 이 플랫폼은 Qwen2.5, DeepSeek-V2.5, BGE 등 주요 오픈 소스 모델에 대한 액세스를 제공하며, 일부 모델은 무료로 사용할 수 있습니다.
이 서비스는 OpenAI 호환 API와 내장된 모델 가속 기능을 갖추고 있어 개발자가 대규모 언어 모델, 이미지 생성, 임베딩 모델 등 다양한 AI 기능을 애플리케이션에 빠르게 통합할 수 있습니다.
질리즈 클라우드와 실리콘플로우가 필요한 이유
실리콘플로우와 질리즈 클라우드는 함께 작동하여 프로덕션에 바로 사용할 수 있는 AI 애플리케이션 구축을 간소화합니다. SiliconFlow는 모델 제공 및 추론을 처리하고, Zilliz Cloud는 효율적인 유사도 검색 및 검색에 필요한 벡터 데이터베이스 인프라를 제공합니다. 이러한 서비스를 결합하면 개발자는 복잡한 인프라를 관리할 필요 없이 RAG 시스템과 같은 정교한 AI 애플리케이션을 만들 수 있습니다. 이 통합은 프로덕션 배포에 필요한 일관된 성능, 확장성, 안정성을 제공합니다.
질리즈 클라우드와 실리콘플로우의 연동 방법
이 통합은 상호 보완적인 API를 통해 작동합니다. SiliconFlow는 텍스트 임베딩 생성을 포함한 모델 추론을 처리하고, Zilliz Cloud는 빠른 검색을 위해 이러한 임베딩을 저장 및 색인화합니다. 애플리케이션은 실리콘플로우의 임베딩 모델을 사용하여 입력 데이터를 벡터로 변환하고, 이를 질리즈 클라우드에 저장한 후 나중에 벡터 검색을 통해 유사한 항목을 검색할 수 있습니다.
예를 들어, RAG 시스템에서는 SiliconFlow의 모델을 사용하여 문서를 임베드하고 질리즈 클라우드에 저장합니다. 쿼리가 들어오면 동일한 모델을 사용하여 임베드하고 Zilliz Cloud는 벡터 유사도 검색을 통해 가장 연관성이 높은 문서를 찾습니다.
학습
가장 좋은 시작 방법은 실습 튜토리얼입니다. 이 튜토리얼은 실리콘플로우 및 질리즈 클라우드로 LLM 애플리케이션을 빌드하는 방법을 안내합니다.
다음은 몇 가지 추가 리소스입니다:
- SiliconFlow 문서](https://docs.siliconflow.cn/introduction)
- 실리콘플로우 API 레퍼런스](https://docs.siliconflow.cn/api-reference/chat-completions/chat-completions)
- 실리콘플로우 홈페이지](https://siliconflow.cn/)
- 튜토리얼: Milvus와 SiliconFlow로 RAG 구축하기