Deepseek가 OpenAI 같은 AI 거대 기업들을 깨우고 있는 이유와 당신이 관심을 가져야 하는 이유
DeepSeek R1은 그저 또 하나의 AI 모델이 아닙니다. 이는 Nvidia의 주가가 17% 하락한 이유였고, Meta가 이를 연구하기 위해 네 개의 워룸을 구성한 이유였으며, 트럼프 대통령이 이를 경종이라고 부른 이유이자, Sam Altman이 공개적으로 이에 대해 언급할 수밖에 없었던 이유였습니다. 그 부상은 AI 통제, 시장 교란, 국가 안보에 관한 논쟁을 촉발했으며, 기술 기업들이 자신들의 전략을 재검토하도록 만들었습니다.
DeepSeek R1의 등장은 기업들이 고급 도구에 대한 접근에 높은 비용을 부과하는 현재의 AI 비즈니스 모델에 도전합니다. 개발자들이 비용이 많이 드는 인프라에 의존하지 않고 코딩, 추론, 자동화를 위해 AI를 배포할 수 있게 되면, 경쟁 구도는 크게 변화할 수 있습니다.
이는 단순한 비즈니스 문제가 아닙니다. 이는 누가 AI의 미래를 통제하는가에 관한 문제입니다. 미국 관리들이 제기한 국가 안보 위험에 대한 우려 속에서, DeepSeek R1은 OpenAI와 Google 같은 기업들이 새로운 현실에 직면하도록 만듭니다. DeepSeek R1은 AI의 전환점일까요, 아니면 그저 또 하나의 일시적 유행일까요? 좀 더 자세히 살펴보겠습니다.
DeepSeek R1이란 무엇인가요?
그림: DeepSeek 대시보드 스크린샷
DeepSeek R1은 DeepSeek AI가 만든 대규모 언어 모델로, 정밀한 코딩, 수학적 추론, 구조화된 문제 해결을 요구하는 작업을 위해 구축되었습니다. CodeCorpus-30M, arXiv 수학 논문, 다국어 웹 텍스트와 같은 데이터셋을 사용해 14.8조 개의 토큰으로 학습되었습니다. 이러한 특화된 학습은 소프트웨어 개발, 과학 연구, 기술 자동화의 과제를 해결하는 데 도움이 됩니다.
이 모델에는 두 가지 버전이 있습니다. 첫 번째는 DeepSeek-R1-Zero로 알려져 있으며, 강화 학습만을 사용해 개발되었습니다. 강화 학습은 에이전트가 환경과 상호작용하며 의사결정을 학습하는 머신러닝의 한 유형입니다. 에이전트는 행동을 수행하고 보상이나 벌점의 형태로 피드백을 받습니다. 목표는 어떤 행동이 최상의 결과로 이어지는지 학습함으로써 시간이 지남에 따라 총 보상을 극대화하는 것입니다. 이는 강력한 추론 능력을 부여했지만, 반복적인 출력과 언어 혼합 같은 문제도 초래했습니다. 이러한 문제를 해결하기 위해 DeepSeek R1은 강화 학습 단계 전에 준비 데이터를 추가하여 만들어졌고, 그 결과 명확성과 추론 능력이 향상되었습니다.
이 모델은 MIT 라이선스하에 오픈소스 모델로 공개되었기 때문에, 개발자부터 연구자까지 누구나 제한 없이 사용, 수정, 배포할 수 있습니다. 이러한 접근 방식은 기술 작업에서 정확성과 효율성이 핵심인 애플리케이션에 DeepSeek R1을 실용적인 선택지로 만듭니다.
DeepSeek R1의 작동 방식
DeepSeek R1은 Mixture-of-Experts (MoE) 아키텍처를 기반으로 구축되었습니다. 쉽게 말해, 이 모델은 학습 중 조정하는 숫자인 6,710억 개의 파라미터를 가지고 있지만, 작업을 처리할 때마다 사용되는 것은 370억 개뿐입니다. 경량 게이팅 네트워크가 의사결정자처럼 작동하여 어떤 전문화된 하위 네트워크가 입력을 처리해야 하는지 선택합니다. 이는 모델이 필요한 리소스만 사용한다는 뜻이며, 전체 계산 수요를 낮춥니다.
훈련 중에 모델은 앞서 살펴본 것처럼 오직 강화 학습만으로 훈련된 DeepSeek-R1-Zero라는 버전으로 시작했습니다. 이 단계에서 모델은 사려 깊고 단계별 응답을 생성하는 데 대해 보상을 받으며 학습했으며, 이를 chain-of-thought reasoning이라고 합니다. 그러나 이 방법은 반복적인 답변과 혼합 언어 출력을 초래했습니다. 명확성을 개선하기 위해 개발자들은 신중하게 선택된 chain-of-thought 예시를 사용한 지도 미세 조정으로 cold-start 단계를 도입했습니다. 이후 모델은 Group Relative Policy Optimization (GRPO)을 사용해 두 차례의 추가 강화 학습을 거쳤습니다. GRPO에서는 모델이 동일한 입력에 대해 여러 답변을 생성하고, 이를 비교한 뒤 가장 명확하고 정확한 응답에 대해 보상을 받습니다. 그런 다음 최상의 출력은 rejection sampling을 통해 선택되어 추가 미세 조정에 사용됩니다.
DeepSeek R1은 또한 여러 효율성 기술을 통합합니다:
Multi-Head Latent Attention (MLA): 이 기술은 내부 데이터 구조(key-value matrices)를 더 작은 잠재 벡터로 압축하여 처리 중 필요한 메모리를 줄입니다.
FP8 Mixed Precision Training: 많은 계산에 더 높은 정밀도의 숫자 대신 8비트 부동소수점 숫자를 사용함으로써, 모델은 메모리 소비를 줄이고 처리 속도를 높입니다.
Dynamic Token Inflation and Soft Token Merging: 이러한 방법은 중복 정보를 담고 있는 토큰을 병합하고 이후 핵심 세부 정보를 복원함으로써 텍스트 처리를 최적화하며, 중요한 문맥을 잃지 않고 처리되는 데이터의 양을 줄이는 데 도움이 됩니다.
이러한 접근법을 함께 사용함으로써 DeepSeek R1은 수학적 추론과 코드 디버깅 같은 복잡한 작업에서 안정적으로 수행하면서도 계산 비용을 낮게 유지하고 훈련 비용을 GPT-4와 같은 모델보다 현저히 낮게 유지할 수 있습니다.
DeepSeek R1의 주요 역량
DeepSeek R1은 기술적 작업에서 뛰어난 성능을 발휘하도록 설계되었으며, 그 성능은 여러 벤치마크와 애플리케이션 전반에서 드러납니다. 주요 강점은 다음과 같습니다:
수학적 추론: DeepSeek R1은 수학 문제에서 인상적인 성능을 보입니다. MATH-500 벤치마크에서 97.3%의 합격률을 달성하고, AIME 2024 벤치마크에서는 79.8% pass@1에 도달합니다. 이러한 결과는 모델이 복잡한 수학 문제를 높은 정확도로 처리할 수 있음을 보여줍니다.
코딩 및 디버깅: 코딩 작업에서 모델은 강력한 역량을 보여줍니다. Codeforces 레이팅 2029를 보유하고 있으며, 이는 인간 참가자 중 96.3번째 백분위수에 해당합니다. 디버깅 정확도는 약 90%로, 실제 시나리오에서 코드 문제를 안정적으로 식별하고 수정한다는 의미입니다.
구조적 및 논리적 추론: DeepSeek R1은 문제를 해결할 때 명확하고 단계적인 추론을 생성하도록 구축되었습니다. 이 역량은 구조화된 문제 해결 작업에서의 일관된 성능에 반영되며, 모델은 복잡한 과제를 이해하기 쉬운 부분으로 나눕니다. 이 과제를 어떻게 분해하는지 살펴보세요.
그림: DeepSeek이 Milvus 벡터 검색 시스템 설계를 단계별로 분해하는 모습
보시다시피 DeepSeek은 먼저 작업을 단계별로 분해하며, Milvus가 고차원 데이터에 최적화된 오픈 소스 벡터 데이터베이스라고 설명합니다. 또한 유사한 항목을 찾기 위해 벡터 임베딩을 사용하는 추천 엔진을 특히 염두에 두고, 대규모 데이터셋을 효율적으로 처리하는 목표를 언급합니다. DeepSeek은 이러한 임베딩이 종종 신경망과 같은 모델에서 나온다는 점도 식별하고, 영화 추천 시스템을 예로 사용합니다. 이 스크린샷은 전체 추론 단계를 보여주지는 않지만, DeepSeek에서 동일한 프롬프트를 사용하면 구현 단계까지 어떻게 추론하는지 확인할 수 있습니다.
- 다국어 이해: 이 모델은 다국어 웹 텍스트로 학습되어 여러 언어로 된 질의를 처리하고 응답할 수 있습니다. 이러한 폭넓은 언어 역량은 정확하고 논리적인 응답이 필요한 글로벌 애플리케이션에 유용합니다.
- 데이터 준비: FAQ 페이지, 지원 문서, 기술 매뉴얼 등 관련 문서를 모두 수집하는 것부터 시작하세요. 이러한 문서를 개별 질문-답변 쌍과 같이 더 작고 일관된 부분으로 나누세요. 이러한 분할은 각 텍스트 조각이 집중된 내용을 담도록 하며, 나중에 쉽게 검색될 수 있게 합니다. 대규모 언어 모델.
DeepSeek R1 vs. OpenAI o1 vs. Claude 3.5 Sonnet
DeepSeek R1은 OpenAI o1 및 Claude 3.5 Sonnet과 같은 모델과 비교할 때 성능뿐만 아니라 비용과 접근성 측면에서도 차별화됩니다. 아래 표는 주요 지표를 요약한 것입니다:
| 지표 | DeepSeek R1 | **OpenAI o1****** | Claude 3.5 Sonnet |
| Codeforces 평점 | 2029 (96.3번째 백분위수) | 2061 (89번째 백분위수) | 공식적으로 표시되지 않음 |
| 디버깅 정확도 | 90% | 80% | 75% |
| MATH-500 Pass@1 | 97.3% | 96.4% | DeepSeek R1보다 낮음 |
| SWE-bench Verified (해결됨) | 49.2% | 48.9% | 50.8% |
| LiveCodeBench (Pass@1-COT) | 65.9% | 63.4% | 33.8% |
| Aider-Polyglot (정확도) | 53.3% | 61.7% | 45.3% |
| 가격 (입력 토큰) | 토큰 100만 개당 ~$0.14 | 토큰 100만 개당 ~$15 | 토큰 100만 개당 ~$3 |
| 가격 (출력 토큰) | 토큰 100만 개당 ~$2.19 | 토큰 100만 개당 ~$60 | 토큰 100만 개당 ~$15 |
| 라이선스 | 오픈 소스 (MIT) | 독점 | 독점 |
| 컨텍스트 창 | 128K 토큰 | 200K 토큰 | 200K 토큰 |
DeepSeek R1은 여러 기술 벤치마크에서 충분한 경쟁력을 보입니다. 경쟁 프로그래밍 대회에서 산출되는 높은 Codeforces 레이팅을 달성하며, 이는 모델이 코딩 과제를 얼마나 잘 처리할 수 있는지를 보여줍니다. 또한 디버깅 정확도에서도 뛰어납니다. 수학적 추론에서는 MATH-500에서 97.3%의 통과율을 기록해 OpenAI o1보다 약간 높습니다. 또한 SWE-bench(실제 GitHub 문제와 해당 코드베이스를 제시하여 LLM이 현실 세계의 소프트웨어 문제를 해결하는 능력을 평가함)와 LiveCodeBench(LeetCode, AtCoder, Codeforces와 같은 플랫폼의 새로운 문제를 지속적으로 통합하여 동적이고 오염 없는 평가를 제공함)에서의 성능은 복잡한 작업을 해결하는 데 있어 신뢰할 수 있고 일관된 능력을 반영합니다.
핵심 장점은 비용 효율성입니다. DeepSeek R1의 입력 비용은 백만 토큰당 최저 ~$0.14로, OpenAI o1의 훨씬 높은 요금과 비교됩니다. 출력 토큰 가격도 상당히 낮습니다. 이러한 경제적 이점은 MIT 라이선스에 따른 오픈소스 특성에 더해 제공되며, 이는 OpenAI o1 및 Claude 3.5 Sonnet이 제공하는 독점 모델에서는 사용할 수 없는 유연성을 사용자에게 제공합니다.
다른 모델들의 200K 토큰에 비해 128K 토큰으로 약간 더 작은 컨텍스트 윈도우를 갖춘 DeepSeek R1은 성능을 크게 희생하지 않으면서 기술 작업에 최적화되어 있습니다. 이 비교는 DeepSeek R1이 강력한 성능, 비용 효율성, 개방적 접근성을 매력적으로 결합해 제공하며, 이러한 조합이 기술 분야에서 고급 AI 도구가 배포되는 방식을 재편할 수 있음을 보여줍니다.
DeepSeek와 Milvus의 통합
DeepSeek R1의 기술적 성능과 비용 효율성은 뛰어난 벡터 데이터베이스와 함께 사용할 때 실제 Retrieval-Augmented Generation 애플리케이션에 적합한 후보로 만듭니다. 그러한 데이터베이스 중 하나가 Milvus이며, GPU 가속과 HNSW 및 IVF와 같은 고급 인덱싱 기법을 지원함으로써 낮은 지연 시간과 높은 처리량으로 수십억 개의 벡터를 처리하도록 설계되었습니다. 이러한 기능은 Milvus가 쿼리에 가장 관련성 높은 컨텍스트를 빠르게 검색하는 데 완벽하게 해주며, DeepSeek R1은 이를 사용해 정보에 기반한 응답을 생성합니다.
방대한 FAQ와 기술 문서를 호스팅하는 복잡한 소프트웨어 제품의 고객 지원 포털을 생각해 보세요. Milvus와 DeepSeek R1을 사용하여 Retrieval-Augmented Generation (RAG) 파이프라인을 구축하는 방법은 다음과 같습니다:
데이터 준비: FAQ 페이지, 지원 문서, 기술 매뉴얼과 같은 모든 관련 문서를 수집하는 것부터 시작합니다. 이러한 문서를 개별 질문-답변 쌍과 같은 더 작고 일관된 부분으로 나눕니다. 이러한 세분화는 각 텍스트 조각이 집중된 내용을 담고 나중에 쉽게 검색될 수 있도록 보장합니다.
임베딩 생성: 임베딩 모델을 사용하여 각 텍스트 세그먼트를 임베딩 이라고 알려진 숫자 벡터로 변환합니다. 이러한 임베딩은 텍스트의 의미적 의미를 포착하여 효과적인 유사도 비교를 가능하게 합니다. 우리의 예시에서는 각 FAQ 세그먼트가 그 내용을 정확하게 나타내는 임베딩으로 변환됩니다.
Milvus에 데이터 삽입: 벡터 차원과 선택한 거리 메트릭(예: inner product) 같은 핵심 매개변수를 지정하여 Milvus 컬렉션을 설정합니다. 생성된 임베딩을 관련 텍스트와 함께 컬렉션에 삽입하면, 문서의 검색 가능한 인덱스가 생성됩니다.
쿼리 처리: 고객이 예를 들어 계정 비밀번호를 어떻게 재설정하나요?와 같은 쿼리를 제기하면, 문서에 사용한 것과 동일한 모델을 사용하여 이 쿼리를 임베딩으로 변환합니다. 쿼리와 문서 임베딩이 동일한 벡터 공간에 있도록 보장하는 것은 정확한 매칭에 매우 중요합니다.
검색: Milvus를 사용하여 쿼리 임베딩으로 컬렉션을 검색하고 가장 일치하는 상위 문서 세그먼트를 가져옵니다. Milvus는 가장 유사한 텍스트를 빠르게 식별하여, 쿼리에 정확히 답변하는 데 필요한 관련 컨텍스트를 제공합니다.
DeepSeek R1을 통한 응답 생성: 검색된 세그먼트를 일관된 컨텍스트로 결합하고, 이를 원래 쿼리와 함께 OpenAI 스타일 API를 통해 DeepSeek R1에 입력합니다. 그러면 모델은 검색된 문서의 정보를 반영한 상세하고 컨텍스트를 인식한 답변을 생성합니다.
답변 제시: 마지막으로 생성된 응답을 고객에게 전달합니다. 답변은 특정 쿼리와 관련 컨텍스트 데이터를 모두 반영하여, 응답이 정확하고 유용하도록 보장합니다.
이 통합은 Milvus의 효율적인 벡터 검색과 DeepSeek R1의 정밀한 언어 생성을 활용하여 견고하고 확장 가능한 RAG 파이프라인을 만듭니다. 고객 지원, 지식 관리, 기술 문제 해결과 같은 애플리케이션을 위한 강력한 솔루션을 제공하며, 정보가 접근되고 전달되는 방식을 혁신합니다.
DeepSeek R1이 AI 거대 기업들을 두렵게 하는 이유
DeepSeek R1은 기존 기업들이 전략을 재검토하도록 압박하고 있습니다. 업계 선도 기업들은 이제 높은 기술 역량과 낮은 운영 비용을 갖춘 모델이 고가의 하드웨어와 구독료에 기반한 전통적인 수익 흐름을 뒤흔들 수 있다는 가능성에 직면해 있습니다. 이러한 변화는 기업들이 큰 재정적 장벽 없이 고급 AI에 접근할 수 있는 환경에 대비하면서 연구 투자와 장기 계획을 재고하게 만들고 있습니다.
그 파급 효과는 기업의 재무제표를 넘어 확장됩니다. 독점 기술 기업들은 이제 대안적 접근 방식을 모색하고 제품 전략을 조정하고 있으며, 이러한 모델의 광범위한 채택이 기술 산업 전반에 걸쳐 상당한 자원 재배분으로 이어질 수 있다는 우려도 커지고 있습니다. 이로 인해 일부 기업들이 자체 AI 개발 모델과 가격 구조에 대한 내부 검토를 시작하는 등 전략적 변화의 물결이 촉발되었습니다.
또한 그 영향은 정치적 영역에도 미칩니다. 고성능 AI 도구의 공개적 이용 가능성이 국가 안보와 글로벌 기술 리더십에 대한 의문을 제기하면서, 규제 기관과 정부 관계자들도 주목하고 있습니다. 고급 AI에 대한 통제와 접근을 둘러싼 이 논쟁은 향후 규제와 기술 세계의 권력 균형에 대한 논의를 심화시키고 있으며, DeepSeek R1과 같은 모델이 여러 차원에서 산업을 재편할 수 있음을 보여줍니다.
왜 관심을 가져야 할까요?
개발자, 기업, 심지어 일반 사용자에게도 DeepSeek R1의 영향은 기술적 벤치마크를 훨씬 넘어섭니다. 오픈소스 제공과 낮은 운영 비용은 이전에는 높은 비용과 독점적 제한 뒤에 잠겨 있던 혁신과 맞춤화의 새로운 기회를 열어줍니다.
개발자들은 이제 상용 API를 기다리거나 라이선스 조건에 제한받지 않고 AI 솔루션을 구축하고 맞춤화할 기회를 갖게 되었습니다. 이러한 자유는 더 많은 실험, 아이디어에 대한 더 빠른 반복, 그리고 틈새 요구를 직접 해결하는 도구를 만들 수 있는 능력을 의미합니다. 고성능 언어 모델을 수정하고 배포할 수 있는 능력은 자동화, 기술 지원, 나아가 창의적 애플리케이션과 같은 분야에서 돌파구로 이어질 수 있습니다.
기업에게 낮은 배포 비용은 판도를 바꾸는 요소입니다. 기업은 값비싼 하드웨어나 구독료의 부담 없이 고급 AI 기능을 워크플로에 통합할 수 있습니다. 이는 더 효율적인 운영, 간접비 절감, 궁극적으로 각 시장에서의 경쟁 우위로 이어질 수 있습니다. 조직들이 이러한 비용 효율적인 솔루션을 도입함에 따라 전체 시장 역학이 변화하여 혁신이 증가하고 진입 장벽이 낮아질 수 있습니다.
정책 입안자와 사회 전반도 주목해야 합니다. 접근 가능한 고성능 AI의 확산은 데이터 보안, 규제, 그리고 글로벌 규모에서 기술 권력의 균형에 관한 중요한 질문을 제기합니다. 고급 AI 도구가 더 이상 몇몇 대기업에만 국한되지 않게 되면서, 윤리적 사용, 책임성, 국가 안보에 관한 논의가 점점 더 중요해지고 있습니다. 이러한 더 넓은 접근성은 기술을 민주화할 잠재력이 있지만, 동시에 이처럼 강력한 도구를 어떻게 관리하고 규제할지에 대한 신중한 고려도 필요합니다.
요컨대, AI의 한계를 넓히려는 개발자이든, 운영을 간소화하려는 기업이든, 기술의 안전하고 공정한 사용을 보장해야 하는 정책 입안자이든, DeepSeek R1의 등장은 인공지능의 미래 지형에 상당한 영향을 미칠 수 있습니다.
결론
DeepSeek R1은 우리가 AI를 생각하고 사용하는 방식을 바꾸고 있습니다. 기술적 작업에서의 강력한 성능, 낮은 운영 비용, 개방형 접근성은 이를 값비싼 독점 모델에 대한 진지한 대안으로 만듭니다. 이 모델은 고품질 출력과 고급 AI에 대한 더 접근 가능한 방식을 모두 제공하며 새로운 기대치를 세웠습니다. Milvus와 같은 도구와 통합함으로써 DeepSeek R1은 고객 지원부터 지식 관리에 이르기까지 실제 애플리케이션에서 그 가치를 입증합니다. 기업과 규제 기관이 AI에서의 통제와 혁신을 재평가함에 따라, DeepSeek R1은 기술의 미래를 형성하고 개발자와 기업 모두에게 새로운 길을 열 수 있는 모델로 두드러집니다.
추가 자료
https://arxiv.org/pdf/2402.03300
https://arxiv.org/abs/2502.07864
https://arxiv.org/pdf/2310.18313
https://milvus.io/docs/build_RAG_with_milvus_and_deepseek.md
계속 읽기
Migrating from S3 Vectors to Zilliz Cloud: Unlocking the Power of Tiered Storage
Learn how Zilliz Cloud bridges cost and performance with tiered storage and enterprise-grade features, and how to migrate data from AWS S3 Vectors to Zilliz Cloud.
The Real Bottlenecks in Autonomous Driving — And How AI Infrastructure Can Solve Them
Autonomous driving faces a data bottleneck. Learn how AI-native vector databases like Zilliz solve scale, cost, and insight challenges across AV pipelines.
1 Table = 1000 Words? Foundation Models for Tabular Data
TableGPT2 automates tabular data insights, overcoming schema variability, while Milvus accelerates vector search for efficient, scalable decision-making.