AI 기반 회의 인텔리전스 확장: Notta가 Zilliz Cloud로 10배 더 빠른 검색을 달성한 방법
10배 성능 향상
지연 시간이 1초에서 100밀리초로 단축되었습니다
원활한 마이그레이션
최소한의 중단으로 3천만 시간 이상의 음성 데이터를 성공적으로 이전했습니다
기술적 오버헤드 감소
핵심 비즈니스 가치 창출에 집중할 수 있도록 지원했습니다
The competitive advantage for meeting transcription products in the future will come from personalization – providing tailored insights and recommendations based on each user's specific meeting data and usage patterns. This is why performant vector search is imperative.
Dai Tongjie
시장 기회
회의는 정보 교환, 협업, 의사결정을 촉진함으로써 조직의 성공을 이끕니다. 그러나 대부분의 전문가들은 회의에 불만을 느낍니다. 시간이 낭비되고, 문서화가 부족하며, 구체적인 실행으로 이어지는 경우가 드물기 때문입니다. 이러한 페인 포인트는 Notta가 포착한 거대한 시장 기회를 의미합니다.
일본에서의 Notta의 시장 돌파
2020년, Notta는 아사히 뉴스에 소개되면서 즉각적인 가시성을 확보했고, 이로 인해 처음에는 서버 공격처럼 보일 정도의 트래픽 급증이 발생했습니다. 2022년에는 Hillhouse Ventures가 주도한 1,000만 달러 규모의 투자를 유치했으며, 2024년 말에는 플랫폼이 58개 언어의 전사, 다국어 회의를 위한 실시간 번역, 원클릭 요약, 협업 기능을 지원했습니다.
Notta는 일본 소비자 사용자의 75%를 확보했고, 바텀업 접근 방식을 통해 기업 환경으로 확장했습니다. 대표적인 예가 Yachiyo Engineering으로, 한 직원의 구매가 회사 전체로 확산되어 결국 직원 1,000명 중 500명 이상을 위한 엔터프라이즈 도입으로 이어졌습니다.
이들의 성공 지표는 인상적입니다: 전 세계 사용자 1,000만 명 이상, 엔터프라이즈 고객 4,000곳 이상, 전사 3,000만 시간 이상(75%는 일본에서 발생), 2024년 ARR 1,000만 달러 이상입니다.
전략적 차별화
Notta는 Otter.AI와 Fireflies.AI 같은 경쟁사들이 있는 치열한 분야에서 3단계 전략을 실행함으로써 성공을 거두고 있습니다.
첫째, 이들은 진정한 문화적 통찰을 바탕으로 자국 시장을 위해 제품을 구축했습니다. 일본에 본사를 둔 회사로서 Notta는 일본의 비즈니스 문화가 특정 기능과 접근 방식을 요구한다는 점을 이해했습니다. 엔화 기반 가격 책정의 도입은 단순한 현지화 전략이 아니었습니다 — 그것은 시장을 존중하는 것이었고, 즉각적으로 30-40%의 매출 증가로 이어졌습니다. 이들의 더 깊은 강점은 일본 전문가들이 회의를 진행하고 문서화하는 방식에 대한 깊이 있는 이해에서 나왔습니다. 일본에서는 형식성, 구조화된 요약, 적절한 문서화 계층이 단순한 선호가 아니라 필수적인 비즈니스 관행입니다. 이는 유사한 도구를 일반적인 AI 어시스턴트로 취급하는 경우가 많은 미국 사용자들과 대조됩니다. 일본 기업 문화에 고유한 비즈니스 에티켓과 문서화 표준을 통합한 Notta의 일본 우선 설계 철학은 일본 시장에 진입하려는 국제 경쟁사들이 따라올 수 없는 진정성을 제공했습니다.
둘째, 이들은 생태계를 만들었습니다. Notta는 Google Calendar, Microsoft Outlook, Zoom, Teams와 연동되어 일정 예약부터 업무 할당까지 매끄러운 워크플로를 만들었습니다. 이러한 긴밀한 통합은 Notta의 고착도를 높였습니다 — 일단 워크플로에 들어가면 사용자는 거의 전환하지 않습니다.
셋째, 이들은 우수한 기술을 구축했습니다. Notta는 98.86%의 전사 정확도를 제공하고, 모든 기기에서 작동하며, 다양한 파일 형식을 지원하고, 엔터프라이즈 보안 표준(HIPAA, GDPR, CCPA, APPI)을 충족합니다. 이들의 Notta Bot은 사용자를 대신해 회의에 참석할 수도 있습니다 — 경쟁사들이 아직 따라오지 못한 두드러진 기능입니다.
기술적 진화와 새로운 역량
Notta의 플랫폼이 발전하면서, 이들은 RAG(Retrieval Augmented Generation) 아키텍처를 사용하는 AI 챗봇을 구현했습니다. 이 시스템은 회의 전사본을 단순 키워드를 넘어 의미론적 의미를 포착하는 벡터 임베딩으로 변환합니다. 이러한 벡터는 고차원 최근접 이웃 검색을 가능하게 하는 데이터베이스에 저장되어, 정확한 용어가 일치하지 않는 경우에도 문맥상 관련 있는 결과를 반환합니다.
초기에 Notta는 퍼블릭 클라우드 제공업체에 덧붙인 벡터 검색 인덱스를 사용했으며, 이는 키워드 검색과 의미론적 쿼리 같은 초기 단계의 요구에는 잘 작동했습니다. 그러나 Notta가 3,000만 시간의 전사 규모로 확장하면서, 이들은 심각한 성능 병목 현상에 직면했고, 검색 지연 시간이 1000ms 이상에 도달했습니다—인터랙티브 제품으로서는 받아들일 수 없는 수준이었습니다.
이를 해결하기 위해 Notta는 Zilliz Cloud로 마이그레이션하여 Cardinal Search Engine을 활용했습니다. 이 엔진은 다양한 워크로드에 자동으로 적응하고 기본적으로 10배 더 빠른 결과를 제공합니다. 주요 이점은 다음과 같습니다:
지연 시간이 1000ms에서 ~100ms로 감소(10배 개선), 실시간 애플리케이션에 대한 업계 표준인 200ms를 크게 하회
자가 최적화 검색 전략, 회수율, 정밀도 및 스토리지 간 트레이드오프를 동적으로 조정하면서 수동 튜닝의 필요성 감소
x86 및 ARM 아키텍처 전반의 멀티스레드 실행, 다양한 워크로드와 배포 환경 전반에서 일관된 고성능 보장
Graph-IVF 하이브리드 인덱싱, 긴 형식의 회의 데이터에 대한 복잡한 쿼리에서 속도와 정확도의 균형 유지
Cardinal의 자가 튜닝 기능을 통해 Notta는 수동 검색 튜닝의 필요성을 제거하여, 엔지니어들이 인프라를 미세 조정하는 대신 더 높은 가치를 지닌 AI 기반 기능에 집중할 수 있도록 했습니다. 이러한 전환은 확장성을 개선했을 뿐만 아니라 컴퓨팅 오버헤드를 최대 80%까지 낮춰, 가격 대비 성능 효율성을 극대화했습니다.
현재 애플리케이션과 향후 방향
앞으로 Notta는 회의를 진정한 기업 지식 허브로 전환하고 있습니다. Notta의 CTO인 TJ Dai에 따르면, "회의 생산성의 진화는 정보 밀도 향상의 세 가지 물결을 따릅니다: 음성-텍스트 변환, AI 기반 요약, 그리고 이제 인사이트를 제공하는 맥락적 검색입니다. Zilliz Cloud가 우리의 벡터 검색 기능을 지원함으로써, 우리는 이를 고객에게 현실로 제공할 수 있었고, 사용자가 기대하는 속도로 맥락적 인텔리전스를 전달할 수 있었습니다."
Notta는 이미 AI 기반 검색 및 자동화 기능을 확장함으로써 이 세 번째 물결을 선도하고 있습니다. 다음 개척지는 단순히 논의를 기록하는 것이 아니라, 이를 비즈니스 의사 결정을 이끄는 실행 가능한 인텔리전스로 전환하는 것입니다. 대화 전반의 패턴을 식별하고 엔터프라이즈 워크플로와 원활하게 통합함으로써, Notta는 모든 회의가 지속적인 가치를 제공하도록 보장하고 있습니다.