Skalierung KI-gestützter Meeting-Intelligence: Wie Notta mit Zilliz Cloud eine 10-mal schnellere Suche erreichte
10-fache Leistungsverbesserung
Latenz von 1 Sekunde auf 100 Millisekunden reduziert
Nahtlose Migration
Über 30 Millionen Stunden Sprachdaten erfolgreich mit minimaler Unterbrechung übertragen
Reduzierter technischer Aufwand
Ermöglichte die Fokussierung auf die Wertschöpfung im Kerngeschäft
The competitive advantage for meeting transcription products in the future will come from personalization – providing tailored insights and recommendations based on each user's specific meeting data and usage patterns. This is why performant vector search is imperative.
Dai Tongjie
Die Marktchance
Meetings fördern den organisatorischen Erfolg, indem sie den Informationsaustausch, die Zusammenarbeit und die Entscheidungsfindung erleichtern. Dennoch empfinden die meisten Fachkräfte sie als frustrierend – sie verschwenden Zeit, es fehlt an Dokumentation, und sie führen selten zu konkreten Maßnahmen. Dieser Schmerzpunkt stellt eine enorme Marktchance dar, die Notta ergriffen hat.
Nottas Marktdurchbruch in Japan
Im Jahr 2020 erlangte Notta sofortige Sichtbarkeit, als es in den Asahi News vorgestellt wurde, was einen Traffic-Anstieg verursachte, der zunächst wie ein Serverangriff wirkte. Bis 2022 sicherte sich das Unternehmen 10 Millionen US-Dollar an Finanzierung unter der Führung von Hillhouse Ventures, und bis Ende 2024 unterstützte ihre Plattform Transkription in 58 Sprachen, Echtzeitübersetzung für mehrsprachige Meetings, Zusammenfassungen mit einem Klick und kollaborative Funktionen.
Notta gewann 75 % der japanischen Endnutzer und expandierte durch einen Bottom-up-Ansatz in Unternehmensumgebungen. Ein herausragendes Beispiel ist Yachiyo Engineering, wo sich der Kauf eines einzelnen Mitarbeiters im gesamten Unternehmen verbreitete und schließlich zu einer Enterprise-Bereitstellung für über 500 ihrer 1.000 Mitarbeitenden führte.
Ihre Erfolgskennzahlen sind beeindruckend: über 10 Millionen globale Nutzer, über 4.000 Unternehmenskunden, über 30 Millionen Stunden Transkription (75 % aus Japan) und über 10 Millionen US-Dollar ARR im Jahr 2024.
Strategische Differenzierung
Notta behauptet sich in einem überfüllten Feld gegenüber Wettbewerbern wie Otter.AI und Fireflies.AI, indem es eine dreiteilige Strategie umsetzt.
Erstens entwickelten sie für ihren Heimatmarkt mit echtem kulturellem Verständnis. Als Unternehmen mit Hauptsitz in Japan verstand Notta, dass die japanische Geschäftskultur spezifische Funktionen und Ansätze erfordert. Die Einführung von Yen-basierten Preisen war nicht nur eine Lokalisierungstaktik — es ging darum, ihrem Markt Respekt zu erweisen, und sie führte zu einem unmittelbaren Umsatzanstieg von 30–40 %. Ihr tieferer Vorteil entstand aus genauer Kenntnis darüber, wie japanische Fachkräfte Meetings durchführen und dokumentieren, wobei Formalität, strukturierte Zusammenfassungen und eine korrekte Dokumentationshierarchie nicht nur Präferenzen, sondern wesentliche Geschäftspraktiken sind. Dies steht im Gegensatz zu amerikanischen Nutzern, die ähnliche Tools oft als allgemeine KI-Assistenten behandeln. Nottas Japan-first-Designphilosophie — die Geschäftsetikette und Dokumentationsstandards einbezieht, die der japanischen Unternehmenskultur eigen sind — verlieh ihnen eine Authentizität, mit der internationale Wettbewerber beim Versuch, in den japanischen Markt einzutreten, nicht mithalten konnten.
Zweitens schufen sie ein Ökosystem. Notta integrierte sich in Google Calendar, Microsoft Outlook, Zoom und Teams und schuf nahtlose Workflows von der Terminplanung bis zur Aufgabenverteilung. Diese enge Integration machte Notta „sticky“ — sobald es in einen Workflow eingebunden ist, wechseln Nutzer selten.
Drittens entwickelten sie überlegene Technologie. Notta liefert eine Transkriptionsgenauigkeit von 98,86 %, funktioniert auf allen Geräten, unterstützt diverse Dateiformate und erfüllt Enterprise-Sicherheitsstandards (HIPAA, GDPR, CCPA, APPI). Ihr Notta Bot kann sogar im Namen der Nutzer an Meetings teilnehmen — ein herausragendes Feature, das Wettbewerber bisher nicht erreicht haben.
Technische Entwicklung und neue Fähigkeiten
Als sich Nottas Plattform weiterentwickelte, implementierten sie einen KI-Chatbot mit RAG-Architektur (Retrieval Augmented Generation). Dieses System wandelt Meeting-Transkripte in Vektoreinbettungen um, die semantische Bedeutung über einfache Keywords hinaus erfassen. Diese Vektoren werden in einer Datenbank gespeichert, die hochdimensionale Nearest-Neighbor-Suchen ermöglicht und kontextuell relevante Ergebnisse zurückgibt, selbst wenn exakte Begriffe nicht übereinstimmen.
Anfangs verwendete Notta einen Vektorsuchindex, der an einen Public-Cloud-Anbieter angeflanscht war und für frühe Anforderungen wie Keyword-Suchen und semantische Abfragen gut funktionierte. Als Notta jedoch auf 30 Millionen Stunden Transkription skalierte, stießen sie auf ernsthafte Performance-Engpässe, wobei die Suchlatenz über 1000 ms erreichte—inakzeptabel für ein interaktives Produkt.
Um dies zu lösen, migrierte Notta zu Zilliz Cloud und nutzte dessen Cardinal Search Engine, die sich automatisch an unterschiedliche Workloads anpasst und sofort 10-mal schnellere Ergebnisse liefert. Zu den wichtigsten Vorteilen gehörten:
Latenzreduzierung von 1000 ms auf ~100 ms (10-fache Verbesserung), deutlich unter dem Branchenstandard von 200 ms für Echtzeitanwendungen
Selbstoptimierende Suchstrategien, wodurch der Bedarf an manueller Feinabstimmung reduziert wird, während Recall, Precision und Speicher-Trade-offs dynamisch angepasst werden
Multi-Thread-Ausführung über x86- und ARM-Architekturen hinweg, die konsistent hohe Leistung über unterschiedliche Workloads und Deployments hinweg sicherstellt
Graph-IVF-Hybridindexierung, die Geschwindigkeit und Genauigkeit für komplexe Abfragen auf Langform-Meeting-Daten ausbalanciert
Mit den Self-Tuning-Funktionen von Cardinal beseitigte Notta die Notwendigkeit einer manuellen Suchabstimmung, sodass sich die Ingenieure auf höherwertige KI-gesteuerte Funktionen konzentrieren konnten, statt die Infrastruktur feinzujustieren. Diese Umstellung verbesserte nicht nur die Skalierbarkeit, sondern senkte auch den Rechenaufwand um bis zu 80 % und maximierte so die Preis-Leistungs-Effizienz.
Aktuelle Anwendung und zukünftige Ausrichtung
Mit Blick auf die Zukunft verwandelt Notta Meetings in einen echten Wissens-Hub für Unternehmen. Laut TJ Dai, CTO von Notta: „Die Entwicklung der Meeting-Produktivität folgt drei Wellen der Verbesserung der Informationsdichte: Speech-to-Text-Konvertierung, KI-gestützte Zusammenfassung und nun kontextbezogene Suche mit Erkenntnissen. Mit Zilliz Cloud, das unsere Vektorsuchfunktionen antreibt, konnten wir dies für unsere Kunden Realität werden lassen und kontextuelle Intelligenz mit der Geschwindigkeit liefern, die Nutzer erwarten.“
Notta führt diese dritte Welle bereits an, indem es seine KI-gestützten Retrieval- und Automatisierungsfunktionen ausbaut. Die nächste Grenze besteht nicht nur darin, Diskussionen zu erfassen – sondern sie in umsetzbare Intelligenz zu verwandeln, die Geschäftsentscheidungen vorantreibt. Durch die Identifizierung von Mustern über Gespräche hinweg und die nahtlose Integration in Unternehmens-Workflows stellt Notta sicher, dass jedes Meeting nachhaltigen Wert liefert.