Credal AI создает безопасный и управляемый GenAI с помощью Milvus
Гибкий масштаб
с разделенными вычислениями и хранением данных
Расширенный
точность запросов при гибридном поиске
Ускоренное развертывание функций
с ведущим сообществом разработчиков открытого программного обеспечения
When you're engineering a solution as complex as ours, you're not just ticking boxes—you're looking for that sweet spot where all your must-haves intersect. Think of it as an eight-circle Venn diagram; while many databases met one or two of our criteria, Milvus was the only one sitting right at the intersection of all eight. It checked every single box for us—something no other solution managed to do.
Jack Fischer
О Credal AI
Компания Credal AI стремится сделать GenAI безопасным и доступным для предприятий. Они предоставляют надежные функции интеграции и управления данными, получая данные из различных платформ, таких как Microsoft Office, Google Workspace и Slack. Они предлагают "Okta для ИИ", где доступ и разрешения строго контролируются, стремясь предоставить разработчикам и конечным пользователям упрощенный и безопасный интерфейс. Таким образом, Credal AI служит комплексным решением для безопасного развертывания GenAI корпоративного уровня.
Навигация по масштабу и сложности: Вызовы
Компания Credal AI столкнулась с рядом проблем, когда начала разработку своего продукта. Важнейшей функцией был семантический поиск, который оказалось сложно реализовать в масштабе с помощью основных плагинов векторного поиска. Эти проблемы усугублялись, когда семантический поиск встраивался в пользовательские рабочие процессы, требующие высокой производительности базы данных. Традиционные механизмы поиска необходимо было усовершенствовать для построения этих рабочих процессов, управляемых GenAI, которые должны были обрабатывать большие массивы данных в режиме реального времени на основе сложных, задаваемых пользователем критериев.
Кроме того, различные хостинговые среды, включая облачные и локальные, требовали векторной базы данных, которую можно было бы размещать самостоятельно и поддерживать активным сообществом разработчиков с открытым исходным кодом. Им требовалась быстрая, масштабируемая и универсальная база данных для работы со сложными конвейерами данных и различными условиями хостинга.
Выбор Milvus: векторная база данных, ориентированная на разработчиков, которая отвечает всем требованиям
После всесторонней оценки Credal AI пришла к выводу, что Milvus, работающая на Amazon EKS, является победителем для их потребностей в векторной базе данных. Что сразу же бросилось в глаза, так это активное сообщество разработчиков с открытым исходным кодом вокруг проекта. Это было не "приятное дополнение", а критически важный фактор для быстрого решения проблем и постоянного развития функций. Кроме того, большое количество звезд на GitHub было не просто суетной метрикой, а ощутимым признаком активного сообщества разработчиков, что добавляло уверенности в долговечности решения.
Еще одним важным моментом была официальная диаграмма Helm Chart для Kubernetes от Milvus. Хотя создание собственной диаграммы Helm Chart не было обязательным условием, наличие официально поддерживаемой диаграммы свидетельствовало о стремлении Milvus к успеху разработчиков. Это свидетельствовало о том, что команда Milvus не просто стремится получить краткосрочный доход, а искренне заинтересована в решении реальных проблем пользователей. Эта поддержка была бесценна для такого стартапа, как Credal AI, тем более что она позволила им оптимизировать процесс развертывания, сэкономить время и инженерные ресурсы.
Функции Milvus также привлекли их внимание, особенно наличие гибридного поиска. Возможность выполнять векторный поиск, одновременно фильтруя другие метаданные, была крайне необходима. Многие решения предлагали быстрый векторный поиск, но не могли расширить его за счет структурированных данных. Возможность гибридного поиска в Milvus оказалась тем самым недостающим кусочком головоломки, который удовлетворял их техническим требованиям и решал актуальные бизнес-задачи.
И последнее, но не менее важное: архитектура Milvus, разделяющая хранение и вычисления, обеспечила масштабируемость и гибкость, которые искала Credal AI. Этот выбор был не просто архитектурной идеей, а основой уверенности в масштабировании продукта в будущем. Он позволил им изменять шаблоны доступа по мере доработки приложения. Когда дело дошло до "обязательных условий" для векторной базы данных - производительности, возможностей, сообщества и архитектуры, - компания Milvus выполнила все требования.
Результат: Масштабируемость и гибкость в реальном мире с Milvus
Внедрение Milvus на Amazon EKS стало для Credal AI переломным моментом, обеспечив надежную основу для выполнения сложных задач векторного поиска. Технические возможности Milvus быстро устранили их первоначальную неуверенность в том, как будет работать база данных. В условиях, когда стартапы часто сталкиваются с меняющимися потребностями, Milvus оказался как мгновенным решением, так и долгосрочным активом.
Решение о выборе Milvus было подтверждено его беспрепятственной интеграцией в существующие системы Credal AI, что отвечает техническим требованиям и более широким бизнес-целям. Высокая масштабируемость платформы благодаря раздельной архитектуре хранения и вычислений позволила Credal AI предвидеть и адаптироваться к возникающим потребностям клиентов. Теперь компания может сосредоточиться на том, что у нее получается лучше всего: итерации своего основного продукта и привлечении пользователей. Будьте уверены, что ее бэкэнд справится с любыми задачами.
Forging Ahead: Планы на будущее с Milvus
Credal AI рассматривает возможность будущего сотрудничества с Zilliz, разработчиком Milvus, чтобы использовать Zilliz Cloud для своих облачных клиентов. Это хорошо согласуется с текущей миссией команды по внедрению функциональности GenAI в реальные корпоративные приложения, что является сложной задачей, требующей надежных мер безопасности и комплексного управления данными. Использование Zilliz Cloud на AWS, полностью управляемой версии Milvus, четко вписывается в эту более широкую стратегию, обещая рационализировать операции и улучшить сервисные предложения для их облачных клиентов.
Тем временем Milvus остается центральным элементом стратегии Credal AI. По мере того как компания работает на полную катушку, чтобы сделать GenAI доступным для предприятий, масштабируемость и гибкость, предлагаемые Milvus, важны как никогда. Отношения с Milvus рассматриваются не как разовое решение, а как долгосрочное партнерство, направленное на решение меняющихся задач и достижение новых высот.
- О Credal AI
- Навигация по масштабу и сложности: Вызовы
- Выбор Milvus: векторная база данных, ориентированная на разработчиков, которая отвечает всем требованиям
- Результат: Масштабируемость и гибкость в реальном мире с Milvus
- Forging Ahead: Планы на будущее с Milvus
Контент
Пример использования
Отрасль
Безопасность