Операционализируйте ИИ в масштабе с Software 2.0, MLOps и Milvus
Создание приложений машинного обучения (ML) — это сложный и итеративный процесс. По мере того как всё больше компаний осознают нераскрытый потенциал неструктурированных данных, спрос на обработку данных и аналитику на базе ИИ будет продолжать расти. Без эффективных операций машинного обучения, или MLOps, большинство инвестиций в ML-приложения зачахнет на корню. Исследования показали, что всего лишь 5% внедрений ИИ, которые компании планируют развернуть, фактически доходят до развертывания. Многие организации накапливают «модельный долг», когда изменения рыночных условий и неспособность адаптироваться к ним приводят к нереализованным инвестициям в модели, которые остаются необновленными (или, что хуже, вообще никогда не развертываются).
В этой статье объясняется, что такое MLOps — системный подход к управлению жизненным циклом моделей ИИ, — и как платформа управления векторными данными с открытым исходным кодом Milvus может использоваться для операционализации ИИ в масштабе.
Что такое MLOps?
Операции машинного обучения (MLOps), также известные как модельные операции (ModelOps) или операционализация моделей ИИ, необходимы для создания, поддержки и развертывания приложений ИИ в масштабе. По мере того как компании стремятся применять разрабатываемые ими модели ИИ к сотням различных сценариев, критически важно, чтобы используемые модели и модели, находящиеся в разработке, были операционализированы во всей организации. MLOps включает мониторинг модели машинного обучения на протяжении всего её жизненного цикла и управление всем — от базовых данных до эффективности производственной системы, которая опирается на конкретную модель.
MLOps управляет жизненным циклом модели машинного обучения.
Gartner определяет ModelOps как управление и управление жизненным циклом широкого спектра операционализированных моделей искусственного интеллекта и моделей принятия решений. Основную функциональность MLOps можно разложить следующим образом:
Непрерывная интеграция/непрерывная доставка (CI/CD): Набор лучших практик, заимствованных из developer operations (DevOps), CI/CD — это метод доставки изменений кода чаще и надежнее. Непрерывная интеграция способствует внесению изменений в код небольшими партиями при их мониторинге с использованием строгого контроля версий. Непрерывная доставка автоматизирует доставку приложений в различные среды (например, среды тестирования и разработки).
Среды разработки моделей (MDE): Сложный процесс построения, рецензирования, документирования и проверки моделей; MDE помогают гарантировать, что модели создаются итеративно, документируются по мере разработки, являются надежными и воспроизводимыми. Эффективная MDE обеспечивает возможность контролируемым образом изучать, исследовать модели и проводить над ними эксперименты.
Тестирование champion-challenger: Подобно методологии A/B-тестирования, используемой маркетологами, тестирование champion-challenger предполагает эксперименты с различными решениями, чтобы помочь процессу принятия решений, предшествующему выбору единого подхода. Эта техника включает мониторинг и измерение производительности в реальном времени, чтобы определить, какое отклонение работает лучше всего.
Версионирование моделей: Как и в любой сложной системе, модели машинного обучения разрабатываются поэтапно множеством разных людей, что приводит к вопросам управления данными, связанным с версиями данных и ML-моделей. Версионирование моделей помогает управлять итеративным процессом разработки ML и контролировать его, когда данные, модели и код могут развиваться с разной скоростью.
Хранилище моделей и откат: При развертывании модели должен быть сохранен соответствующий ей файл образа. Возможности отката и восстановления позволяют командам MLOps при необходимости вернуться к предыдущей версии модели.
Использование всего одной модели в производственном приложении создает ряд сложных проблем. MLOps — это структурированный, повторяемый метод, который опирается на инструменты, технологии и лучшие практики для преодоления технических или бизнес-проблем, возникающих в течение жизненного цикла модели машинного обучения. Успешный MLOps поддерживает эффективность команд, работающих над созданием, развертыванием, мониторингом, повторным обучением и управлением AI-моделями и их использованием в производственных системах.
Почему необходим MLOps?
Как показано в жизненном цикле ML-модели выше, создание модели машинного обучения — это итеративный процесс, который включает включение новых данных, повторное обучение моделей и работу с общим ухудшением качества модели со временем. Все это — вопросы, которые традиционные операции разработчиков, или DevOps, не рассматривают и для которых не предоставляют решений. MLOps стал необходимым как способ управления инвестициями в AI-модели и обеспечения продуктивного жизненного цикла модели. Поскольку модели машинного обучения будут использоваться множеством различных производственных систем, MLOps становится неотъемлемой частью обеспечения выполнения требований в разных средах и при различных сценариях.
Модель машинного обучения развертывается в облачной среде, которая передает данные в приложение.
Простая иллюстрация выше изображает модель машинного обучения, развертываемую в облачной среде, которая передает данные в приложение. В этом базовом сценарии может возникнуть ряд проблем, которые MLOps помогает преодолеть. Поскольку производственное приложение зависит от конкретной облачной среды, существуют требования к задержке, к которым специалисты по данным, разработавшие ML-модель, не имеют доступа. Операционализация жизненного цикла модели позволила бы специалистам по данным или инженерам с глубоким знанием модели выявлять и устранять проблемы, возникающие в конкретных производственных средах.
Модели машинного обучения не только обучаются в средах, отличных от производственных приложений, в которых они используются, но и часто опираются на исторические наборы данных, отличающиеся от данных, используемых в производственных приложениях. С MLOps вся команда специалистов по данным, от тех, кто разрабатывает модель, до людей, работающих на уровне приложения, имеет средство для обмена и запроса информации и помощи. Скорость, с которой меняются данные и рынки, делает крайне важным, чтобы между всеми ключевыми заинтересованными сторонами и участниками, которые будут зависеть от данной модели машинного обучения, было как можно меньше трений.
Поддержка перехода к Software 2.0
Software 2.0 — это идея о том, что разработка программного обеспечения переживет смену парадигмы, поскольку искусственный интеллект все чаще играет центральную роль в написании AI-моделей, лежащих в основе программных приложений. В рамках Software 1.0 разработка предполагает, что программисты пишут явные инструкции с использованием конкретного языка программирования (например, Python, C++). Software 2.0 гораздо более абстрактен. Хотя люди предоставляют входные данные и задают параметры, нейронные сети трудно понять человеку из-за их огромной сложности — типичные сети содержат миллионы весов, влияющих на результаты (а иногда миллиарды или триллионы).
DevOps был построен вокруг зависимости Software 1.0 от конкретных инструкций, задаваемых программистами с использованием языков, но никогда не учитывал жизненный цикл модели машинного обучения, которая лежит в основе множества различных приложений. MLOps отвечает на необходимость изменения процесса управления разработкой программного обеспечения вместе с разрабатываемым программным обеспечением. По мере того как Software 2.0 становится новым стандартом решения задач с помощью компьютеров, наличие правильных инструментов и процессов для управления жизненными циклами моделей будет определять успех или провал инвестиций в новые технологии. Milvus — это open-source движок поиска векторного сходства, созданный для поддержки перехода к Software 2.0 и управления жизненными циклами моделей с помощью MLOps.
Как Milvus поддерживает переход к Software 2.0.
Внедрение AI в эксплуатацию в масштабе с Milvus
Milvus — это векторная база данных / платформа управления векторными данными, созданная специально для хранения, запросов, обновления и поддержки массивных векторных наборов данных триллионного масштаба. Платформа обеспечивает поиск векторного сходства и может интегрироваться с широко используемыми библиотеками индексов, включая Faiss, NMSLIB и Annoy. Объединяя модели AI, которые преобразуют неструктурированные данные в векторы, с Milvus, можно создавать приложения для разработки новых лекарств, биометрического анализа, рекомендательных систем и многого другого.
Поиск векторного сходства — это основное решение для обработки и аналитики неструктурированных данных, а векторные данные быстро становятся ключевым типом данных. Комплексная система управления данными, такая как Milvus, способствует внедрению AI в эксплуатацию многими способами, включая:
Предоставление среды для обучения моделей, которая гарантирует, что больше аспектов разработки выполняется в одном месте, облегчая межкомандное сотрудничество, управление моделями и многое другое.
Предложение комплексного набора API, поддерживающих популярные фреймворки, такие как Python, Java и Go, что упрощает интеграцию общего набора моделей ML.
Совместимость с Google Colaboratory, средой Jupyter notebook, работающей в браузере, упрощает процесс компиляции Milvus из исходного кода и выполнения базовых операций Python.
Функциональность автоматизированного машинного обучения (AutoML) позволяет автоматизировать задачи, связанные с применением машинного обучения к реальным проблемам. AutoML не только приводит к повышению эффективности, но и дает неспециалистам возможность использовать модели и методы машинного обучения.
Независимо от того, какие приложения машинного обучения вы создаете сегодня или какие планы у вас есть для приложений в будущем, Milvus — это гибкая платформа управления данными, созданная с учетом Software 2.0 и MLOps. Чтобы узнать больше о Milvus или внести вклад, найдите проект на Github. Чтобы присоединиться к сообществу или задать вопросы, подключайтесь к нашему каналу Slack. Хотите больше материалов? Ознакомьтесь со следующими ресурсами:
Читать далее
Zilliz Cloud On-Demand Compute: Pay Only for What You Use
The customer case behind Zilliz Cloud On-Demand: how a $10K vector search bill came down to under $500, and the engineering changes that made it possible.
Zilliz Skills Breakdown: How AI Agents Master Vector Databases
Zilliz's Milvus Skill (pymilvus, 7 files) and Zilliz Cloud Skill (zilliz-cli, 14 modules) bring vector-DB dev and ops into one Claude Code session.
Zilliz Cloud Delivers Better Performance and Lower Costs with Arm Neoverse-based AWS Graviton
Zilliz Cloud adopts Arm-based AWS Graviton3 CPUs to cut costs, speed up AI vector search, and power billion-scale RAG and semantic search workloads.