Как TAL Education Group масштабирует обучение на базе ИИ с помощью Milvus

О TAL Education Group

TAL Education Group (NYSE: TAL) — одна из ведущих образовательных технологических компаний Азии, обслуживающая миллионы учащихся и семей. Основанная в 2003 году и вышедшая на Нью-Йоркскую фондовую биржу в 2010 году, TAL выросла из своего репетиторского бизнеса Xueersi в широкий портфель продуктов для цифрового обучения, включая Xueersi.com, Xueersi Smart Devices, MathGPT и другие технологически ориентированные образовательные бренды, — все они разработаны для поддержки учащихся дома и в средах цифрового класса.

По мере того как TAL все глубже развивала обучение на базе ИИ — охватывающее персонализированное репетиторство, автоматизированную проверку, рекомендации контента и мультимодальный поиск знаний, — компании потребовалась новая инфраструктура данных, способная поддерживать эти ресурсоемкие вычислительные нагрузки в масштабе. Выбрав Milvus в качестве основы для своей платформы векторного поиска, TAL получила производительность, масштабируемость и гибкость, необходимые для более быстрой проверки, более точных рекомендаций и более интеллектуального семантического поиска во всех своих продуктах. Сейчас Milvus играет ключевую роль в поддержке более широкой миссии TAL: предоставлять высококачественный, технологически усиленный учебный опыт, доступный, эффективный и результативный для каждого учащегося.

Проблемы, с которыми сталкиваются учебные системы TAL на базе ИИ

TAL внедряет ИИ в нескольких ключевых образовательных сценариях — автоматизированной проверке, рекомендациях учебных ресурсов и векторном поиске документов. Но по мере масштабирования этих сервисов компания быстро достигла пределов традиционных систем данных. Современное онлайн-образование генерирует огромные объемы сложного мультимодального контента, а проверка на базе ИИ требует как высокой пропускной способности, так и глубокого понимания ответов учащихся. Эти нагрузки выявили структурные проблемы, которые устаревшая инфраструктура просто не могла решить.

1. Взрывной рост мультимодальных данных

TAL ежедневно обрабатывает сотни тысяч новых вопросов и ответов по предметам, уровням обучения и форматам, включая изображения, диаграммы и рукописные формулы. Этот постоянный приток данных выводит традиционные базы данных за пределы их возможностей по эффективной индексации и извлечению данных. По мере роста цифровых учебных платформ TAL серверная часть должна бесшовно масштабироваться, чтобы поддерживать растущие требования к хранению, высокопроизводительный векторный поиск и внезапные всплески трафика во время экзаменов и пиковых периодов обучения — и все это без ущерба для производительности или доступности.

2. Операционная неэффективность в конвейере проверки

Проверка человеком не успевает за масштабом современного онлайн-обучения. Оценка одного теста может занимать у преподавателя 15–20 минут, а субъективные вопросы часто приводят к несогласованным оценкам у разных проверяющих. В масштабе TAL это приводит к узким местам в проверке и отнимает ценное время преподавателей, которое можно было бы перенаправить на персонализированное обучение.

Кроме того, TAL поддерживает обширную библиотеку объяснений, решений и учебных материалов, но эти активы разбросаны по разным системам. Без интеллектуального поиска высококачественные ресурсы остаются недостаточно используемыми, создавая разрывы между созданием контента и реальными потребностями учащихся.

3. Высокие требования к точности обратной связи на базе ИИ

Проверка с помощью ИИ должна делать больше, чем сопоставлять ключевые слова, — она должна понимать смысл. Системам TAL необходимо выявлять семантическую эквивалентность, интерпретировать разнообразные формулировки и оценивать учащихся справедливо и последовательно. Любые сгенерированные объяснения должны быть точными, педагогически обоснованными и соответствующими возрасту. Для поддержки этого TAL требуется надежный граф знаний, который связывает каждый вопрос с соответствующими понятиями и отображает их взаимосвязи. Традиционные системы не предназначены для поддержки такого уровня семантического рассуждения в масштабе.

Обеспечение работы систем проверки и обучения TAL на базе ИИ с помощью Milvus

По мере того как TAL масштабировала свои сервисы проверки и обучения на базе ИИ, ей понадобилась векторная инфраструктура, способная поддерживать массивные рабочие нагрузки с эмбеддингами, обеспечивая высокую точность и отклик в реальном времени. После оценки нескольких решений TAL выбрала Milvus в качестве основного движка своей платформы векторных данных.

Поверх Milvus TAL построила модульную архитектуру, которая обеспечивает высокое качество данных, бесшовную интеграцию с приложениями и непрерывное улучшение системы.

Конвейер обработки данных: чистые, согласованные, готовые к векторизации данные

Конвейер обработки данных TAL формирует основу всей системы. Вопросы, ответы и учебные материалы поступают из нескольких источников, включая API, пакетные загрузки и OCR-извлечение из изображений или рукописного текста. После поступления весь контент проходит нормализацию, извлечение признаков и проверки качества, прежде чем преобразуется в векторные эмбеддинги. Этот конвейер гарантирует, что всё, что хранится в Milvus, является чистым, согласованным и оптимизированным для высококачественного семантического поиска.

Векторная база данных Milvus: высокопроизводительный поиск в масштабе миллиардов

В основе архитектуры TAL находится векторная база данных Milvus, которая обеспечивает хранение векторов в масштабе миллиардов и высокопроизводительный семантический поиск. Распределённая архитектура Milvus и индексация Approximate Nearest Neighbor (ANN) позволяют TAL обслуживать запросы на сходство за миллисекунды — даже среди сотен миллионов и миллиардов эмбеддингов. Стратегия нескольких индексов в Milvus помогает TAL балансировать скорость и точность, тогда как MySQL хранит структурированные метаданные, такие как версии и сопоставления индексов. Это поддерживает тесную синхронизацию векторных и реляционных данных.

Сегодня это развертывание Milvus управляет 1B+ векторов в 20+ коллекциях, при этом один кластер обрабатывает миллионы поисковых запросов в день.

Прикладные сервисы: превращение векторного поиска в образовательный эффект

Уровень прикладных сервисов превращает возможности Milvus в реальный образовательный эффект.

• Проверка ИИ: использует семантическое сходство для оценки ответов учащихся и генерации объяснений.

• Рекомендации: находит похожие вопросы, адаптированные к уровню обучения и прогрессу учащегося.

• Дедупликация контента: выявляет повторяющийся или избыточный контент для поддержания качества банка вопросов.

Каждый сервис зависит от способности Milvus обеспечивать быстрый и точный поиск в масштабе, гарантируя, что учащиеся и преподаватели получают своевременные, персонализированные и согласованные результаты.

Фреймворк оценки качества: замкнутый цикл для непрерывного улучшения

Чтобы поддерживать надежность в масштабе, TAL создала фреймворк непрерывной оценки качества во всей системе. Каждый результат проверки, сгенерированный ИИ, получает оценку уверенности на основе семантического сходства, исторической эффективности и отзывов преподавателей. Эти сигналы поступают в структурированный цикл обратной связи, который выявляет аномалии, корректирует логику выставления баллов, обновляет параметры модели и со временем улучшает качество поиска.

Этот механизм замкнутого цикла гарантирует, что система становится точнее по мере роста использования, а не деградирует при более высоких нагрузках.

Реальный прирост производительности и новые возможности благодаря Milvus

После развертывания Milvus в своих гибридных облачных средах TAL быстро увидела значительные улучшения в производительности системы и качестве образовательного опыта на базе ИИ.

Поиск за миллисекунды в масштабе миллиардов

Теперь Milvus обрабатывает миллиарды векторов с семантическим поиском на уровне миллисекунд, заменяя медленные методы нечеткого сопоставления, которые раньше сдерживали проверку ИИ, рекомендации и поиск контента. С внедрением Milvus результаты возвращаются быстрее, точность повышается, а преподаватели и учащиеся получают более согласованные ответы по всем направлениям.

Более высокая точность и большая стабильность

Векторный поиск по сходству Milvus дает TAL гораздо более глубокое понимание ответов учащихся. По сравнению с предыдущими системами Milvus обеспечивает:

• Более точные результаты поиска, особенно для открытых и мультимодальных вопросов

• Более качественный recall, выявляющий релевантный контент, который не может найти поиск по ключевым словам

• Стабильная производительность на миллиардном масштабе, даже в пиковые экзаменационные периоды

• Более быстрая сквозная обработка, снижающая задержку при оценивании и рекомендациях

Эти достижения повышают не только эффективность системы, но и качество обучения, позволяя ИИ лучше понимать намерения учащихся и отвечать с большей педагогической релевантностью.

Открытие новых возможностей ИИ во всей экосистеме

Помимо ускорения существующих процессов, Milvus обеспечил волну новой функциональности на обучающих платформах TAL:

• AI Grading: Более точное семантическое сопоставление повышает согласованность оценивания и качество объяснений.

• Internal IM Platform: Более быстрый и релевантный поиск документов улучшает совместную работу и повторное использование контента.

• Knowledge-Base QA: Точный recall на уровне фрагментов предоставляет ответы, которые поиск по ключевым словам никогда не смог бы выявить.

Повышение справедливости и эффективности образования

Улучшения Milvus превращаются в реальные преимущества в классе. Более быстрое и надежное оценивание с помощью ИИ снижает нагрузку на учителей и обеспечивает более согласованное выставление оценок для больших групп учащихся. Более качественный семантический поиск упрощает нахождение и повторное использование высококачественных учебных ресурсов. Вместе эти улучшения помогают TAL предоставлять более персонализированную и справедливую поддержку каждому ученику.

Более высокая операционная эффективность и наблюдаемость

Для инженерных команд Milvus также упрощает повседневную эксплуатацию. Веб-консоль Attu, официальный инструмент управления Milvus, делает проверку векторов и управление коллекциями более интуитивными, снижая операционные накладные расходы. В то же время интеграции с Prometheus + Alertmanager обеспечивают глубокую видимость задержек, состояния узлов, использования хранилища и паттернов ошибок. Эта наблюдаемость помогает TAL поддерживать стабильные, предсказуемые сервисы — даже во время всплесков трафика и крупных экзаменационных циклов.

Что дальше: развитие вместе с Milvus и сообществом

После прочного внедрения Milvus в нескольких командах TAL теперь смотрит вперед, оценивая, как векторный поиск может поддержать еще больше его ИИ-инициатив. Эксплуатация Milvus на миллиардном масштабе дала инженерам TAL четкое понимание того, что работает хорошо и где новые улучшения могут оказать еще большее влияние.

TAL планирует оставаться активным участником сообщества Milvus — делиться реальным производственным опытом, давать обратную связь по новым функциям и тесно работать с контрибьюторами, формируя следующую волну возможностей векторных баз данных. Улучшения, такие как более простая миграция данных между кластерами и дальнейшая оптимизация производительности, сделали бы внедрение Milvus в большем числе продуктов TAL еще проще.

Чтобы обеспечить бесперебойную работу критически важных сервисов, TAL также использует Zilliz Cloud, полностью управляемый сервис Milvus, наряду со своим open-source-развертыванием Milvus. Такая dual-active конфигурация обеспечивает команде дополнительную надежность во время обновлений или периодов высокого трафика и гарантирует, что учащиеся и учителя всегда имеют стабильный учебный опыт.

По мере того как TAL продолжает создавать более интеллектуальные и масштабируемые инструменты ИИ для образования, Milvus останется ключевой частью его технологического стека, помогая компании предоставлять более быстрые, умные и надежные учебные решения для миллионов семей.

Примечание: Это кейс-стади было написано Zhiming Huang и Muzi Lee, старшими специалистами по данным в TAL Education Group, и переведено, отредактировано и повторно опубликовано здесь с разрешения.