Этот курс готовит слушателей к проектированию, внедрению и эксплуатации решений для операций машинного обучения (MLOps) и генеративного ИИ (GenAIOps) на платформе Azure. Он охватывает создание безопасной и масштабируемой инфраструктуры ИИ, управление полным жизненным циклом традиционных моделей машинного обучения с помощью Azure Machine Learning, а также развертывание, оценку, мониторинг и оптимизацию приложений и агентов генеративного ИИ с использованием Microsoft Foundry. Слушатели получат практические знания в области автоматизации, непрерывной интеграции и доставки, инфраструктуры как кода и мониторинга с помощью таких инструментов, как GitHub Actions, Azure CLI и Bicep. Курс делает акцент на сотрудничестве с командами специалистов по анализу данных и DevOps для создания надежных, готовых к производству систем ИИ, соответствующих современным передовым практикам MLOps и GenAIOps.
По окончании курса слушатели смогут:
- Обучать и оценивать модели классификации машинного обучения с использованием Azure Machine Learning
- Оптимизировать обучение моделей с помощью скриптов, отслеживания MLflow, настройки гиперпараметров и конвейеров машинного обучения
- Разрабатывать и автоматизировать решения MLOps с использованием GitHub Actions и Azure Machine Learning
- Развертывать и отслеживать модели машинного обучения на управляемой онлайн-конечной точке в Azure Machine Learning
- Настраивать и конфигурировать Microsoft Foundry для разработки приложений генеративного ИИ
- Разрабатывать, версионировать и развертывать агентов ИИ с использованием проектирования подсказок в Microsoft Foundry
- Систематически тестировать, оценивать и оптимизировать подсказки агентов ИИ с помощью автоматизированных облачных оценщиков
- Отслеживать и контролировать работу агентов генеративного ИИ в производственной среде с помощью Application Insights и распределенной трассировки
- Оптимизировать агентов ИИ посредством тонкой настройки, включая контролируемую тонкую настройку, тонкую настройку с подкреплением и прямую оптимизацию предпочтений
Аудитория
Этот курс предназначен для специалистов по анализу данных, инженеров MLOps и разработчиков ИИ, которые проектируют и внедряют решения на основе ИИ с использованием Azure Machine Learning и Microsoft Foundry. Профиль кандидата включает создание или поддержку конвейеров машинного обучения, автоматизацию рабочих процессов ИИ или внедрение генеративных приложений ИИ в корпоративных средах.
Учащиеся должны уверенно работать с Python, облачными сервисами и GitHub.
Для эффективного обучения на курсе, слушатели должны обладать следующими знаниями и навыками:
- Знание языка программирования Python
- Опыт работы со службами Azure (портал Azure, подписки, группы ресурсов)
- Знание GitHub и систем контроля версий
- Знание основных концепций Azure Machine Learning
Опыт работы со службами Azure Machine Learning или Azure AI будет преимуществом, но не обязателен
1. Внедрение моделей машинного обучения в практику (MLOps)
1.1 Работа с Azure Machine Learning
- Предварительная обработка данных и настройка извлечения признаков
- Запуск автоматизированного эксперимента по машинному обучению
- Оценка и сравнение моделей
- Настройка MLflow для отслеживания моделей в блокнотах
- Обучение и отслеживание моделей в блокнотах
- Оценка моделей с помощью панели мониторинга Responsible AI
1.2 Подбор гиперпараметров с помощью Azure Machine Learning
- Определение пространства поиска
- Настройка метода выборки (семплирования)
- Настройка раннего завершения
- Использование sweep-заданий (перебора) для подбора гиперпараметров
1.3 Запуск конвейеров (pipelines) в Azure Machine Learning
- Создание компонентов
- Создание конвейера
- Запуск задания конвейера
1.4 Запуск заданий Azure Machine Learning с помощью GitHub Actions
- Понимание бизнес-задачи
- Изучение архитектуры решения
- Использование GitHub Actions для обучения моделей
1.5 Запуск GitHub Actions при разработке на основе функционала (feature-based development)
- Понимание бизнес-задачи
- Изучение архитектуры решения
- Запуск рабочего процесса (workflow)
1.6 Работа со средами (environments) в GitHub Actions
- Понимание бизнес-задачи
- Изучение архитектуры решения
- Настройка сред
1.7 Развертывание модели с помощью GitHub Actions
- Понимание бизнес-задачи
- Изучение архитектуры решения
- Развертывание модели
2. Внедрение генеративных ИИ-приложений (GenAIOps)
2.1. Планирование и подготовка решения GenAIOps
- Изучение вариантов использования (use cases) GenAIOps
- Выбор подходящей модели генеративного ИИ
- Понимание жизненного цикла разработки приложений на основе языковых моделей
- Изучение доступных инструментов и фреймворков для внедрения GenAIOps
2.2. Управление промптами для агентов в Microsoft Foundry через GitHub
- Применение контроля версий для промптів
- Понимание агентов Microsoft Foundry и версионности промптов
- Организация промптов в репозиториях GitHub
- Разработка безопасных рабочих процессов развертывания промптов
2.3. Оценка и оптимизация ИИ-агентов через структурированные эксперименты
- Проектирование экспериментов по оценке
- Применение рабочих процессов на базе Git для экспериментов по оптимизации
- Использование критериев оценки (rubrics) для согласованного скоринга
2.4. Автоматизация оценки ИИ с помощью Microsoft Foundry и GitHub Actions
- Почему важна автоматизированная оценка
- Сопоставление автоматических оценщиков с человеческими критериями
- Создание наборов данных для оценки
- Внедрение пакетной оценки (batch evaluation) на Python
- Интеграция оценки в GitHub Actions
2.5. Мониторинг вашего генеративного ИИ-приложения
- Зачем нужен мониторинг?
- Понимание ключевых метрик для мониторинга
- Изучение способов мониторинга с помощью Azure
- Интеграция мониторинга в ваше приложение
- Интерпретация результатов мониторинга
2.6. Анализ и отладка генеративного ИИ-приложения с помощью трассировки (tracing)
- Зачем использовать трассировку
- Определение объектов трассировки в приложениях генеративного ИИ
- Внедрение трассировки в приложения генеративного ИИ
- Отладка сложных рабочих процессов с помощью продвинутых паттернов трассировки
- Принятие обоснованных решений на основе анализа данных трассировки