VOSHOD Signal

Автоматическое масштабирование SageMaker AI с помощью AWS CDK: решение проблем обновления эндпоинтов

AWS описала способ автоматизации обновления конфигураций SageMaker AI с авто масштабированием через AWS CDK, устраняя ошибки и сбои, которые возникают при изменении параметров эндпоинтов.

Иллюстрация VOSHOD Signal: Автообновление масштабирования SageMaker
VOSHOD Signal · редакционная иллюстрация

При обновлении конфигурации SageMaker AI с включённым авто масштабированием стандартные инструменты AWS CloudFormation и CDK сталкиваются с ошибками, так как требуется сначала отменить регистрацию масштабируемой цели.

Ручное снятие регистрации приводит к тому, что CloudFormation теряет контроль над ресурсами авто масштабирования, что может привести к отсутствию авто масштабирования после обновления или ошибкам отката.

Решение — использование кастомных ресурсов в AWS CDK, которые автоматически снимают регистрацию масштабируемой цели перед обновлением эндпоинта и заново регистрируют её после успешного обновления.

Этот подход реализован через три кастомных ресурса, которые последовательно управляют процессом: снятие регистрации, обновление эндпоинта, повторная регистрация и применение политики масштабирования.

В результате можно обновлять конфигурации и параметры авто масштабирования в одном деплое без ручных действий и с гарантией корректного состояния стека CloudFormation.

Зачем это бизнесу

Автоматизация управления авто масштабированием SageMaker AI через AWS CDK снижает риски простоев и ошибок при обновлениях, упрощает DevOps-процессы и повышает надёжность ML-инфраструктуры.

Материал подготовлен редакцией VOSHOD по открытому источнику. Мы сокращаем и адаптируем текст, чтобы выделить практический смысл.