Примеры работы с платформой ML Space от Cloud.ru

В репозитории приведены примеры использования платформы ML Space от начального до продвинутого уровня для решения ML-задач.

Быстрый старт в обучении моделей

Базовые примеры размещены в директории quick-start. Они иллюстрируют, как обучить модель:

1. Напрямую из Jupyter Server, подключенного к GPU

   • Обучение в ноутбуке с GPU

2. В регионе с помощью client-lib

   • Обучение на PyTorch
   • Обучение на TensorFlow 2
   • Обучение на CPU

Другие примеры обучения моделей

Дополнительные примеры обучения моделей под разные задачи:

• pytorch-example — задача распределенного обучения Pytorch-модели с двумя типами запуска: стандартный horovod и дополнительный pytorch, он же Pytorch.Distributed.
• hugging-face-llm-example — работа с языковой моделью методами LoRA и PEFT, а также распределенное обучение с PyTorch Distributed Data Parallel (DDP).
• lightning-example — использование PyTorch и PyTorch Lightning для задачи классификации изображений.
• pytorch-elastic-example — обучение модели на PyTorch и Elastic Learning с сохранением контрольных точек обучения (чекпоинтов).

Препроцессинг данных

• Загрузка/выгрузка данных на S3 в базовых примерах quickstart.
• Работа с Rapids — библиотекой, ускоряющей обработку датасетов на GPU.
• В ноутбуке Spark_preproc.ipynb поясняется, как c использованием ресурсов кластера Spark создать SparkSession и SparkContext, загрузить данные на S3 и выполнить препроцессинг этих данных.

Public API v2

В ноутбуке public-api-example содержатся примеры того, как взаимодействовать с публичным API v2.