Как быстро развернуть Kubernetes кластер с GPU на Windows

Здравствуйте! Я Андросов Михаил, MLOps-инженер, и в этой статье расскажу, как развернуть однопузловой кластер Kubernetes с поддержкой GPU на Windows, используя WSL. У меня установлен домашний ПК с видеокартой NVIDIA RTX 4090 на 24 ГБ, что позволяет эффективно тестировать GPU-зависимые приложения.

Для начала, убедитесь, что у вас Windows 10 или 11 и установлены компоненты WSL с дистрибутивом Ubuntu 24.04. Включите виртуализацию в BIOS. Затем создайте файл конфигурации .wslconfig и отключите swap.

Далее установите свежие драйверы NVIDIA и настройте статический IP-адрес для WSL. Для этого можно использовать WireGuard или другие методы. После подготовки системы обновите пакеты и активируйте необходимые модули ядра. Подключите репозитории Docker и Kubernetes, установите containerd и его зависимости.

Инициализируйте кластер с помощью команды kubeadm init. Подключите сетевой плагин – я рекомендую Flannel. Для работы с GPU установите NVIDIA Container Toolkit и настройте его. Создайте ConfigMap и DaemonSet для NVIDIA Device Plugin, чтобы использовать ресурсы GPU.

Запустите pod с командой nvidia-smi, чтобы проверить доступность GPU в кластере. Теперь вы можете использовать GPU для инференсов и других задач. Удачи!