Месяц 3 — Глубокое обучение

🎯 Цель этого месяца

К концу месяца вы сможете:

• Понимать, что такое нейронная сеть и как она работает
• Создавать и обучать собственные нейронные сети в PyTorch
• Знакомиться с TensorFlow/Keras
• Выполнять image classification с помощью CNN
• Обрабатывать sequence data с помощью RNN/LSTM
• Применять transfer learning

Распределение по неделям

Порядок глав

1. Основы нейронных сетей — perceptron, backprop, интуиция
2. Основы PyTorch — tensor, autograd, nn.Module
3. TensorFlow и Keras — альтернативный фреймворк
4. Техники обучения — optimizers, регуляризация, callbacks
5. CNN — Свёрточные сети — image classification
6. RNN, LSTM, GRU — sequence data
7. Упражнения

Что вы сможете делать в конце месяца?

• Писать nn.Module в PyTorch и строить training loop
• Достигать 95%+ accuracy на датасетах MNIST, CIFAR-10
• Делать fine-tune для pretrained моделей (ResNet, EfficientNet)
• GPU-powered сервис предсказаний через FastAPI
• Выводить ML-модели в production через torch.save / torch.jit

Совет для Backend Dev

DL = “Layered functions + Automatic differentiation”. Вам нужны две вещи:

1. Архитектура модели — сборка слоёв (как LEGO)
2. Training loop — for-each-batch: forward → loss → backward → optimizer

Сначала кажется сложным, но после написания 2-3 примеров вы почувствуете “паттерн”.

О Hardware

DL создан не для CPU, а для GPU. Варианты:

1. Mac M1/M2/M3 — backend MPS (PyTorch 2.0+) — достаточно для небольших моделей
2. Local NVIDIA GPU(RTX 3060+) — установка CUDA + cuDNN
3. Google Colab — бесплатный T4 GPU (12 часов/сессия) — РЕКОМЕНДУЕТСЯ
4. Kaggle Notebooks — бесплатный P100 GPU (30 часов/неделя)
5. **Платно:**Lambda Labs, vast.ai, RunPod — $0.20-2 в час

**Совет:**для локальных упражнений CPU/M-chip, для capstone — Colab/Kaggle GPU.

Начать

Перейдите к разделу Основы нейронных сетей.