FastAPI + Docker: модель в проде

REST API для ML-модели, контейнеризация, деплой

10Forte

Моделей в Docker

24/7production

Uptime

<50msfast

Latency API

0zero

Downtime deploy

AI Insight

Модель в Jupyter — это демо. Модель за FastAPI + Docker — это продукт. В Forte Bank 10 ML-моделей работают 24/7 как Docker-контейнеры за FastAPI. Zero downtime deployment.

Ключевые темы

FastAPI — современный Python-фреймворк для API: async, автодокументация, валидация

Сериализация модели: pickle, joblib, ONNX — плюсы и минусы каждого

Docker: Dockerfile, multi-stage build, docker-compose для ML-сервисов

Батч-inference vs real-time inference: когда что использовать

Health checks, graceful shutdown, logging — production-ready сервис

Аналитика и графики

Старый подход vs AI-подход

🪦Старый век

🚀Новый век

Деплой ML-модели

Jupyter notebook → cron → CSV → email

∞

FastAPI + Docker → REST API → 24/7

Инструменты урока

FastAPIDockerdocker-composeuvicornONNX

Домашнее задание

Практическое задание

Задеплойте лучшую модель курса: 1) FastAPI эндпоинт /predict, 2) Pydantic валидация входа/выхода, 3) Docker + docker-compose, 4) Автодокументация /docs. Время ответа < 100ms.

Урок 56 из 59

Transfer Learning и Fine-Tuning

MLflow и мониторинг моделей