Масштабирование AI-агентов: OpenClaw SaaS для 500+ пользователей

1. Зачем каждому юзеру свой AI-агент

Представьте SaaS, где каждый клиент получает персонального AI-ассистента в Telegram. Не чат-бота с кнопками, а полноценного агента: он помнит контекст, работает с файлами, ищет в интернете, выполняет код и адаптируется под конкретного человека.

В 2026 году это реальный продукт. OpenClaw — open-source AI Gateway — позволяет запустить такого агента за минуты. Один процесс, один конфиг, один Telegram-бот — и у вас личный Джарвис. Вопрос в другом: как масштабировать это с одного юзера до пятисот?

Почему multi-tenant на одном процессе не работает

OpenClaw поддерживает agents system — несколько агентов на одном gateway. Казалось бы, идеально. Но для SaaS этот подход провалится:

Что получает каждый юзер

Типичный профиль: юзер активен 10–20% времени (2–5 часов/день), отправляет 20–50 сообщений. В остальное время процесс спит, потребляя ~60 MB RAM. Пиковая нагрузка — утро 9–11 и вечер 19–22 МСК.

2. Архитектура «один процесс = один юзер»

Общая схема

Как это работает

1. Telegram отправляет webhook на единый домен: https://api.your-saas.com/webhook/{bot_token}. Каждый юзер создал своего бота через @BotFather — у каждого уникальный токен.

2. Webhook Router — легковесный reverse proxy (Nginx с lua или Node.js на ~30 строк) — смотрит на bot_token в URL, находит порт нужного OpenClaw-инстанса и проксирует запрос.

3. OpenClaw-процесс обрабатывает сообщение: загружает контекст сессии, отправляет запрос к LLM API (DeepSeek, Gemini и т.д.), выполняет tool calls, возвращает ответ юзеру.

4. LLM API — все инстансы используют один набор API-ключей. Стоимость отслеживается через логи: сколько токенов потратил каждый юзер. Это позволяет аллоцировать расходы и выставлять счета.

Файловая структура

/data/users/
  user_001/
    openclaw.json          # конфиг с уникальным bot token
    AGENTS.md              # персональный system prompt
    workspace/             # файлы юзера
      MEMORY.md
      memory/
        2026-02-16.md
  user_002/
    openclaw.json
    AGENTS.md
    workspace/
  ...
  user_500/
    openclaw.json
    AGENTS.md
    workspace/

Каждый юзер — полностью изолированная директория. Шаблон openclaw.json копируется при регистрации, с подстановкой уникального botToken и порта.

3. Mac Mini vs VPS vs Cloud

Mac Mini M4 Pro — то, что уже есть

12 ядер (10P + 2E), 24 GB unified memory, 512 GB SSD. Ключевые расчёты:

Формула: 20 GB / (0.8 × 60 + 0.2 × 180) = 20000 / 84 ≈ 238. С учётом overhead (Node.js GC, tmpfs, логи) — реалистично 80–100 юзеров. CPU не bottleneck: LLM-вызовы — это network I/O, а не вычисления.

VPS — горизонтальное масштабирование

Сравнительная таблица

4. PM2 → Docker → K3s

Этап 1: PM2 (10–80 юзеров)

PM2 — менеджер процессов для Node.js. Нулевой overhead, встроенный мониторинг, автоперезапуск. Идеален для Mac Mini.

PM2 — это MVP за 1 день. Создаёте ecosystem-файл, который динамически генерируется из списка юзеров, и запускаете. Нет overhead на контейнеризацию, нет Linux VM на Mac. Минус один: нулевая изоляция. Юзер A теоретически может получить доступ к файлам юзера B (если агент не ограничен через tool policy). Для первых 50 платных юзеров — приемлемо, если настроить tool policy правильно.

Этап 2: Docker (50–200 юзеров)

Когда изоляция становится критичной (или вы переезжаете на VPS), Docker — естественный следующий шаг.

# Dockerfile для OpenClaw-инстанса
FROM node:22-alpine
RUN npm install -g openclaw
WORKDIR /workspace
COPY openclaw.json .
COPY AGENTS.md .
EXPOSE 3000
CMD ["openclaw", "gateway", "start"]

Каждый юзер — отдельный контейнер. Docker Compose управляет всеми контейнерами на одном хосте. При необходимости — Docker Swarm для multi-host.

Этап 3: K3s (200–500+ юзеров)

K3s — облегчённый Kubernetes, идеальный для edge-деплоя. Потребляет ~512 MB RAM (vs ~2 GB у полного K8s). Развёртывается за минуты.

5. Unit Economics

Стоимость LLM API на одного юзера

Типичный юзер: 20–50 сообщений/день → ~100K input + ~50K output tokens/день.

Полная себестоимость: сводная таблица

Маржинальность по тарифам

6. Scale-to-zero

Идея: контейнер спит, пока не придёт сообщение

Если юзер не пишет 30 минут — зачем его контейнеру потреблять ресурсы? Scale-to-zero означает: контейнер останавливается при бездействии и просыпается при входящем webhook.

Числа

Экономия: 2× на инфраструктуре. Но есть цена — cold start 3–15 секунд при первом сообщении после idle. OpenClaw при старте загружает workspace, память и LLM-контекст.

Решение проблемы cold start

# Скрипт усыпления неактивных контейнеров (cron каждые 5 минут)
#!/bin/bash
IDLE_THRESHOLD=1800  # 30 минут в секундах

for container in $(docker ps --filter "label=openclaw" -q); do
  USER_ID=$(docker inspect --format '{{index .Config.Labels "user_id"}}' $container)
  LAST_ACTIVITY=$(cat /data/users/$USER_ID/last_activity 2>/dev/null || echo 0)
  NOW=$(date +%s)
  IDLE=$((NOW - LAST_ACTIVITY))
  
  if [ $IDLE -gt $IDLE_THRESHOLD ]; then
    echo "Stopping idle container for user $USER_ID (idle ${IDLE}s)"
    docker stop $container
  fi
done

7. Webhook Router

Зачем нужен

Telegram отправляет webhook на один URL. У нас 500 ботов = 500 разных токенов. Router — это «почтальон», который смотрит на токен в URL и доставляет запрос нужному процессу.

Реализация на Node.js (~40 строк)

const http = require('http');
const httpProxy = require('http-proxy');
const { exec } = require('child_process');

const proxy = httpProxy.createProxyServer();
const routes = new Map(); // bot_token → { port, userId }

// Загружаем маршруты из users.json
function loadRoutes() {
  const users = require('/data/users.json');
  routes.clear();
  users.forEach(u => routes.set(u.botToken, {
    port: u.port,
    userId: u.id
  }));
}
loadRoutes();

// Обновляем маршруты по SIGHUP
process.on('SIGHUP', loadRoutes);

http.createServer(async (req, res) => {
  // URL: /webhook/{bot_token}
  const match = req.url.match(/^\/webhook\/(.+)/);
  if (!match) { res.writeHead(404); return res.end('Not found'); }
  
  const token = match[1];
  const route = routes.get(token);
  if (!route) { res.writeHead(404); return res.end('Bot not found'); }
  
  // Обновляем last_activity для scale-to-zero
  const fs = require('fs');
  fs.writeFileSync(`/data/users/${route.userId}/last_activity`,
    String(Math.floor(Date.now() / 1000)));
  
  // TODO: проверить, жив ли контейнер, если нет — запустить
  
  proxy.web(req, res, {
    target: `http://127.0.0.1:${route.port}`
  });
}).listen(8080, () => console.log('Webhook router on :8080'));

Вариант на Nginx + Lua (высокая производительность)

# nginx.conf (с OpenResty / lua-nginx-module)
http {
    lua_shared_dict routes 10m;
    
    init_by_lua_block {
        -- Загрузить маршруты из файла при старте
        local cjson = require "cjson"
        local f = io.open("/data/routes.json", "r")
        local users = cjson.decode(f:read("*a"))
        f:close()
        for _, u in ipairs(users) do
            ngx.shared.routes:set(u.bot_token, u.port)
        end
    }
    
    server {
        listen 8080;
        
        location ~ ^/webhook/(.+)$ {
            set $bot_token $1;
            set $backend_port '';
            
            access_by_lua_block {
                local port = ngx.shared.routes:get(ngx.var.bot_token)
                if not port then
                    ngx.exit(404)
                end
                ngx.var.backend_port = port
            }
            
            proxy_pass http://127.0.0.1:$backend_port;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
        }
    }
}

Nginx + Lua — для production с 200+ юзеров. Обрабатывает десятки тысяч req/sec. Node.js-вариант — для MVP, проще в разработке.

8. Примеры конфигураций

PM2 ecosystem (динамическая генерация)

// generate-ecosystem.js
const users = require('/data/users.json');

module.exports = {
  apps: users.map(u => ({
    name: `oc-${u.id}`,
    script: 'openclaw',
    args: `gateway start --config /data/users/${u.id}/openclaw.json`,
    cwd: `/data/users/${u.id}`,
    max_memory_restart: '250M',
    autorestart: true,
    env: {
      NODE_ENV: 'production',
      PORT: u.port,
    }
  }))
};

// Использование:
// node generate-ecosystem.js > ecosystem.config.js
// pm2 start ecosystem.config.js

Docker Compose (для 3 юзеров — шаблон)

# docker-compose.yml
version: "3.8"

services:
  router:
    build: ./router
    ports:
      - "8080:8080"
    volumes:
      - ./data/users.json:/data/users.json:ro
    restart: always

  oc-user-001:
    image: openclaw-instance
    volumes:
      - ./data/users/001:/workspace
    environment:
      - PORT=3000
    expose:
      - "3000"
    labels:
      openclaw: "true"
      user_id: "001"
    mem_limit: 256m
    restart: unless-stopped

  oc-user-002:
    image: openclaw-instance
    volumes:
      - ./data/users/002:/workspace
    environment:
      - PORT=3000
    expose:
      - "3000"
    labels:
      openclaw: "true"
      user_id: "002"
    mem_limit: 256m
    restart: unless-stopped

# Для 500 юзеров: генерировать этот файл скриптом
# python generate_compose.py > docker-compose.yml

Скрипт provisioning нового юзера

#!/bin/bash
# provision-user.sh — создание нового пользователя SaaS
set -e

USER_ID=$1
BOT_TOKEN=$2
PORT=$3

if [ -z "$USER_ID" ] || [ -z "$BOT_TOKEN" ] || [ -z "$PORT" ]; then
  echo "Usage: ./provision-user.sh <user_id> <bot_token> <port>"
  exit 1
fi

USER_DIR="/data/users/$USER_ID"

# 1. Создать директорию
mkdir -p "$USER_DIR/workspace/memory"

# 2. Сгенерировать openclaw.json
cat > "$USER_DIR/openclaw.json" <<EOF
{
  "channels": {
    "telegram": {
      "botToken": "$BOT_TOKEN",
      "dmPolicy": "open"
    }
  },
  "agents": {
    "defaults": {
      "model": { "primary": "deepseek/deepseek-chat" },
      "maxConcurrent": 4,
      "contextTokens": 100000
    }
  },
  "gateway": {
    "port": $PORT
  }
}
EOF

# 3. Скопировать шаблон AGENTS.md
cp /data/templates/AGENTS.md "$USER_DIR/workspace/"

# 4. Установить webhook в Telegram
WEBHOOK_URL="https://api.your-saas.com/webhook/$BOT_TOKEN"
curl -s "https://api.telegram.org/bot$BOT_TOKEN/setWebhook?url=$WEBHOOK_URL"

# 5. Запустить процесс (PM2-вариант)
pm2 start openclaw --name "oc-$USER_ID" \
  -- gateway start --config "$USER_DIR/openclaw.json"

# 6. Добавить маршрут в router
python3 /data/scripts/add_route.py "$BOT_TOKEN" "$PORT" "$USER_ID"

echo "✅ User $USER_ID provisioned on port $PORT"

Шаблон openclaw.json для SaaS

{
  "channels": {
    "telegram": {
      "botToken": "{{BOT_TOKEN}}",
      "dmPolicy": "open"
    }
  },
  "agents": {
    "defaults": {
      "model": {
        "primary": "deepseek/deepseek-chat",
        "fallback": "google/gemini-2.5-flash"
      },
      "maxConcurrent": 4,
      "contextTokens": 100000
    },
    "list": [
      {
        "id": "main",
        "default": true,
        "workspace": "/workspace",
        "tools": {
          "allow": ["read", "web_search", "session_status",
                    "tts", "image"],
          "deny": ["exec", "process", "write", "edit",
                   "browser", "nodes", "canvas"]
        }
      }
    ]
  },
  "session": {
    "dmScope": "main",
    "reset": { "mode": "idle", "idleMinutes": 120 }
  },
  "gateway": {
    "port": "{{PORT}}"
  }
}

9. Узкие места и решения

Мониторинг: что отслеживать

10. Пошаговый план запуска MVP

Неделя 1: MVP на Mac Mini

Неделя 2–3: Автоматизация + биллинг

Месяц 2: Docker + первый VPS

Месяц 3–6: Production и масштаб