LLM-Box Secure — приватный ИИ (Qwen3-8B) с усиленной защитой

LLM-Box Secure — приватный ИИ-сервер с усиленной защитой для организаций с повышенными требованиями к безопасности данных (152-ФЗ, госсектор, финансы, здравоохранение). Готовый образ разворачивается за минуты; модель и данные остаются в вашем контуре, работа полностью офлайн.

Что внутри:
— модель Qwen3-8B (многоязычная, хороший русский), OpenAI-совместимый API (/v1) и веб-чат (Open WebUI);
— HTTPS по умолчанию (TLS): веб-чат и API доступны только по шифрованному соединению;
— аудит-лог (auditd): фиксируются входы, действия sudo, изменения конфигурации;
— защита SSH от подбора пароля (fail2ban), доступ только по ключу;
— межсетевой экран (ufw): открыты только необходимые порты;
— сетевой хардненинг (sysctl), отключённая телеметрия веб-интерфейса.

Важно: образ помогает выполнять требования 152-ФЗ по защите данных, но не является сертифицированным средством защиты информации (СЗИ). При необходимости сертификации используйте его в составе аттестованной инфраструктуры.

1. В Compute Cloud создайте ВМ из этого образа на платформе с NVIDIA T4 (8 vCPU, 32 ГБ RAM), загрузочный диск 60 ГБ.
2. Назначьте статический публичный IP (к нему привязывается HTTPS-сертификат при первом запуске).
3. В группе безопасности откройте входящие порты: 22/TCP (SSH), 80/TCP и 443/TCP (HTTPS).
4. Добавьте свой SSH-ключ при создании ВМ.
5. После запуска подождите 2-5 минут — модель загружается в GPU. До этого веб-чат покажет «No models», это нормально.
6. Откройте https://<публичный IP>/ (самоподписанный сертификат — подтвердите переход в браузере). Первый вход создаёт администратора.
   Адреса веб-чата, API и сгенерированный API-ключ выводятся в приветствии при входе по SSH.

— Внутренний ИИ-ассистент для сотрудников без передачи данных во внешние сервисы;
— обработка персональных данных в защищённом контуре (помогает выполнять требования 152-ФЗ);
— интеграция по OpenAI-совместимому API в корпоративные приложения и боты;
— приватная работа с документами, перепиской, черновиками;
— замена публичных облачных LLM там, где данные нельзя выпускать за периметр.

Техническая поддержка: info@papadata.ru (ответ в рабочие дни и время).
Помогаем с развёртыванием, настройкой доверенного HTTPS-сертификата на своём домене и интеграцией по API.