← Все заказы

Ищу MLOps/DevOps: локальная LLM-станция (Dify + Ollama, Windows 11 + WSL 2, без облака)

13 ч назад

Текст заказа

ПК: RTX 3090 24 GB + RTX 5060 Ti 16 GB, Ryzen 7 7700, 64 GB RAM, SSD 2 ТБ, ИБП Powercom Macan 1500W.
Нужно:
— два независимых инстанса Ollama (GPU 0 — 11434, GPU 1 — 11435, привязка по UUID);
— Dify CE через Docker Engine в WSL 2 (без Docker Desktop);
— 5 Chat-приложений с пустым System Prompt;
— эмбеддинги bge-m3 на GPU 1 в том же инстансе 11435;
— автозапуск без входа в Windows;
— сетевая изоляция Ollama и Dify от внешней сети;
— ИБП: graceful shutdown, BIOS Power On;
— бэкап-скрипт с тестовым восстановлением, README, видео-инструкция.
Требования: опыт с Ollama и Dify, WSL 2, Docker на Windows, NVIDIA GPU. Работа лично, без субподряда. Работа офлайн в Москве.

Похожие заказы