Ищу MLOps/DevOps: локальная LLM-станция (Dify + Ollama, Windows 11 + WSL 2, без облака)
13 ч назад
Текст заказа
ПК: RTX 3090 24 GB + RTX 5060 Ti 16 GB, Ryzen 7 7700, 64 GB RAM, SSD 2 ТБ, ИБП Powercom Macan 1500W.
Нужно:
— два независимых инстанса Ollama (GPU 0 — 11434, GPU 1 — 11435, привязка по UUID);
— Dify CE через Docker Engine в WSL 2 (без Docker Desktop);
— 5 Chat-приложений с пустым System Prompt;
— эмбеддинги bge-m3 на GPU 1 в том же инстансе 11435;
— автозапуск без входа в Windows;
— сетевая изоляция Ollama и Dify от внешней сети;
— ИБП: graceful shutdown, BIOS Power On;
— бэкап-скрипт с тестовым восстановлением, README, видео-инструкция.
Требования: опыт с Ollama и Dify, WSL 2, Docker на Windows, NVIDIA GPU. Работа лично, без субподряда. Работа офлайн в Москве.
Похожие заказы
Создание Сайта для автомойки
указан бюджет · JavaScript, React, WordPress, Tilda, 3D
93
В стабильную (работаем 6+ лет) онлайн-школу по обучению фотографов нужен техспец на постоянную занятость. Это не
указан бюджет · JavaScript, Tilda, Фото
96
Проверить обмен с РИБами, сделать стабильным
указан бюджет · 1С, SQL, Разработка
93
Интеграция API Контур.Логистика (ЭТрН) + бот в MAX + Google Таблицы
указан бюджет · Python, Нейросети, Юриспруденция, Разработка
93