Ютубер PewDiePie выкатил Odysseus — опенсорсный веб-интерфейс для локального запуска нейросетей. Платформа работает как полноценный селф-хост аналог ChatGPT или Claude, но с полным контролем над данными. Главная фича для быстрого старта — встроенный модуль Cookbook. Он автоматически сканирует железо, оценивает доступный объем VRAM и предлагает скачать подходящие веса в форматах GGUF, FP8 или AWQ для работы через vLLM или llama.cpp.
Под капотом собран серьезный стек инструментов. Агентный режим построен на базе opencode и протокола MCP — моделям можно напрямую отдавать терминал, локальные файлы и веб-поиск. Для сложных аналитических задач интегрирован модуль Deep Research. Он адаптирован из наработок Alibaba и умеет самостоятельно собирать, читать и синтезировать информацию в итоговый отчет. Отдельно реализован режим слепого сравнения: интерфейс скрывает названия нейросетей при параллельном промптинге, чтобы исключить предвзятость при выборе лучшего ответа.
Функционал системы выходит далеко за рамки обычного чата. В Odysseus встроен многовкладочный текстовый редактор с ИИ-правками и полноценный почтовый клиент по IMAP/SMTP. Локальные агенты умеют сортировать входящие письма, писать черновики и тегировать спам, сохраняя долгосрочный контекст пользователя в векторной базе ChromaDB. Платформа разворачивается одной командой через docker compose — скрипт сразу поднимает интерфейс, движок поиска SearXNG и сервер уведомлений ntfy. Для Mac на Apple Silicon предусмотрен отдельный нативный запуск с аппаратным ускорением Metal.
Поделиться:
Liquid DOM: рендеринг живых DOM-узлов в WebGPU-текстуры через HTML-in-Canvas →
Anthropic масштабирует Project Glasswing для защиты критической инфраструктуры с помощью ИИ →