Cherry Studio

бесплатный и в опенсорсе

https://github.com/CherryHQ/cherry-studio

Приложение, позволяющее чатиться с нейросетями через VseGPT – на Windows, Mac and Linux.

Поддерживает:
  • вопросы по картинкам
  • текстовые модели без стриминга (у нас это o1, o1-mini, reasoning и некоторые vision-модели)
  • вопросы по файлам DOCX, PDF, CSV и многим другим
  • вопросы по базе знаний (большом числе текстовых файлов) с помощью Embeddings-моделей (RAG)
  • разнообразные готовые агенты (правда, предустановленные в основном на китайском языке)
  • предпросмотр сгенерированного JS+HTML внутри программы
  • поиск по вашим чатам
  • математические формулы LaTex и химические KaTex
  • поддерживает MCP (Model Context Protocol) для интеграции со сторонними приложениями

Оглавление документа

Инструкция по установке
Работа с базой знаний
Работа с MCP (Model Context Protocol) серверами
Что такое MCP?
Tools
Установка в Cherry Studio
MCP сервера VseGPT

Инструкция по установке


1. Ставим приложение с сайта https://github.com/CherryHQ/cherry-studio, обычно нужен раздел Релизы: https://github.com/CherryHQ/cherry-studio/releases














Работа с базой знаний







Работа с MCP (Model Context Protocol) серверами

Что такое MCP?


MCP (Model Context Protocol) – это протокол взаимодействия между языковыми моделями и внешними контекстными серверами. Основные задачи MCP:

  • Предоставление моделям доступа к актуальным данным и знаниям через API 
  • Возможность выполнения действий в реальном мире (отправка email, работа с файлами и т.д.)
  • Обеспечение безопасности при работе с внешними системами

MCP серверы работают как промежуточный слой между языковыми моделями и внешними сервисами/данными, предоставляя стандартизированный интерфейс для взаимодействия.

Tools


Обычно MPC сервера предоставляют набор tools – инструментов, которые может использовать языковая модель. Это может быть связь с базами данных, отправкой мейлов и пр.

При каждом вызове модель решает, нужно использовать доступные инструменты, или нет.

Графически взаимодействие происходит приблизительно так:
sequenceDiagram actor User as Пользователь participant Client as Клиент participant LLM as Языковая модель participant MCP as MCP Сервер Note over Client, MCP: Инициализация Client->>MCP: Запрос списка доступных tools MCP-->>Client: Возвращает список tools Note over User, Client: Основной процесс User->>Client: Делает запрос Client->>LLM: Отправляет запрос пользователя + список tools LLM->>LLM: Анализирует запрос и<br/>решает использовать tool LLM-->>Client: Отвечает с запросом на использование tool Client->>MCP: Вызывает указанный tool с параметрами MCP-->>Client: Возвращает результат вызова tool Client->>LLM: Повторно отправляет запрос с результатом вызова tool LLM->>LLM: Формирует окончательный ответ LLM-->>Client: Отправляет окончательный ответ Client-->>User: Показывает окончательный ответ

Установка в Cherry Studio


Основной проблемой является установка и настройка программ, действующих по MCP протоколу.
Обычно они поставляются в виде исходных кодов; значит, на машине надо настроить интерпретаторы.
Если вы справитесь с этим, все заработает – но сам процесс начальной установки, увы, не очень простой.





Для работы вам потребуется нейросеть с поддержкой tools.
Мы рекомендуем Sonnet 3.7 – она наиболее точная, хотя и дорогая.
(В силу бага в Cherry Studio 1.17 некорректно отсылаются tools в OpenAI-модели – легкая несовместимость форматов, обещают решить это позже)


MCP сервера VseGPT


Мы поддерживаем часть функциональности VseGPT в виде MCP-серверов здесь: https://github.com/janvarev/mcp-vsepgt-server
Для работы потребуется Python и установленные пакеты.
Один из серверов – поддержка генерации изображения в чате и сохранение результатов на локальный диск