GPT4All десктопное приложение для чата с нейросетями

бесплатный и в опенсорсе

https://www.nomic.ai/gpt4all

Приложение для чата с локальными моделями и запросами по вашим файлам.

Может быть подключено для работы через VseGPT – что сильно лучше по скорости и качеству (модели, работающие локально, как правильно медленные и/или обладают не очень высокими интеллектуальными способностями)

Видео работы

Подключение модели с VseGPT

Использование локальных документов

Дополнительно

Работа с Excel-файлами

Работа с данным Google Drive

Работа с данными Obsidian

Работа с данными OneDrive

Видео работы

Подключение модели с VseGPT

Другие модели могут быть подключены аналогично, повторно через эту процедуру.

Использование локальных документов

Подключение коллекций локальных документов для диалога с ними описано здесь:

https://docs.gpt4all.io/gpt4all_desktop/localdocs.html

В GPT4All чат с документами устроен по принципу «поиск небольшого фрагмента документа, подходящего под запрос, через сравнение эмбеддингов»

Плюс: вы можете работать сразу с большими коллекциями документов, больше, чем размер контекста, и это будет стоить дешево.
Минусы:
- Эмбеддинги лучше работают на английском языке, могут быть менее релевантные ответы на русском
- Не весь документ уходит в запрос к нейросети, что означает, что могут быть серьезные ошибки.

Если вас интересует качественная обработка 1 документа, мы рекомендуем наш сервис «Вопросы по файлу» (меню Сервис > Вопросы по файлу). В нашем варианте файл полностью передается нейросети для полной обработки (дороже, но точнее).

Дополнительно

Работа с Excel-файлами

Просто добавьте ваш Excel-файл с помощью кнопки «Приложить файл» в чате. Протестировано – работает.

Подробнее:

https://docs.gpt4all.io/gpt4all_desktop/cookbook/use-local-ai-models-to-privately-chat-with-microsoft-excel.html