Модели по новизне: от новых к старым

Llama 3 8B finetune, созданный на основе ролевых данных и расширенным контекстом. Находясь в балансе между ERP и RP, Lumimaid был разработан, чтобы быть серьезным, но без цензуры, когда это необходимо.

Для повышения общего уровня интеллекта и возможностей чата около 40 % обучающих данных не были ролевыми. Это обеспечивает широкий доступ к знаниям, но при этом ролевая игра остается основным вариантом применения.

Первая коммерческая модель OSS LLaVA.

Эта модель языка видения была полностью обучена на основе данных, сгенерированных OSS LLM.

Поддерживает Response Format { "type": "json_object" }
Минимальный баланс для вызова модели: 3р.

Топовая опенсорс модель LLaMA v3 70B - по метрикам сравнимая с Claude 3 Sonnet.

Последняя базовая опенсорс модель Llama v3 размером 8B.
По тестам превосходит предыдущего гиганта Llama2 70B.

WizardLM-2 7B — это уменьшенный вариант последней модели Wizard от Microsoft AI. Она самая быстрая и обеспечивает производительность, сопоставимую с существующими ведущими моделями с открытым исходным кодом, в 10 раз более крупными.

Это усовершенствованная версия Mistral 7B Instruct , использующая ту же технику, что и WizardLM-2 8x22B .

Официальный Instruct-файнтюн Mistral для версии Mixtral 8x22B. Он использует 39 миллиардов активных параметров из 141 миллиарда, обеспечивая беспрецедентную экономическую эффективность для своего размера.

WizardLM-2 8x22B — самая совершенная модель Wizard от Microsoft AI. Она демонстрирует высокую конкурентоспособность по сравнению с ведущими проприетарными моделями и неизменно превосходит все существующие современные модели с открытым исходным кодом.

Mixtral 8x22B — масштабная языковая модель от Mistral AI. Она состоит из 8 экспертов, каждый по 22 миллиарда параметров.

Новейшая мультимодальная модель Google, поддерживающая изображения и видео в текстовых сообщениях или подсказках чата.

Оптимизирована для языковых задач, таких как:

- Генерация кода
- Генерация текста
- Редактирование текста
- Решение проблем
- Рекомендации
- Извлечение информации
- Извлечение или генерация данных
- ИИ-агенты

Примечание. Предварительные модели предлагаются для целей тестирования и не должны использоваться в рабочих приложениях. Эта модель сильно ограничена по скорости.

Новейшая модель GPT-4 Turbo с возможностями машинного зрения. Запросы Vision теперь могут использовать режим JSON и вызов функций. Данные обучения: до декабря 2023 г.

Эта модель обновлена OpenAI, чтобы указать на последнюю версию GPT-4 Turbo , в настоящее время gpt-4-turbo-2024-04-09 (по состоянию на апрель 2024 г.).
Минимальный баланс для вызова модели: 50р.

Последняя модель GPT-4-Turbo.

Опенсорс эмбеддинг, хорошо работающий на русском языке.
Модель: https://huggingface.co/intfloat/multilingual-e5-large

Command R+ — это новый масштабируемый LLM от Cohere с расширенными возможностями извлечения дополненной генерации (RAG), предназначенный для минимизации неточностей и обеспечения цитирования, что делает его идеальным для использования в бизнесе.

Анонс: https://txt.cohere.com/command-r-plus-microsoft-azure/

Command-R — это диалоговая модель, основанная на выполнении инструкций, которая выполняет языковые задачи более качественно, более надежно и с более длинным контекстом, чем предыдущие модели. Его можно использовать для сложных рабочих процессов, таких как генерация кода, расширенная генерация извлечения (RAG), использование инструментов и агентов.

Анонс: https://txt.cohere.com/command-r/

DBRX - это новая открытая модель большого языка, разработанная Databricks. При 132B она превосходит существующие открытые LLM, такие как Llama 270B и Mixtral-8x7B, на стандартных отраслевых бенчмарках для понимания языка, программирования, математики и логики.

Она использует архитектуру MoE с большим количеством экспертов. 36B параметров активны на любом вводе. Она был предварительно обучена на 12T токенах текста и кода. По сравнению с другими открытыми моделями MoE, такими как Mixtral-8x7B и Grok-1, DBRX использует большее количество меньших экспертов.

Midnight Rose - это уникальная нейросетевая модель, созданная специально для написания захватывающих историй и увлекательных ролевых игр. Она является преемницей таких известных моделей, как Rogue Rose и Aurora Nights, объединяя в себе лучшие качества каждой из них.

Благодаря сложному "генеалогическому древу", Midnight Rose унаследовала выдающиеся способности своих предшественников - более ранних версий Midnight Rose и Wizard Tulu Dolphin 70B. Эта модель была тщательно настроена командой sophosympatheia, чтобы производить объемные и детализированные тексты, которые подарят вам незабываемые впечатления от чтения или игры.

Веса модели:
https://huggingface.co/sophosympatheia/Midnight-Rose-70B-v2.0.3

Распознавание речи с помощью Whisper.
Тарификация идет посекундно; цена указана за 1000 секунд и измеряется при входе.

Vision-вариант Haiku
Минимальный баланс для вызова модели: 7р.

Claude 3 Haiku — самая быстрая и компактная модель Anthropic, обеспечивающая практически мгновенное реагирование. Быстрая и точная целевая производительность.

Vision-вариант Anthropic: Claude 3 Opus
Минимальный баланс для вызова модели: 150р.

Вариант Claude 3 Sonnet для обработки изображений
Минимальный баланс для вызова модели: 50р.

Claude 3 Opus — самая мощная модель Anthropic для решения очень сложных задач. Он может похвастаться высочайшим уровнем производительности, интеллекта, беглости речи и понимания.

Claude 3 Sonnet — это идеальный баланс интеллекта и скорости для корпоративных рабочих нагрузок. Максимальная полезность по более низкой цене, надежность, сбалансированность для масштабируемых развертываний.

Nous Hermes 2 Mixtral 8x7B DPO — это новая флагманская модель Nous Research, обученная на Mixtral 8x7B MoE LLM .

Модель была обучена на более чем 1 000 000 записей, в основном данных, сгенерированных GPT-4 , а также других высококачественных данных из открытых наборов данных в среде ИИ, что позволило достичь высочайшего уровня производительности при выполнении различных задач.

Sonar — новейшее семейство моделей Perplexity. Он превосходит свои предыдущие модели по экономичности, скорости и производительности.

Внимание: модель тарифицируется не по входным данным, а по запросу. Выход тарифицируется как обычно. Также модель НЕ поддерживает чат - каждый запрос учитывает только последнее сообщение пользователя.

Sonar — новейшее семейство моделей Perplexity. Он превосходит свои предыдущие модели по экономичности, скорости и производительности.

Внимание: модель тарифицируется не по входным данным, а по запросу. Выход тарифицируется как обычно. Также модель НЕ поддерживает чат - каждый запрос учитывает только последнее сообщение пользователя.

Это флагманская модель Mistral AI с закрытым исходным кодом. Он основан на прототипе с закрытым исходным кодом и превосходно справляется с рассуждениями, кодом, JSON, чатом и многим другим.

Он свободно говорит на английском, французском, испанском, немецком и итальянском языках, имеет высокую грамматическую точность, а его контекстное окно на 32 тыс. токенов позволяет точно извлекать информацию из больших документов.

Gemma от Google — это семейство передовых языковых моделей с открытым исходным кодом, в котором используются новейшие технологии преобразования текста в текст только с помощью декодера. Он предлагает возможности английского языка для решения задач по созданию текста, таких как ответы на вопросы, обобщение и рассуждения. Вариант Gemma 7B по производительности сравним с ведущими моделями с открытым исходным кодом.

Использование Gemma регулируется Условиями использования Gemma от Google .

Модель, предназначенная для тестирования API.
Возвращает простой рисунок с запросом и выбранным размером.

(Временно поддерживает только возврат по URL)

Флагманская модель для генерации изображений от OpenAI

Цены за 1 изображение:
Качество standard:
- 1024x1024 - 7 р. 76 к.
- 1024x1792 - 15 р. 52 к.
- 1792x1024 - 15 р. 52 к.

Качество hd:
- 1024x1024 - 15 р. 52 к.
- 1024x1792 - 23 р. 28 к.
- 1792x1024 - 23 р. 28 к.

Модель для генерации изображений от OpenAI (несколько устарела с выходом Dall-E 3)

Цены за 1 изображение:
Качество standard:
- 1024x1024 - 3 р. 88 к.
- 512x512 - 3 р. 50 к.
- 256x256 - 3 р. 10 к.

Новейшая модель GPT-3.5 Turbo с улучшенным выполнением инструкций, режимом JSON, воспроизводимыми выходными данными, параллельным вызовом функций и многим другим. Данные обучения: до сентября 2021 г.

Эта версия имеет более высокую точность ответа в запрошенных форматах и исправлена ошибка, которая вызывала проблему с кодировкой текста для вызовов функций не на английском языке.

Одна из последних моделей, связанных с генерацией кода.

Eagle 7B обучен на 1,1 триллионе токенов на более чем 100 мировых языках (70% английский, 15% многоязычный, 15% код).

Построен на архитектуре RWKV-v5 (линейный трансформатор с более низкой стоимостью вывода в 10–100 раз)
Считается самой экологичной моделью 7B в мире (на один токен)
Превосходит все модели класса 7B в многоязычных тестах
Приближается к уровню производительности Falcon (1,5T), LLaMA2 (2T), Mistral (>2T?) на оценках в английских текстах
Схожий уровень с MPT-7B (1Т) на оценках в английских текстах

Модель gpt-4-0125-preview

Новейшая модель GPT-4 с улучшенным выполнением инструкций, режимом JSON, воспроизводимыми выводами, параллельным вызовом функций и многим другим. Данные обучения: до декабря 2023 г.

Примечание. Во время предварительной версии OpenAI сильно ограничивает скорость.

LLaVA — это большая мультимодальная модель, сочетающая в себе кодер изображений и Vicuna для универсального визуального и языкового понимания.

Особенность: это опенсорс модель, и если она не используется, то обработка первого запроса может занимать до 2 минут. Последующие запросы обрабатываются значительно быстрее, в пределах нескольких секунд.

Средняя стоимость обработки 1 запроса с картинкой - около 15 коп.
Минимальный баланс для вызова модели: 5р.

Способность понимать изображения в дополнение ко всем другим возможностям GPT-4 Turbo . Данные обучения: до апреля 2023 г.
Минимальный баланс для вызова модели: 50р.

Флагманская мультимодальная модель Google, поддерживающая в запросе изображения и текст.

Приблизительная стоимость 1 запроса с 1 картинкой - всего 5 копеек!


Минимальный баланс для вызова модели: 12р.

Это флагманская модель Mistral AI с закрытым исходным кодом. Он основан на прототипе с закрытым исходным кодом и превосходно справляется с рассуждениями, кодом, JSON, чатом и многим другим. В тестах он сравнивается со многими флагманскими моделями других компаний.

В настоящее время эта модель оснащена Mixtral-8X7B-v0.1, редкой смесью экспертной модели с 12B активными параметрами. Он лучше рассуждает, демонстрирует больше возможностей, может создавать код и рассуждать о нем, а также является многоязычным, поддерживая английский, французский, немецкий, итальянский и испанский языки.

Эта модель в настоящее время работает на базе Mistral-7B-v0.2 и включает в себя «лучшую» тонкую настройку, чем Mistral 7B , вдохновленную опенсорсом. Его лучше всего использовать для больших задач пакетной обработки, где стоимость является важным фактором, но возможности рассуждения не имеют решающего значения.

Эта модель была обучена в течение 8 часов (v1) + 8 часов (v2) + 12 часов (v3) на модифицированных наборах данных с упором на RP, отсутствие цензуры и модифицированную версию подсказки Alpaca (которая уже использовалась в LimaRP), которая должна быть на том же уровне разговора, что и ChatLM или Llama2-Chat, без добавления каких-либо дополнительных специальных токенов.

Файнтюн модели Yi 34B, которая изначально фокусировалась на английском и китайском языках.

Nous Hermes 2 Yi 34B был обучен на 1 000 000 записей, в основном данных, сгенерированных GPT-4, а также других высококачественных данных из открытых наборов данных в сфере ИИ.

Nous-Hermes 2 на Yi 34B превосходит все модели Nous-Hermes и Open-Hermes прошлого, достигая новых высот во всех тестах для Nous Research LLM, а также превосходя многие популярные файнтюны.

Это файнтюн Mixtral-8x7b на данных до 16к токенов. Он отлично справляется с задачами кодирования благодаря обширным тренировкам с задачами кодогенерации и известен своим послушанием, хотя у него отсутствует настройка DPO.

Предназначен для решения задач на естественном языке, текстового и кодового чата, а также генерации кода.

Максимальный размер генерации: 8 192 токена.

Предварительно обученная генеративная разреженная смесь экспертов от Mistral AI для использования в чате и инструкциях. Включает 8 экспертов (сети прямого распространения) для 47B параметров.

OpenHermes 2 обучен на 900 тыс. инструкций и превосходит все предыдущие версии Hermes 13B и ниже и соответствует 70B в некоторых тестах.

OpenHermes 2.5 - это продолжение модели OpenHermes 2, обученное на дополнительных наборах данных кода. Потенциально самым интересным результатом обучения с хорошим соотношением (около 7–14% от общего набора данных) инструкций по коду было то, что они улучшили несколько тестов, не связанных с кодом, включая набор TruthfulQA, AGIEval и GPT4All. Тем не менее, это снизило оценку теста BigBench, но в целом чистый прирост значителен.

Объединение нескольких моделей для получения эффективно модели для ролевого взаимодействия. Базируется на Mistral 7B.

От создателя MythoMax, объединяющего набор моделей для уменьшения количества нерелевантных слов в ролевом взаимодействии.

В нем объединены Neural Chat 7B, Airoboros 7b, Toppy M 7B, Zepher 7b beta, OpenHermes 2.5 и многие другие.

Точная настройка CodeLlama-34B на внутреннем наборе данных, которая помогает ему превзойти GPT-4 в некоторых тестах, включая HumanEval.

Рекомендуется для генерации кода и решения задач программирования.

Вторая версия Psyfighter — объединенная модель, созданная членами сообщества KoboldAI Джебом Картером и TwistedShadows, стала возможной благодаря службе мерж-реквестов KoboldAI.

Намерение состояло в том, чтобы добавить медицинские данные, чтобы дополнить вымышленные способности модели более подробной информацией об анатомии и психических состояниях. Эту модель не следует использовать для медицинских консультаций или терапии из-за высокой вероятности использования вымышленных данных.

Рекомендуется для ролеплея

Модель, основанная на Llama-2-13B и ставшая возможной благодаря вычислениям, предоставленным сообществом KoboldAI. Это слияние между моделями:

KoboldAI/LLaMA2-13B-Tiefighter
chaoyi-wu/MedLLaMA_13B
Doctor-Shotgun/llama-2-13b-chat-limarp-v2-merged.

Рекомендуется для ролеплея.

Модель для текстовых эмбеддингов от OpenAI

Более крупная модель чата с подключением к Интернету от Perplexity Labs, основанная на Llama 2 70B . Онлайн-модели ориентированы на предоставление полезных, актуальных и основанных на фактах ответов.

Внимание: модель тарифицируется не по входным данным, а по запросу. Выход тарифицируется как обычно. Также модель НЕ поддерживает чат - каждый запрос учитывает только последнее сообщение пользователя.

После отключения Perplexity будет перенаправлена в perplexity/sonar-medium-online

Меньшая модель чата с подключением к Интернету от Perplexity Labs, основанная на Mistral 7B . Онлайн-модели ориентированы на предоставление полезных, актуальных и основанных на фактах ответов.

Внимание: модель тарифицируется не по входным данным, а по запросу - поэтому входные данные всегда учитываются как 1000 символов; это покрывает затраты на 1 запрос к модели. Выход тарифицируется как обычно. Также модель НЕ поддерживает чат - каждый запрос учитывает только последнее сообщение пользователя.

Временно требует установления штрафа за частоту больше 0, иначе выдает ошибку.

Translate-версия OpenChat 7B

OpenChat - это инновационная библиотека языковых моделей с открытым исходным кодом, настроенная с помощью C-RLFT - стратегии, вдохновленной автономным обучением с подкреплением.

По бенчмаркам разработчика, модель сравнима по уровню с ChatGPT марта 2023 года.

Модель довольно хорошо работает на русском даже без переводчика; рекомендуемые параметры: temperature около 0.7, top_p = 0.95. Временно испытывает проблемы при установке ненулевого "штрафа за присутствие" и "штрафа за частоту"

https://huggingface.co/openchat/openchat_3.5

Translate-версия Neural Chat 7B

Finetune от Интел основе mistralai/Mistral-7B-v0.1 на базе набора данных с открытым исходным кодом Open-Orca/SlimOrca.

На 24 ноября - одна из лучших моделей размером 7B.

https://huggingface.co/Intel/neural-chat-7b-v3-1

Anthropic: Claude v2.0

lzlv 70B с дополнительной функциональностью.

Весь вход переводится на английский язык.
Весь выход переводится на русский язык.

Это позволяет взаимодействовать с моделью "как бы на английском языке", который модель понимает лучше.

ВАЖНО: При работе с этой моделью ваши данные будут отсылаться в Google Translate или другому провайдеру перевода. Имейте это ввиду.

Объединение выбранных моделей 70B в стиле Mythomax/MLewd_13B. Мультимодель, объединяющая несколько тонких настроек LLaMA2 70B для ролевых игр и творчества. Цель заключалась в том, чтобы создать модель, которая сочетает в себе креативность и интеллект для повышения удобства работы.

Топовая согласно вот этому анализу на Реддите: https://www.reddit.com/r/LocalLLaMA/comments/17fhp9k/huge_llm_comparisontest_39_models_tested_7b70b/

Mythalion 13B с дополнительной функциональностью.

Весь вход переводится на английский язык.
Весь выход переводится на русский язык.

Это позволяет взаимодействовать с моделью "как бы на английском языке", который модель понимает лучше.

ВАЖНО: При работе с этой моделью ваши данные будут отсылаться в Google Translate или другому провайдеру перевода. Имейте это ввиду.

PaLM 2 — это флагманская языковая модель Google с улучшенными возможностями многоязычности, рассуждения и генерации кода.

Последняя модель GPT-4 с улучшенным следованием инструкциям, режимом JSON, воспроизводимыми выходными данными, параллельным вызовом функций и многим другим. Возвращает максимум 4096 выходных токенов. Данные обучения: до апреля 2023.

Новейшая модель GPT-3.5 Turbo с улучшенным выполнением инструкций, режимом JSON, воспроизводимыми выходными данными, параллельным вызовом функций и многим другим. Возвращает максимум 4096 выходных токенов. Данные обучения: до сентября 2021.

Весь вход переводится на английский язык.
Весь выход переводится на русский язык.

Это позволяет взаимодействовать с моделью "как бы на английском языке", который модель понимает лучше.

ВАЖНО: При работе с этой моделью ваши данные будут отсылаться в Google Translate или другому провайдеру перевода. Имейте это ввиду.

Mistral 7B Instruct v0.1 с дополнительной функциональностью.

Весь вход переводится на английский язык.
Весь выход переводится на русский язык.

Это позволяет взаимодействовать с моделью "как бы на английском языке", который модель понимает лучше.

ВАЖНО: При работе с этой моделью ваши данные будут отсылаться в Google Translate или другому провайдеру перевода. Имейте это ввиду.

Saiga/Mistral 7B

Натренированная модель от Ильи Гусева. В первую очередь сфокусирована на выполнении инструкций.

Рекомендованные параметры:
- температура около 0.1
- top_p <= 0.9

Также рекомендуется минимизировать вход (удалить системный промт и пр.) - модель сильно тормозит на больших запросах.

https://huggingface.co/IlyaGusev/saiga_mistral_7b_lora

Команда Mistral AI представила Mistral 7B — открытую языковую модель из 7,3 миллиардов параметров, которая превосходит вдвое большую модель Llama 2 13B на всех бенчмарках. При этом Mistral 7B достигает сравнимых результатов с Code Llama 2 в задачах генерации и исправления кода, хотя она не дообучалась специально для этих задач. Mistral 7B удалось достичь такого результата благодаря grouped-query механизму внимания и скользящему окну внимания (sliding window attention) при обучении на длинных последовательностях.

Вердикт автора VseGPT: на английском справляется относительно неплохо, на русском сильно хуже. Но цена за 1000 символов очень низкая.

Довольно мощная OpenSource 70B модель, основанная на Llama 70B.

Позволяет работать с Chain-Of-Thought, Agent/function calling, Coding tasks, reWOO style execution planning.

https://huggingface.co/jondurbin/airoboros-l2-70b-2.2

Также для неё есть translate-вариант.

Автор VseGPT: Я бы рекомендовал температуру в районе 0.7-0.8, при 1.0 выше вероятность бреда.

В отличие от традиционного GPT-3.5 Turbo, эта модель больше сфокусирована на выполнении инструкций (дай ответ и пр.), нежели на ведение диалога в чате.

Анонсирована Майкрософт 21 сентября 2023.

Стоимость и производительность такие же, как и у других моделей GPT-3.5 с контекстными окнами 4K. Обучающие данные актуальны на сентябрь 2021 года.

OpenAI: GPT-3.5 Turbo Instruct заменит существующие модели Instruct, а также text-ada-001, text-babbage-001, text-curie-001 и три модели text-davinci, которые выйдут на пенсию 4 января 2024 г.

Модель, хорошо подходящая для ролевого взаимодействия.

Идеально для английского языка; для русского будет чуть хуже.

Базовая модель Llama v2 70B Chat.

Не дотюнена на данных, инструкциям следует крайне плохо. Рекомендуется только если хочется ознакомиться с оригинальной сетью.

На практике лучше брать другие, производные от неё 70B-модели - Airoboros 70B, lzlv 70B и пр.

Самая мощная нейросетевая модель от OpenAI.

Из серии Mytho моделей, сделана поверх Llama2 13b

Очень популярна на Западе для самых разных запросов, включая ролеплей.

Очень низкая цена - 13B модель по цене 7B.

LLama2, которая дотренирована отвечать на вопросы по программированию. По некоторым оценкам, не уступает GPT-4 на этой задаче.

Аналог GPT-4 от компании Anthropic - главного конкурента OpenAI, выдающего схожие по качеству ответы.

Отмечу, что Claude v2 дешевле, но по ощущениям не проигрывает GPT-4, если брать текстовую генерацию (в задачах логики она обычно хуже).

Обновлена до последней версии от Anthropic - Claude v2.1 c 200 000 контекста с презентации 21 ноября!

Аналог ChatGPT от компании Anthropic - главного конкурента OpenAI, выдающего схожие по качеству ответы.