Новейшая модель GPT-3.5 Turbo с улучшенным выполнением инструкций, режимом JSON, воспроизводимыми выходными данными, параллельным вызовом функций и многим другим. Возвращает максимум 4096 выходных токенов. Данные обучения: до сентября 2021.

В отличие от традиционного GPT-3.5 Turbo, эта модель больше сфокусирована на выполнении инструкций (дай ответ и пр.), нежели на ведение диалога в чате.

Анонсирована Майкрософт 21 сентября 2023.

Стоимость и производительность такие же, как и у других моделей GPT-3.5 с контекстными окнами 4K. Обучающие данные актуальны на сентябрь 2021 года.

OpenAI: GPT-3.5 Turbo Instruct заменит существующие модели Instruct, а также text-ada-001, text-babbage-001, text-curie-001 и три модели text-davinci, которые выйдут на пенсию 4 января 2024 г.

Новейшая модель GPT-3.5 Turbo с улучшенным выполнением инструкций, режимом JSON, воспроизводимыми выходными данными, параллельным вызовом функций и многим другим. Данные обучения: до сентября 2021 г.

Эта версия имеет более высокую точность ответа в запрошенных форматах и исправлена ошибка, которая вызывала проблему с кодировкой текста для вызовов функций не на английском языке.

Самая мощная нейросетевая модель от OpenAI.

Последняя модель GPT-4 с улучшенным следованием инструкциям, режимом JSON, воспроизводимыми выходными данными, параллельным вызовом функций и многим другим. Возвращает максимум 4096 выходных токенов. Данные обучения: до апреля 2023.

Модель gpt-4-0125-preview

Новейшая модель GPT-4 с улучшенным выполнением инструкций, режимом JSON, воспроизводимыми выводами, параллельным вызовом функций и многим другим. Данные обучения: до декабря 2023 г.

Примечание. Во время предварительной версии OpenAI сильно ограничивает скорость.

Последняя модель GPT-4-Turbo.

GPT-4o («o» от «omni») — это новейшая модель искусственного интеллекта OpenAI, поддерживающая как ввод текста, так и изображения, а также текстовый вывод. Он сохраняет уровень интеллекта GPT-4 Turbo, будучи в два раза быстрее и на 50 % экономичнее. GPT-4o также обеспечивает улучшенную производительность при обработке языков, отличных от английского, и расширенные визуальные возможности. Данные обучения: до октября 2023 г.

Самая последняя модель от OpenAI из семейства GPT-4o.
Превосходит по цене и качеству GPT-3.5-Turbo, а также Claude 3 Haiku и Gemini Flash.

Версия GPT-4o от 2024-08-06 предлагает улучшенную производительность в структурированных выводах, с возможностью предоставления JSON-схемы в формате ответа.

Версия GPT-4o в которой расширены возможности генерации выхода до 64 000 токенов). Представлена в июле 2024.

По этому ID доступна самая последняя модель GPT-4o от OpenAI. Поведение модели постоянно меняется и улучшается; если вам нужно стабильное поведение по API, используйте другие модели.

ОБЩЕЕ ОПИСАНИЕ:
Последнее и самое мощное семейство моделей от OpenAI, o1 разработано так, чтобы тратить больше времени на размышления перед ответом.

Модели o1 оптимизированы для математики, науки, программирования и других задач, связанных с STEM. Они постоянно демонстрируют точность на уровне PhD в тестах по физике, химии и биологии.

RATE-LIMIT:
В момент запуска (12-13 сентября) модель ОЧЕНЬ сильно ограничена в числе запросов и постоянно выдает ошибку 429 как экспериментальная модель. Позднее данные ограничения должны быть сняты.

ОСОБЕННОСТИ БИЛЛИНГА:
До выдачи результатов по API модель размышляет над ответом. Это стоит довольно много токенов, но не показывается в ответе.
Биллинг осуществляется по данным провайдера - сколько токенов было затрачено на вход и выход, в соответствии с этим идет тарификация.
Мы не комментируем и не принимаем претензии, связанные с вычислением токенов у провайдера.

ВРЕМЕННО:
- не работает со стримингом. Т.е. недоступна через обычный чат, но можно воспользоваться специальным в Сервисах.
Минимальный баланс для вызова модели: 30р.

ОБЩЕЕ ОПИСАНИЕ:
Последнее и самое мощное семейство моделей от OpenAI, o1 разработано так, чтобы тратить больше времени на размышления перед ответом.

Модели o1 оптимизированы для математики, науки, программирования и других задач, связанных с STEM. Они постоянно демонстрируют точность на уровне PhD в тестах по физике, химии и биологии.

ОСОБЕННОСТИ БИЛЛИНГА:
До выдачи результатов по API модель размышляет над ответом. Это стоит довольно много токенов, но не показывается в ответе.
Биллинг осуществляется по данным провайдера - сколько токенов было затрачено на вход и выход, в соответствии с этим идет тарификация.
Мы не комментируем и не принимаем претензии, связанные с вычислением токенов у провайдера.

ВРЕМЕННО:
- не работает со стримингом. Т.е. недоступна через обычный чат, но можно воспользоваться специальным в Сервисах.
Минимальный баланс для вызова модели: 100р.

Модель для генерации изображений от OpenAI (несколько устарела с выходом Dall-E 3)

Цены за 1 изображение:
Качество standard:
- 1024x1024 - 3 р. 88 к.
- 512x512 - 3 р. 50 к.
- 256x256 - 3 р. 10 к.

Флагманская модель для генерации изображений от OpenAI

Цены за 1 изображение:
Качество standard:
- 1024x1024 - 7 р. 76 к.
- 1024x1792 - 15 р. 52 к.
- 1792x1024 - 15 р. 52 к.

Качество hd:
- 1024x1024 - 15 р. 52 к.
- 1024x1792 - 23 р. 28 к.
- 1792x1024 - 23 р. 28 к.

Аналог ChatGPT от компании Anthropic - главного конкурента OpenAI, выдающего схожие по качеству ответы.

Аналог GPT-4 от компании Anthropic - главного конкурента OpenAI, выдающего схожие по качеству ответы.

Отмечу, что Claude v2 дешевле, но по ощущениям не проигрывает GPT-4, если брать текстовую генерацию (в задачах логики она обычно хуже).

Обновлена до последней версии от Anthropic - Claude v2.1 c 200 000 контекста с презентации 21 ноября!

Anthropic: Claude v2.0

Claude 3 Sonnet — это идеальный баланс интеллекта и скорости для корпоративных рабочих нагрузок. Максимальная полезность по более низкой цене, надежность, сбалансированность для масштабируемых развертываний.

Claude 3 Opus — самая мощная модель Anthropic для решения очень сложных задач. Он может похвастаться высочайшим уровнем производительности, интеллекта, беглости речи и понимания.

Claude 3 Haiku — самая быстрая и компактная модель Anthropic, обеспечивающая практически мгновенное реагирование. Быстрая и точная целевая производительность.

Сегодня мы запускаем Claude 3.5 Sonnet — наш первый релиз в будущей линейке моделей Claude 3.5. Claude 3.5 Sonnet поднимает планку в отрасли по уровню интеллекта, превосходя конкурентные модели и Claude 3 Opus по широкому спектру оценок, с такой же скоростью и стоимостью, как и у нашей средней модели Claude 3 Sonnet.

Llama 3.1 Sonar - это новейшее семейство моделей Perplexity. Оно превосходит предыдущие модели Sonar по экономической эффективности, скорости и производительности.

Llama 3.1 Sonar - это новейшее семейство моделей Perplexity. Оно превосходит предыдущие модели Sonar по экономической эффективности, скорости и производительности.

Предназначен для решения задач на естественном языке, текстового и кодового чата, а также генерации кода.

Максимальный размер генерации: 8 192 токена.

PaLM 2 — это флагманская языковая модель Google с улучшенными возможностями многоязычности, рассуждения и генерации кода.

Новейшая мультимодальная модель Google, поддерживающая изображения и видео в текстовых сообщениях или подсказках чата.

Оптимизирована для языковых задач, таких как:

- Генерация кода
- Генерация текста
- Редактирование текста
- Решение проблем
- Рекомендации
- Извлечение информации
- Извлечение или генерация данных
- ИИ-агенты

Версия от мая 2024 г.

Gemini 1.5 Flash — это базовая модель, которая хорошо справляется с различными мультимодальными задачами, такими как визуальное понимание, классификация, обобщение и создание контента из изображений, аудио и видео. Он умеет обрабатывать визуальные и текстовые данные, такие как фотографии, документы, инфографика и снимки экрана.

Gemini 1.5 Flash предназначен для выполнения объемных и высокочастотных задач, где стоимость и задержка имеют значение. При выполнении большинства распространенных задач Flash обеспечивает качество, сравнимое с другими моделями Gemini Pro, при значительно меньших затратах. Flash хорошо подходит для таких приложений, как чат-помощники и создание контента по требованию, где скорость и масштаб имеют значение.

Gemini 1.5 Flash-8B оптимизирован для скорости и эффективности, обеспечивая улучшенную производительность в небольших задачах с подсказками, таких как чат, транскрипция и перевод. Благодаря сниженной задержке он очень эффективен для операций в режиме реального времени и в больших масштабах. Эта модель ориентирована на экономически эффективные решения при сохранении высокого качества результатов.

Gemma 2 9B от Google - это передовая языковая модель с открытым исходным кодом, которая устанавливает новый стандарт эффективности и производительности в своем классе размеров.

Разработанная для широкого спектра задач, она позволяет разработчикам и исследователям создавать инновационные приложения, сохраняя при этом доступность, безопасность и экономическую эффективность.

Gemma 2 27B от Google - это открытая модель, созданная на основе тех же исследований и технологий, которые использовались для создания моделей Gemini.

Модели Gemma хорошо подходят для различных задач генерации текста, включая ответы на вопросы, обобщение и рассуждение.

Нормально работает на русском языке (рекомендуется температура пониже)

Команда Mistral AI представила Mistral 7B — открытую языковую модель из 7,3 миллиардов параметров, которая превосходит вдвое большую модель Llama 2 13B на всех бенчмарках. При этом Mistral 7B достигает сравнимых результатов с Code Llama 2 в задачах генерации и исправления кода, хотя она не дообучалась специально для этих задач. Mistral 7B удалось достичь такого результата благодаря grouped-query механизму внимания и скользящему окну внимания (sliding window attention) при обучении на длинных последовательностях.

29 мая модель обновлена до версии 0.3

Вердикт автора VseGPT: на английском справляется относительно неплохо, на русском сильно хуже. Но цена за 1000 символов очень низкая.

Предварительно обученная генеративная разреженная смесь экспертов от Mistral AI для использования в чате и инструкциях. Включает 8 экспертов (сети прямого распространения) для 47B параметров.

Эта модель в настоящее время работает на базе Mistral-7B-v0.2 и включает в себя «лучшую» тонкую настройку, чем Mistral 7B , вдохновленную опенсорсом. Его лучше всего использовать для больших задач пакетной обработки, где стоимость является важным фактором, но возможности рассуждения не имеют решающего значения.

В настоящее время эта модель оснащена Mixtral-8X7B-v0.1, редкой смесью экспертной модели с 12B активными параметрами. Он лучше рассуждает, демонстрирует больше возможностей, может создавать код и рассуждать о нем, а также является многоязычным, поддерживая английский, французский, немецкий, итальянский и испанский языки.

Это флагманская модель Mistral AI с закрытым исходным кодом. Он основан на прототипе с закрытым исходным кодом и превосходно справляется с рассуждениями, кодом, JSON, чатом и многим другим. В тестах он сравнивается со многими флагманскими моделями других компаний.

Это флагманская модель Mistral AI, Mistral Large 2 (версия mistral-large-2407). Она основана на прототипе с закрытым исходным кодом и превосходно справляется с рассуждениями, кодом, JSON, чатом и многим другим.

Официальный Instruct-файнтюн Mistral для версии Mixtral 8x22B. Он использует 39 миллиардов активных параметров из 141 миллиарда, обеспечивая беспрецедентную экономическую эффективность для своего размера.

Mistral AI представила Mistral NeMo, 12-миллиардную модель, разработанную в сотрудничестве с NVIDIA. Mistral NeMo предлагает большой контекст до 128 тысяч токенов.

Модель тренировалась на многоязычных данных, и, что довольно приятно, графики включают в себя оценки эффективности на русском языке.

Наша новость на Хабре: https://habr.com/ru/news/829822/

Ministral 8B - это модель с 8 миллиардами параметров, отличающаяся уникальным чередующимся паттерном внимания с скользящим окном для более быстрого и эффективного по памяти вывода.

Увы, не очень хороша в русском языке.

Command-R — это диалоговая модель, основанная на выполнении инструкций, которая выполняет языковые задачи более качественно, более надежно и с более длинным контекстом, чем предыдущие модели. Его можно использовать для сложных рабочих процессов, таких как генерация кода, расширенная генерация извлечения (RAG), использование инструментов и агентов.

Анонс: https://txt.cohere.com/command-r/

Command R+ — это новый масштабируемый LLM от Cohere с расширенными возможностями извлечения дополненной генерации (RAG), предназначенный для минимизации неточностей и обеспечения цитирования, что делает его идеальным для использования в бизнесе.

Анонс: https://txt.cohere.com/command-r-plus-microsoft-azure/

command-r-08-2024 - это обновление Command R с улучшенной производительностью для многоязычной генерации с дополнением извлечения (RAG) и использования инструментов. В более широком смысле, она лучше справляется с математикой, кодом и рассуждениями и конкурентоспособна с предыдущей версией более крупной модели Command R+.

command-r-plus-08-2024 - это обновление Command R+ с примерно на 50% более высокой пропускной способностью и на 25% меньшей задержкой по сравнению с предыдущей версией Command R+

Большая модель Qwen, превосходящая по разным показателям Llama3 70B.
Неплохо работает с русским языком.

Qwen2.5 72B - это последняя серия больших языковых моделей Qwen. Qwen2.5 приносит следующие улучшения по сравнению с Qwen2:

Значительно больше знаний и значительно улучшенные возможности в кодировании и математике благодаря нашим специализированным экспертным моделям в этих областях.

Значительные улучшения в следовании инструкциям, генерации длинных текстов (более 8 тысяч токенов), понимании структурированных данных (например, таблиц) и генерации структурированных выходных данных, особенно JSON. Более устойчива к разнообразию системных подсказок, улучшая реализацию ролевых игр и настройку условий для чат-ботов.

Поддержка длинного контекста до 128 тысяч токенов и возможность генерировать до 8 тысяч токенов.

Многоязычная поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский, арабский и другие.

Использование этой модели регулируется ЛИЦЕНЗИОННЫМ СОГЛАШЕНИЕМ Tongyi Qianwen.

Qwen2.5 7B - это новейшая серия больших языковых моделей Qwen.

Многоязычная поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский, арабский и другие.

Использование этой модели регулируется ЛИЦЕНЗИОННЫМ СОГЛАШЕНИЕМ Tongyi Qianwen.

Для работы с русским рекомендуется: пониженная температура 0.5, а также 0 штрафы за присутствие и частоту.

Qwen1.5 72B — это бета-версия Qwen2. По сравнению с предыдущим выпущенным Qwen, улучшения включают в себя:

- Значительное улучшение производительности
- Многоязычная поддержка как базовой модели, так и модели чата.
- Стабильная поддержка длины контекста 32 КБ для моделей всех размеров.

Подробнее: https://qwenlm.github.io/blog/qwen1.5/

Qwen1.5 110B — это бета-версия Qwen2. По сравнению с предыдущим выпущенным Qwen, улучшения включают в себя:

- Значительное улучшение производительности
- Многоязычная поддержка как базовой модели, так и модели чата.
- Стабильная поддержка длины контекста 32 КБ для моделей всех размеров.

Подробнее: https://qwenlm.github.io/blog/qwen1.5/

Версия Сайги для LLama3 8B

Vikhr-Llama3.1 - это унимодальная LLM (Large Language Model) на 8B параметров представляющая из себя улучшенную версию meta-llama/Meta-Llama-3.1-8B-Instruct командой VikhrModels, адаптированную преимущественно для русского и английского языков. Для обучения использовались несколько этапов включающих в себя SFT и SMPO.

Модель оптимизирована для различных вариантов использования, включая ризонинг, суммаризацию, код, roleplay, поддержание диалога. Vikhr-Llama обладает возможностью многоязычной генерации, и высокопроизводительными возможностями RAG. Модель иммет лучшие оценки среди прочих на наших инструктивных и RAG бенчарках и, поэтому, мы верим, что во многих задачах может быть лучше чем gpt-3.5-turbo от OpenAI.

Описание от команды VikhrModels

Vikhr-Nemo - это наша флагманская унимодальная LLM (Large Language Model) представляющая из себя улучшенную версию mistralai/Mistral-Nemo-Instruct-2407 командой VikhrModels, адаптированную преимущественно для русского и английского языков. Для ее обучения мы использовали несколько этапов включающих в себя SFT и SMPO - нашу собственную вариацию DPO, подробнее читайте в секции "Как эта модель создавалась".

Модель оптимизированна для различных вариантов использования, включая ризонинг, суммаризацию, код, roleplay, поддержание диалога. Vikhr-Nemo обладает возможностью многоязычной генерации, и высокопроизводительными возможностями RAG. Модель иммет лучшие оценки среди прочих на наших инструктивных и RAG бенчарках и, поэтому, мы верим, что в некоторых задачах (например, RAG) может быть не хуже gpt-4o-mini от OpenAI.

Из серии Mytho моделей, сделана поверх Llama2 13b

Очень популярна на Западе для самых разных запросов, включая ролеплей.

Очень низкая цена - 13B модель по цене 7B.

Модель, хорошо подходящая для ролевого взаимодействия.

Идеально для английского языка; для русского будет чуть хуже.

Объединение выбранных моделей 70B в стиле Mythomax/MLewd_13B. Мультимодель, объединяющая несколько тонких настроек LLaMA2 70B для ролевых игр и творчества. Цель заключалась в том, чтобы создать модель, которая сочетает в себе креативность и интеллект для повышения удобства работы.

Топовая согласно вот этому анализу на Реддите: https://www.reddit.com/r/LocalLLaMA/comments/17fhp9k/huge_llm_comparisontest_39_models_tested_7b70b/

OpenChat - это инновационная библиотека языковых моделей с открытым исходным кодом, настроенная с помощью C-RLFT - стратегии, вдохновленной автономным обучением с подкреплением.

По бенчмаркам разработчика, модель сравнима по уровню с ChatGPT марта 2023 года.

Модель довольно хорошо работает на русском даже без переводчика; рекомендуемые параметры: temperature около 0.7, top_p = 0.95. Временно испытывает проблемы при установке ненулевого "штрафа за присутствие" и "штрафа за частоту"

https://huggingface.co/openchat/openchat_3.5

От создателя MythoMax, объединяющего набор моделей для уменьшения количества нерелевантных слов в ролевом взаимодействии.

В нем объединены Neural Chat 7B, Airoboros 7b, Toppy M 7B, Zepher 7b beta, OpenHermes 2.5 и многие другие.

Объединение нескольких моделей для получения эффективно модели для ролевого взаимодействия. Базируется на Mistral 7B.

OpenHermes 2 обучен на 900 тыс. инструкций и превосходит все предыдущие версии Hermes 13B и ниже и соответствует 70B в некоторых тестах.

OpenHermes 2.5 - это продолжение модели OpenHermes 2, обученное на дополнительных наборах данных кода. Потенциально самым интересным результатом обучения с хорошим соотношением (около 7–14% от общего набора данных) инструкций по коду было то, что они улучшили несколько тестов, не связанных с кодом, включая набор TruthfulQA, AGIEval и GPT4All. Тем не менее, это снизило оценку теста BigBench, но в целом чистый прирост значителен.

Это файнтюн Mixtral-8x7b на данных до 16к токенов. Он отлично справляется с задачами кодирования благодаря обширным тренировкам с задачами кодогенерации и известен своим послушанием, хотя у него отсутствует настройка DPO.

Nous Hermes 2 Mixtral 8x7B DPO — это новая флагманская модель Nous Research, обученная на Mixtral 8x7B MoE LLM .

Модель была обучена на более чем 1 000 000 записей, в основном данных, сгенерированных GPT-4 , а также других высококачественных данных из открытых наборов данных в среде ИИ, что позволило достичь высочайшего уровня производительности при выполнении различных задач.

Midnight Rose - это уникальная нейросетевая модель, созданная специально для написания захватывающих историй и увлекательных ролевых игр. Она является преемницей таких известных моделей, как Rogue Rose и Aurora Nights, объединяя в себе лучшие качества каждой из них.

Благодаря сложному "генеалогическому древу", Midnight Rose унаследовала выдающиеся способности своих предшественников - более ранних версий Midnight Rose и Wizard Tulu Dolphin 70B. Эта модель была тщательно настроена командой sophosympatheia, чтобы производить объемные и детализированные тексты, которые подарят вам незабываемые впечатления от чтения или игры.

Веса модели:
https://huggingface.co/sophosympatheia/Midnight-Rose-70B-v2.0.3

DBRX - это новая открытая модель большого языка, разработанная Databricks. При 132B она превосходит существующие открытые LLM, такие как Llama 270B и Mixtral-8x7B, на стандартных отраслевых бенчмарках для понимания языка, программирования, математики и логики.

Она использует архитектуру MoE с большим количеством экспертов. 36B параметров активны на любом вводе. Она был предварительно обучена на 12T токенах текста и кода. По сравнению с другими открытыми моделями MoE, такими как Mixtral-8x7B и Grok-1, DBRX использует большее количество меньших экспертов.

WizardLM-2 8x22B — самая совершенная модель Wizard от Microsoft AI. Она демонстрирует высокую конкурентоспособность по сравнению с ведущими проприетарными моделями и неизменно превосходит все существующие современные модели с открытым исходным кодом.

WizardLM-2 7B — это уменьшенный вариант последней модели Wizard от Microsoft AI. Она самая быстрая и обеспечивает производительность, сопоставимую с существующими ведущими моделями с открытым исходным кодом, в 10 раз более крупными.

Это усовершенствованная версия Mistral 7B Instruct , использующая ту же технику, что и WizardLM-2 8x22B .

Последняя базовая опенсорс модель Llama v3 размером 8B.
По тестам превосходит предыдущего гиганта Llama2 70B.

Топовая опенсорс модель LLaMA v3 70B - по метрикам сравнимая с Claude 3 Sonnet.

Llama 3 8B finetune, созданный на основе ролевых данных и расширенным контекстом. Находясь в балансе между ERP и RP, Lumimaid был разработан, чтобы быть серьезным, но без цензуры, когда это необходимо.

Для повышения общего уровня интеллекта и возможностей чата около 40 % обучающих данных не были ролевыми. Это обеспечивает широкий доступ к знаниям, но при этом ролевая игра остается основным вариантом применения.

Phi-3 Medium — это мощная модель с 14 миллиардами параметров, предназначенная для углубленного понимания языка, рассуждения и выполнения инструкций. Оптимизированная за счет контролируемой тонкой настройки и настройки предпочтений, она превосходно справляется с задачами, связанными со здравым смыслом, математикой, логическим рассуждением и обработкой кода.

На момент выпуска Phi-3 Medium продемонстрировала самые современные характеристики среди легких моделей. В тесте MMLU-Pro модель даже приблизилась к уровню производительности Llama3 70B.

Phi-3 Mini — это мощная модель размером 3.8B, предназначенная для углубленного понимания языка, рассуждения и выполнения инструкций. Оптимизированная за счет контролируемой тонкой настройки и настройки предпочтений, она превосходно справляется с задачами, связанными со здравым смыслом, математикой, логическим рассуждением и обработкой кода.

На момент выпуска Phi-3 Medium продемонстрировала самые современные характеристики среди легких моделей. Эта модель обучена на автономном наборе данных с конечной датой октября 2023 года.

Llama 3 70B finetune, созданный на основе ролевых данных и расширенным контекстом. Находясь в балансе между ERP и RP, Lumimaid был разработан, чтобы быть серьезным, но без цензуры, когда это необходимо.

Для повышения общего уровня интеллекта и возможностей чата около 40 % обучающих данных не были ролевыми. Это обеспечивает широкий доступ к знаниям, но при этом ролевая игра остается основным вариантом применения.

Используется int4 квантизация для обработки запросов.

Модель, ориентированная на креативную ролевую игру от Sao10k.

- Лучшее соблюдение подсказок.
- Лучшая анатомия / пространственное восприятие.
- Гораздо лучше адаптируется к уникальным и нестандартным форматам / форматам ответов.
- Очень креативная, много уникальных идей.
- Без фильтров

Базируется на Llama3 70B

Мы представляем DeepSeek-Coder-V2, открытую языковую модель Mixture-of-Experts (MoE), которая достигает результатов, сопоставимых с GPT4-Turbo в задачах, связанных с кодом. Модель была дообучена на 6 триллионах токенов и улучшила свои способности в программировании и математическом рассуждении, сохраняя при этом производительность в общих языковых задачах. DeepSeek-Coder-V2 поддерживает 338 языков программирования и 32К контекст.

Всего параметров: 236B, активных: 21B

Хостинг осуществляется разработчиком DeepSeek, который отмечает, что ваши данные могут быть залогированы и использованы для тренировки.

Сегодня мы представляем DeepSeek-V2, мощную языковую модель Mixture-of-Experts (MoE), характеризующуюся экономичной тренировкой и эффективным выводом. Она включает в себя 236 миллиардов общих параметров, из которых 21 миллиард активируются для каждого токена. По сравнению с DeepSeek 67B, DeepSeek-V2 достигает более высокого уровня производительности, одновременно экономя 42.5% затрат на обучение, уменьшая кэш KV на 93.3% и увеличивая максимальную пропускную способность генерации в 5.76 раз.

Всего параметров: 236B, активных: 21B

Хостинг осуществляется разработчиком DeepSeek, который отмечает, что ваши данные могут быть залогированы и использованы для тренировки последующих моделей.

Nemotron-4-340B-Instruct - это англоязычная модель чата, оптимизированная для генерации синтетических данных. Эта крупная языковая модель (LLM) является доработанной версией Nemotron-4-340B-Base, разработанной для одно- и многоходовых сценариев чата с контекстной длиной 4096 токенов.

Базовая модель была предварительно обучена на 9 триллионах токенов из разнообразных английских текстов, более 50 естественных языков и более 40 языков программирования. Инструктивная модель прошла дополнительные этапы настройки:

- Супервизированное дообучение (SFT)
- Прямая оптимизация предпочтений (DPO)
- Оптимизация предпочтений с учетом вознаграждения (RPO)

В процессе выравнивания использовалось примерно 20 тыс. образцов, аннотированных человеком, в то время как 98% данных для дообучения были синтетически сгенерированы.

Модель умеет работать с русским языком

Stheno 8B 32K - это модель для творческого письма и ролевых игр от Sao10k. Она была обучена на контексте 8K, а затем расширена до контекста 32K.

По сравнению со старой версией Stheno, эта модель обучена на:

- Удвоенном количестве образцов творческого письма
- Очищенных образцах ролевых игр
- Меньшем количестве низкокачественных образцов

Тренировалась на английском языке

От создателя Голиафа, Magnum 72B - это первая модель из нового семейства, разработанного для достижения уровня прозы моделей Claude 3, в частности Opus и Sonnet.

Модель основана на Qwen2 72B и обучена на 55 миллионах токенов тщательно отобранных данных ролевых игр (RP).

Давно ожидаемая модель Llama3 405B.

По результатам бенчмарков сравнима с GPT-4o и Sonnet.

Специализированная модель для написания историй и ролевых игр, основанная на Mistral's NeMo 12B Instruct. Дообучена на отобранных наборах данных, включая Reddit Writing Prompts и Opus Instruct 25K.

Эта модель превосходно справляется с творческим письмом. Она демонстрирует замечательную универсальность разного рода сценариях, с сильными возможностями управления вне роли (OOC), что позволяет точно контролировать направление повествования и поведение персонажей.

Гермес 3 - это универсальная языковая модель со многими улучшениями по сравнению с Гермесом 2, включая продвинутые агентные возможности, гораздо лучшее ролевое взаимодействие, рассуждение, многоходовую беседу, согласованность длинного контекста и улучшения по всем направлениям.

Гермес 3 405B - это полнопараметрическая доводка базовой модели Llama-3.1 405B уровня передовых технологий, ориентированная на согласование языковых моделей с пользователем, с мощными возможностями управления и контроля, предоставляемыми конечному пользователю.

Euryale L3.1 70B v2.2 - это модель, ориентированная на креативную ролевую игру, созданная Sao10k. Она является преемником Euryale L3 70B v2.1, но уже на базе модели Llama 3.1, которая значительно лучше работает с русским языком.

Это модель для креативных ролевых игр и написания историй, использующая nothingiisreal/mn-celeste-12b в качестве основы и объединенная с intervitens/mini-magnum-12b-v1.1 с помощью метода TIES.

Хотя в целом модель больше похожа на Magnum, она остается очень креативной, с приятным стилем письма. Рекомендуется для людей, желающих большего разнообразия, чем Magnum, и в то же время более многословной прозы, чем Celeste.

Llama 3.2 3B - это многоязычная модель большого языка с 3 миллиардами параметров, оптимизированная для продвинутых задач обработки естественного языка, таких как генерация диалогов, рассуждения и обобщение. Разработанная с использованием новейшей архитектуры трансформеров, она поддерживает восемь языков, включая английский, испанский и хинди, и адаптируема для дополнительных языков.

Обученная на 9 триллионах токенов, модель Llama 3.2B отлично справляется с выполнением инструкций, сложными рассуждениями и использованием инструментов. Её сбалансированная производительность делает её идеальной для приложений, требующих точности и эффективности в генерации текста в многоязычных средах.

Новая модель LLama 3.2 90B

Grok Beta - это передовая языковая модель xAI с современными возможностями рассуждения, наиболее подходящая для сложных и многоэтапных задач.

Rocinante 12B разработан для увлекательного повествования и богатой прозы.

Ранние тестировщики сообщали о:

Расширенном словарном запасе с уникальным и выразительным выбором слов
Улучшенной креативности для создания ярких повествований
Наполненных приключениями и захватывающих историях

Новая модель Nemotron от NVidia.

К сожалению, русский у этой модели не очень хорош.

Mistral 7B Instruct v0.1 с дополнительной функциональностью.

Весь вход переводится на английский язык.
Весь выход переводится на русский язык.

Это позволяет взаимодействовать с моделью "как бы на английском языке", который модель понимает лучше.

ВАЖНО: При работе с этой моделью ваши данные будут отсылаться в Google Translate или другому провайдеру перевода. Имейте это ввиду.

Mythalion 13B с дополнительной функциональностью.

Весь вход переводится на английский язык.
Весь выход переводится на русский язык.

Это позволяет взаимодействовать с моделью "как бы на английском языке", который модель понимает лучше.

ВАЖНО: При работе с этой моделью ваши данные будут отсылаться в Google Translate или другому провайдеру перевода. Имейте это ввиду.

lzlv 70B с дополнительной функциональностью.

Весь вход переводится на английский язык.
Весь выход переводится на русский язык.

Это позволяет взаимодействовать с моделью "как бы на английском языке", который модель понимает лучше.

ВАЖНО: При работе с этой моделью ваши данные будут отсылаться в Google Translate или другому провайдеру перевода. Имейте это ввиду.

Translate-версия OpenChat 7B

Версия Сайги для LLama3 8B

Это Suzume 8B, многоязычная доработка Llama 3 (meta-llama/Meta-Llama-3-8B-Instruct).

Llama 3 показала отличные результаты во многих тестах на английском языке.
Однако, похоже, она также была настроена в основном на английских данных, что означает, что она будет отвечать на английском, даже если запрос сделан на других языках.

Мы доработали Llama 3 на почти 90 000 многоязычных разговоров, что означает, что эта модель обладает интеллектом Llama 3, но с дополнительной способностью общаться на большем количестве языков.

Эта модель была создана с использованием нового рецепта Smaug для улучшения производительности в реальных многоходовых разговорах, примененного к meta-llama/Meta-Llama-3-70B-Instruct.

Модель значительно превосходит Llama-3-70B-Instruct и находится на одном уровне с GPT-4-Turbo по результатам MT-Bench (см. ниже).

Smaug-Llama-3-70B-Instruct в настоящее время является лучшей моделью с открытым исходным кодом на Arena-Hard! Она также почти не уступает Claude Opus

Одна из самых компактных ролеплей моделей, которую можно запустить локально, с хорошими отзывами.

Эта модель представляет собой 50/50 SLERP-слияние между crestf411/L3-70B-daybreak-storywriter-v0.4 и tenyx/Llama3-TenyxChat-70B и нацелена на написание историй и ролеплей.

За основу взята LLama3 70B.

Эта модель представляет собой многоуровневое SLERP-слияние нескольких вариантов Llama 3 70B, в основном для ролеплей задач.

Пример генерации:

Ты - персонаж Аква из аниме Коносуба. Скажи что-нибудь в характере персонажа.

Модель:
Вздыхает Ох, опять эти люди... Они не понимают, что я - Аква, богиня воды! Я создала этот мир, и я могу его уничтожить. Но вместо того, чтобы поклоняться мне, они предпочитают отправлять меня на задания и требовать, чтобы я выполняла их прихоти. Брезгливо морщит нос И эти грязные, мерзкие монстры, которые я должна убивать... Скрещивает руки на груди Я не для этого создана. Я - богиня, а не убийца. Вздыхает Но что я могу сделать? Я обещала помочь этим людям, и я не могу нарушить свое слово. Склоняет голову Я - Аква, богиня воды, и я выполню свой долг. Вздыхает Даже если это будет означать, что я должна будет убивать монстров и выполнять прихоти этих людей. Склоняет голову и закрывает глаза Ох, если бы только они знали, что я на самом деле... Шепчет Богиня...

Модель от Sao10K, известного своими ролеплейными моделями.

Доработка Magnum-72B от Undi95

Мы создали Tess-v2.5.2, новейшую передовую модель в серии больших языковых моделей (LLM) Tess. Tess, сокращение от Tesoro (Сокровище на итальянском), - это флагманская серия LLM, созданная Мигелем Тиссерой. Tess-v2.5.2 приносит значительные улучшения в способностях рассуждения, кодирования и математики. В настоящее время это модель №1 с открытым весом при оценке по MMLU (Massive Multitask Language Understanding). Она набирает больше баллов, чем все другие модели с открытым весом, включая Qwen2-72B-Instruct, Llama3-70B-Instruct, Mixtral-8x22B-Instruct и DBRX-Instruct. Более того, при оценке по MMLU, модель Tess-v2.5.2 (Qwen2-72B) превосходит даже передовые закрытые модели Gemini-1.0-Ultra, Gemini-1.5-Pro, Mistral-Large и Claude-3-Sonnet.

Довольно сильный файюнтюн Smaug теперь и на базе Qwen 72B, с расширенным контекстом 16 000 токенов.

Один из первых тюнов Llama 2, вышедший 30 марта 2023

https://lmsys.org/blog/2023-03-30-vicuna/

Топовая модель для решения математических задач на английском - превосходит GPT-4o по метрикам.

Vikhr-Llama3.1 - это унимодальная LLM (Large Language Model) на 8B параметров представляющая из себя улучшенную версию meta-llama/Meta-Llama-3.1-8B-Instruct командой VikhrModels, адаптированную преимущественно для русского и английского языков. Для обучения использовались несколько этапов включающих в себя SFT и SMPO.

Модель оптимизирована для различных вариантов использования, включая ризонинг, суммаризацию, код, roleplay, поддержание диалога. Vikhr-Llama обладает возможностью многоязычной генерации, и высокопроизводительными возможностями RAG. Модель иммет лучшие оценки среди прочих на наших инструктивных и RAG бенчарках и, поэтому, мы верим, что во многих задачах может быть лучше чем gpt-3.5-turbo от OpenAI.

Описание от команды VikhrModels

Vikhr-Nemo - это наша флагманская унимодальная LLM (Large Language Model) представляющая из себя улучшенную версию mistralai/Mistral-Nemo-Instruct-2407 командой VikhrModels, адаптированную преимущественно для русского и английского языков. Для ее обучения мы использовали несколько этапов включающих в себя SFT и SMPO - нашу собственную вариацию DPO, подробнее читайте в секции "Как эта модель создавалась".

Модель оптимизированна для различных вариантов использования, включая ризонинг, суммаризацию, код, roleplay, поддержание диалога. Vikhr-Nemo обладает возможностью многоязычной генерации, и высокопроизводительными возможностями RAG. Модель иммет лучшие оценки среди прочих на наших инструктивных и RAG бенчарках и, поэтому, мы верим, что в некоторых задачах (например, RAG) может быть не хуже gpt-4o-mini от OpenAI.

Месяц назад мы выпустили первую серию математических LLM - Qwen2-Math - из нашего семейства Qwen. Сегодня мы обновили его и сделали открытым исходный код серии Qwen2.5-Math, включая базовые модели Qwen2.5-Math-1.5B/7B/72B, модели, настроенные на инструкции Qwen2.5-Math-1.5B/7B/72B-Instruct, и математическую модель вознаграждения Qwen2.5-Math-RM-72B.

В отличие от серии Qwen2-Math, которая поддерживает только использование Chain-of-Thought (CoT) для решения математических задач на английском языке, серия Qwen2.5-Math расширена для поддержки использования как CoT, так и Tool-integrated Reasoning (TIR) для решения математических задач как на китайском, так и на английском языках. Модели серии Qwen2.5-Math достигли значительного улучшения производительности по сравнению с моделями серии Qwen2-Math на китайских и английских математических эталонных тестах с использованием CoT.

Ролеплейная модель Starcannon версия 3

Файнтюн версии Qwen2.5-72B, который значительно реже отказывается отвечать.

Модель для генерации изображений от OpenAI (несколько устарела с выходом Dall-E 3)

Цены за 1 изображение:
Качество standard:
- 1024x1024 - 3 р. 88 к.
- 512x512 - 3 р. 50 к.
- 256x256 - 3 р. 10 к.

Флагманская модель для генерации изображений от OpenAI

Цены за 1 изображение:
Качество standard:
- 1024x1024 - 7 р. 76 к.
- 1024x1792 - 15 р. 52 к.
- 1792x1024 - 15 р. 52 к.

Качество hd:
- 1024x1024 - 15 р. 52 к.
- 1024x1792 - 23 р. 28 к.
- 1792x1024 - 23 р. 28 к.

Модель, предназначенная для тестирования API.
Возвращает простой рисунок с запросом и выбранным размером.

Поддерживает response_format="url" и response_format="b64_json"

Модель генерации изображений от stability.ai.

Модель поддерживает разрешения
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает дополнительные параметры в body_json:
- "cfg_scale" (по умолчанию 7)
- "negative_prompt" (по умолчанию "bad quality, worse quality")

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)

Опенсорсная text-to-image модель, сравнимая с DALLE

Модель поддерживает разрешения
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает дополнительные параметры в body_json:
- "cfg_scale" (по умолчанию 3)
- "negative_prompt" (по умолчанию "bad quality, worse quality")

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)
Модель поддерживает разрешения
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает дополнительные параметры в body_json:
- "cfg_scale" (по умолчанию 7)
- "negative_prompt" (по умолчанию "bad quality, worse quality")

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)

0.9 рублей за 512x512
1.8 рублей за остальные разрешения

Модель поддерживает разрешения
- 512x512
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)

4.0 рублей за 512x512
7.5 рублей за остальные разрешения

Модель поддерживает разрешения
- 512x512
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает дополнительные параметры в body_json:
- "guidance_scale" (по умолчанию 3.5)

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)

14.9 рублей за генерацию

Модель поддерживает разрешения
- 512x512
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)

14.9 рублей за генерацию

Модель поддерживает разрешения
- 512x512
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)

Модель для текстовых эмбеддингов от OpenAI

Флагманская мультимодальная модель Google, поддерживающая в запросе изображения и текст.

Приблизительная стоимость 1 запроса с 1 картинкой - всего 5 копеек!


Минимальный баланс для вызова модели: 12р.

Способность понимать изображения в дополнение ко всем другим возможностям GPT-4 Turbo . Данные обучения: до апреля 2023 г.
Минимальный баланс для вызова модели: 50р.

Вариант Claude 3 Sonnet для обработки изображений
Минимальный баланс для вызова модели: 50р.

Vision-вариант Anthropic: Claude 3 Opus
Минимальный баланс для вызова модели: 150р.

Vision-вариант Haiku
Минимальный баланс для вызова модели: 10р.

Новейшая модель GPT-4 Turbo с возможностями машинного зрения. Запросы Vision теперь могут использовать режим JSON и вызов функций. Данные обучения: до декабря 2023 г.

Эта модель обновлена OpenAI, чтобы указать на последнюю версию GPT-4 Turbo , в настоящее время gpt-4-turbo-2024-04-09 (по состоянию на апрель 2024 г.).
Минимальный баланс для вызова модели: 50р.

Модель Google: Gemini Pro 1.5
Минимальный баланс для вызова модели: 200р.

Multimodal-версия OpenAI: GPT-4o
Минимальный баланс для вызова модели: 10р.

Google: Gemini Flash 1.5
Минимальный баланс для вызова модели: 1р.

Вариант Claude 3.5 Sonnet для обработки изображений
Минимальный баланс для вызова модели: 50р.

Multimodal-версия OpenAI: GPT-4o
Минимальный баланс для вызова модели: 10р.

Qwen2 VL 72B - это мультимодальная LLM от команды Qwen со следующими ключевыми улучшениями:

Передовое понимание изображений различного разрешения и соотношения сторон: Qwen2-VL достигает наилучших результатов в тестах на визуальное понимание, включая MathVista, DocVQA, RealWorldQA, MTVQA и др.

Агент, способный управлять вашими мобильными устройствами, роботами и т.д.: благодаря способностям к сложным рассуждениям и принятию решений, Qwen2-VL может быть интегрирован с такими устройствами, как мобильные телефоны, роботы и т.д., для автоматического управления на основе визуальной среды и текстовых инструкций.

Многоязычная поддержка: для обслуживания глобальных пользователей, помимо английского и китайского, Qwen2-VL теперь поддерживает понимание текстов на разных языках внутри изображений, включая большинство европейских языков, японский, корейский, арабский, вьетнамский и др.

Использование этой модели регулируется ЛИЦЕНЗИОННЫМ СОГЛАШЕНИЕМ Tongyi Qianwen.
Минимальный баланс для вызова модели: 30р.

Первая модель преобразования изображения в текст от Mistral AI.
Минимальный баланс для вызова модели: 30р.

Llama 3.2 11B Vision - это мультимодальная модель с 11 миллиардами параметров, разработанная для решения задач, сочетающих визуальные и текстовые данные. Она отлично справляется с такими задачами, как подписи к изображениям и визуальные вопросы и ответы, преодолевая разрыв между генерацией языка и визуальным рассуждением. Предварительно обученная на огромном наборе данных пар изображений и текста, она хорошо работает в сложном, высокоточном анализе изображений.
Минимальный баланс для вызова модели: 10р.

Модель Llama 90B Vision - это первоклассная мультимодальная модель с 90 миллиардами параметров, разработанная для самых сложных задач визуального мышления и языкового анализа.
Минимальный баланс для вызова модели: 20р.

Распознавание речи с помощью Whisper.
Тарификация идет посекундно; цена указана за 1000 секунд и измеряется при входе.

Важно: обращение идет не к OpenAI, а к стороннему хостеру модели Whisper v3. Возможны некоторые несовместимости в отношении ответа по отношению к оригинальному OpenAI.

Модель OpenAI для генерации речи.

Поддерживаемые голоса: alloy, echo, fable, onyx, nova, shimmer
Поддерживаемые response_format: mp3, opus, aac, flac, wav, pcm

Модель OpenAI: TTS HD

Поддерживаемые голоса: alloy, echo, fable, onyx, nova, shimmer
Поддерживаемые response_format: mp3, opus, aac, flac, wav, pcm

Модель предназначена для генерации музыки.