Модели по новизне

Mistral Large 2 2411 - это обновление Mistral Large 2.

Модель свободно владеет английским, французским, испанским, немецким и итальянским языками с высокой грамматической точностью, а её большое контекстное окно позволяет точно извлекать информацию из объёмных документов.

Qwen2.5-Coder - это новейшая серия специализированных языковых моделей Qwen для работы с кодом (ранее известных как CodeQwen). Qwen2.5-Coder предлагает следующие улучшения по сравнению с CodeQwen1.5:

Значительные улучшения в генерации кода, логическом анализе кода и исправлении ошибок.
Более комплексная основа для практических приложений, таких как Код-агенты. Не только улучшение возможностей программирования, но и сохранение сильных сторон в математике и общих компетенциях.

Обновленная специализированная модель для ролевых игр и написания историй, файнтюн Qwen2.5-72B на смеси синтетических и естественных данных.
Использует набор данных Celeste 70B 0.1, значительно расширенный для улучшения универсальности, креативности и "характера" результирующей модели.

Примечания к версии 0.1: Обработанный заново набор данных (через Cahvay для 32B 0.2, использован также здесь), скорректированная конфигурация обучения для 8xH100 SXM. Значительные улучшения в следовании инструкциям, понимании длинного контекста и общей согласованности по сравнению с v0.0.

Клод 3.5 Хайку обладает улучшенными возможностями в скорости, точности кодирования и использовании инструментов. Разработанный для достижения высоких результатов в приложениях реального времени, он обеспечивает быстрое время отклика, что крайне важно для динамических задач, таких как чат-взаимодействия и мгновенные предложения по кодированию.

Это делает его особенно подходящим для сред, требующих как скорости, так и точности, таких как разработка программного обеспечения, чат-боты для обслуживания клиентов и системы управления данными.

Версия Сайги на базе MistralNemo 12B. Автор: Илья Гусев

Уникальная фича модели — расцензурированность и ориентация на role-play. Обучена abliterated версии Немо, и из и SFT, и SimPO датасетов вычищены отказы.

К сожалению, ввиду особенностей инференса, не даем гарантий, что роль system упоминается в темплейте корректно. В случае проблем исключите роль system из чата.

Специализированная модель для ролевых игр и написания историй, файнтюн Qwen2.5-72B на смеси синтетических и естественных данных.
Использует набор данных Celeste 70B 0.1, значительно расширенный для улучшения универсальности, креативности и "характера" результирующей модели.

Новая модель Nemotron от NVidia.

К сожалению, русский у этой модели не очень хорош.

Ministral 8B - это модель с 8 миллиардами параметров, отличающаяся уникальным чередующимся паттерном внимания с скользящим окном для более быстрого и эффективного по памяти вывода.

Увы, не очень хороша в русском языке.

Файнтюн версии Qwen2.5-72B, который значительно реже отказывается отвечать.

Rocinante 12B разработан для увлекательного повествования и богатой прозы.

Ранние тестировщики сообщали о:

Расширенном словарном запасе с уникальным и выразительным выбором слов
Улучшенной креативности для создания ярких повествований
Наполненных приключениями и захватывающих историях

Qwen2.5 7B - это новейшая серия больших языковых моделей Qwen.

Многоязычная поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский, арабский и другие.

Использование этой модели регулируется ЛИЦЕНЗИОННЫМ СОГЛАШЕНИЕМ Tongyi Qianwen.

Для работы с русским рекомендуется: пониженная температура 0.5, а также 0 штрафы за присутствие и частоту.

Grok Beta - это передовая языковая модель xAI с современными возможностями рассуждения, наиболее подходящая для сложных и многоэтапных задач.

Gemini 1.5 Flash-8B оптимизирован для скорости и эффективности, обеспечивая улучшенную производительность в небольших задачах с подсказками, таких как чат, транскрипция и перевод. Благодаря сниженной задержке он очень эффективен для операций в режиме реального времени и в больших масштабах. Эта модель ориентирована на экономически эффективные решения при сохранении высокого качества результатов.

14.9 рублей за генерацию

Модель поддерживает разрешения
- 512x512
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)

Модель Llama 90B Vision - это первоклассная мультимодальная модель с 90 миллиардами параметров, разработанная для самых сложных задач визуального мышления и языкового анализа.
Минимальный баланс для вызова модели: 20р.

Llama 3.2 11B Vision - это мультимодальная модель с 11 миллиардами параметров, разработанная для решения задач, сочетающих визуальные и текстовые данные. Она отлично справляется с такими задачами, как подписи к изображениям и визуальные вопросы и ответы, преодолевая разрыв между генерацией языка и визуальным рассуждением. Предварительно обученная на огромном наборе данных пар изображений и текста, она хорошо работает в сложном, высокоточном анализе изображений.
Минимальный баланс для вызова модели: 10р.

Новая модель LLama 3.2 90B

Llama 3.2 3B - это многоязычная модель большого языка с 3 миллиардами параметров, оптимизированная для продвинутых задач обработки естественного языка, таких как генерация диалогов, рассуждения и обобщение. Разработанная с использованием новейшей архитектуры трансформеров, она поддерживает восемь языков, включая английский, испанский и хинди, и адаптируема для дополнительных языков.

Обученная на 9 триллионах токенов, модель Llama 3.2B отлично справляется с выполнением инструкций, сложными рассуждениями и использованием инструментов. Её сбалансированная производительность делает её идеальной для приложений, требующих точности и эффективности в генерации текста в многоязычных средах.

Ролеплейная модель Starcannon версия 3

Месяц назад мы выпустили первую серию математических LLM - Qwen2-Math - из нашего семейства Qwen. Сегодня мы обновили его и сделали открытым исходный код серии Qwen2.5-Math, включая базовые модели Qwen2.5-Math-1.5B/7B/72B, модели, настроенные на инструкции Qwen2.5-Math-1.5B/7B/72B-Instruct, и математическую модель вознаграждения Qwen2.5-Math-RM-72B.

В отличие от серии Qwen2-Math, которая поддерживает только использование Chain-of-Thought (CoT) для решения математических задач на английском языке, серия Qwen2.5-Math расширена для поддержки использования как CoT, так и Tool-integrated Reasoning (TIR) для решения математических задач как на китайском, так и на английском языках. Модели серии Qwen2.5-Math достигли значительного улучшения производительности по сравнению с моделями серии Qwen2-Math на китайских и английских математических эталонных тестах с использованием CoT.

Описание от команды VikhrModels

Vikhr-Nemo - это наша флагманская унимодальная LLM (Large Language Model) представляющая из себя улучшенную версию mistralai/Mistral-Nemo-Instruct-2407 командой VikhrModels, адаптированную преимущественно для русского и английского языков. Для ее обучения мы использовали несколько этапов включающих в себя SFT и SMPO - нашу собственную вариацию DPO, подробнее читайте в секции "Как эта модель создавалась".

Модель оптимизированна для различных вариантов использования, включая ризонинг, суммаризацию, код, roleplay, поддержание диалога. Vikhr-Nemo обладает возможностью многоязычной генерации, и высокопроизводительными возможностями RAG. Модель иммет лучшие оценки среди прочих на наших инструктивных и RAG бенчарках и, поэтому, мы верим, что в некоторых задачах (например, RAG) может быть не хуже gpt-4o-mini от OpenAI.

Vikhr-Llama3.1 - это унимодальная LLM (Large Language Model) на 8B параметров представляющая из себя улучшенную версию meta-llama/Meta-Llama-3.1-8B-Instruct командой VikhrModels, адаптированную преимущественно для русского и английского языков. Для обучения использовались несколько этапов включающих в себя SFT и SMPO.

Модель оптимизирована для различных вариантов использования, включая ризонинг, суммаризацию, код, roleplay, поддержание диалога. Vikhr-Llama обладает возможностью многоязычной генерации, и высокопроизводительными возможностями RAG. Модель иммет лучшие оценки среди прочих на наших инструктивных и RAG бенчарках и, поэтому, мы верим, что во многих задачах может быть лучше чем gpt-3.5-turbo от OpenAI.

Первая модель преобразования изображения в текст от Mistral AI.
Минимальный баланс для вызова модели: 30р.

Qwen2 VL 72B - это мультимодальная LLM от команды Qwen со следующими ключевыми улучшениями:

Передовое понимание изображений различного разрешения и соотношения сторон: Qwen2-VL достигает наилучших результатов в тестах на визуальное понимание, включая MathVista, DocVQA, RealWorldQA, MTVQA и др.

Агент, способный управлять вашими мобильными устройствами, роботами и т.д.: благодаря способностям к сложным рассуждениям и принятию решений, Qwen2-VL может быть интегрирован с такими устройствами, как мобильные телефоны, роботы и т.д., для автоматического управления на основе визуальной среды и текстовых инструкций.

Многоязычная поддержка: для обслуживания глобальных пользователей, помимо английского и китайского, Qwen2-VL теперь поддерживает понимание текстов на разных языках внутри изображений, включая большинство европейских языков, японский, корейский, арабский, вьетнамский и др.

Использование этой модели регулируется ЛИЦЕНЗИОННЫМ СОГЛАШЕНИЕМ Tongyi Qianwen.
Минимальный баланс для вызова модели: 30р.

Qwen2.5 72B - это последняя серия больших языковых моделей Qwen. Qwen2.5 приносит следующие улучшения по сравнению с Qwen2:

Значительно больше знаний и значительно улучшенные возможности в кодировании и математике благодаря нашим специализированным экспертным моделям в этих областях.

Значительные улучшения в следовании инструкциям, генерации длинных текстов (более 8 тысяч токенов), понимании структурированных данных (например, таблиц) и генерации структурированных выходных данных, особенно JSON. Более устойчива к разнообразию системных подсказок, улучшая реализацию ролевых игр и настройку условий для чат-ботов.

Поддержка длинного контекста до 128 тысяч токенов и возможность генерировать до 8 тысяч токенов.

Многоязычная поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский, арабский и другие.

Использование этой модели регулируется ЛИЦЕНЗИОННЫМ СОГЛАШЕНИЕМ Tongyi Qianwen.

ОБЩЕЕ ОПИСАНИЕ:
Последнее и самое мощное семейство моделей от OpenAI, o1 разработано так, чтобы тратить больше времени на размышления перед ответом.

Модели o1 оптимизированы для математики, науки, программирования и других задач, связанных с STEM. Они постоянно демонстрируют точность на уровне PhD в тестах по физике, химии и биологии.

ОСОБЕННОСТИ БИЛЛИНГА:
До выдачи результатов по API модель размышляет над ответом. Это стоит довольно много токенов, но не показывается в ответе.
Биллинг осуществляется по данным провайдера - сколько токенов было затрачено на вход и выход, в соответствии с этим идет тарификация.
Мы не комментируем и не принимаем претензии, связанные с вычислением токенов у провайдера.

ВРЕМЕННО:
- не работает со стримингом. Т.е. недоступна через обычный чат, но можно воспользоваться специальным в Сервисах.
Минимальный баланс для вызова модели: 100р.

ОБЩЕЕ ОПИСАНИЕ:
Последнее и самое мощное семейство моделей от OpenAI, o1 разработано так, чтобы тратить больше времени на размышления перед ответом.

Модели o1 оптимизированы для математики, науки, программирования и других задач, связанных с STEM. Они постоянно демонстрируют точность на уровне PhD в тестах по физике, химии и биологии.

RATE-LIMIT:
В момент запуска (12-13 сентября) модель ОЧЕНЬ сильно ограничена в числе запросов и постоянно выдает ошибку 429 как экспериментальная модель. Позднее данные ограничения должны быть сняты.

ОСОБЕННОСТИ БИЛЛИНГА:
До выдачи результатов по API модель размышляет над ответом. Это стоит довольно много токенов, но не показывается в ответе.
Биллинг осуществляется по данным провайдера - сколько токенов было затрачено на вход и выход, в соответствии с этим идет тарификация.
Мы не комментируем и не принимаем претензии, связанные с вычислением токенов у провайдера.

ВРЕМЕННО:
- не работает со стримингом. Т.е. недоступна через обычный чат, но можно воспользоваться специальным в Сервисах.
Минимальный баланс для вызова модели: 30р.

command-r-plus-08-2024 - это обновление Command R+ с примерно на 50% более высокой пропускной способностью и на 25% меньшей задержкой по сравнению с предыдущей версией Command R+

command-r-08-2024 - это обновление Command R с улучшенной производительностью для многоязычной генерации с дополнением извлечения (RAG) и использования инструментов. В более широком смысле, она лучше справляется с математикой, кодом и рассуждениями и конкурентоспособна с предыдущей версией более крупной модели Command R+.

14.9 рублей за генерацию

Модель поддерживает разрешения
- 512x512
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)

4.0 рублей за 512x512
7.5 рублей за остальные разрешения

Модель поддерживает разрешения
- 512x512
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает дополнительные параметры в body_json:
- "guidance_scale" (по умолчанию 3.5)

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)

0.9 рублей за 512x512
1.8 рублей за остальные разрешения

Модель поддерживает разрешения
- 512x512
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)

Модель предназначена для генерации музыки.

Это модель для креативных ролевых игр и написания историй, использующая nothingiisreal/mn-celeste-12b в качестве основы и объединенная с intervitens/mini-magnum-12b-v1.1 с помощью метода TIES.

Хотя в целом модель больше похожа на Magnum, она остается очень креативной, с приятным стилем письма. Рекомендуется для людей, желающих большего разнообразия, чем Magnum, и в то же время более многословной прозы, чем Celeste.

Euryale L3.1 70B v2.2 - это модель, ориентированная на креативную ролевую игру, созданная Sao10k. Она является преемником Euryale L3 70B v2.1, но уже на базе модели Llama 3.1, которая значительно лучше работает с русским языком.

Гермес 3 - это универсальная языковая модель со многими улучшениями по сравнению с Гермесом 2, включая продвинутые агентные возможности, гораздо лучшее ролевое взаимодействие, рассуждение, многоходовую беседу, согласованность длинного контекста и улучшения по всем направлениям.

Гермес 3 405B - это полнопараметрическая доводка базовой модели Llama-3.1 405B уровня передовых технологий, ориентированная на согласование языковых моделей с пользователем, с мощными возможностями управления и контроля, предоставляемыми конечному пользователю.

По этому ID доступна самая последняя модель GPT-4o от OpenAI. Поведение модели постоянно меняется и улучшается; если вам нужно стабильное поведение по API, используйте другие модели.

Версия GPT-4o в которой расширены возможности генерации выхода до 64 000 токенов). Представлена в июле 2024.

Топовая модель для решения математических задач на английском - превосходит GPT-4o по метрикам.

Специализированная модель для написания историй и ролевых игр, основанная на Mistral's NeMo 12B Instruct. Дообучена на отобранных наборах данных, включая Reddit Writing Prompts и Opus Instruct 25K.

Эта модель превосходно справляется с творческим письмом. Она демонстрирует замечательную универсальность разного рода сценариях, с сильными возможностями управления вне роли (OOC), что позволяет точно контролировать направление повествования и поведение персонажей.

Llama 3.1 Sonar - это новейшее семейство моделей Perplexity. Оно превосходит предыдущие модели Sonar по экономической эффективности, скорости и производительности.

Llama 3.1 Sonar - это новейшее семейство моделей Perplexity. Оно превосходит предыдущие модели Sonar по экономической эффективности, скорости и производительности.

Multimodal-версия OpenAI: GPT-4o
Минимальный баланс для вызова модели: 10р.

Версия GPT-4o от 2024-08-06 предлагает улучшенную производительность в структурированных выводах, с возможностью предоставления JSON-схемы в формате ответа.

Один из первых тюнов Llama 2, вышедший 30 марта 2023

https://lmsys.org/blog/2023-03-30-vicuna/

Давно ожидаемая модель Llama3 405B.

По результатам бенчмарков сравнима с GPT-4o и Sonnet.

Довольно сильный файюнтюн Smaug теперь и на базе Qwen 72B, с расширенным контекстом 16 000 токенов.

Mistral AI представила Mistral NeMo, 12-миллиардную модель, разработанную в сотрудничестве с NVIDIA. Mistral NeMo предлагает большой контекст до 128 тысяч токенов.

Модель тренировалась на многоязычных данных, и, что довольно приятно, графики включают в себя оценки эффективности на русском языке.

Наша новость на Хабре: https://habr.com/ru/news/829822/

Мы создали Tess-v2.5.2, новейшую передовую модель в серии больших языковых моделей (LLM) Tess. Tess, сокращение от Tesoro (Сокровище на итальянском), - это флагманская серия LLM, созданная Мигелем Тиссерой. Tess-v2.5.2 приносит значительные улучшения в способностях рассуждения, кодирования и математики. В настоящее время это модель №1 с открытым весом при оценке по MMLU (Massive Multitask Language Understanding). Она набирает больше баллов, чем все другие модели с открытым весом, включая Qwen2-72B-Instruct, Llama3-70B-Instruct, Mixtral-8x22B-Instruct и DBRX-Instruct. Более того, при оценке по MMLU, модель Tess-v2.5.2 (Qwen2-72B) превосходит даже передовые закрытые модели Gemini-1.0-Ultra, Gemini-1.5-Pro, Mistral-Large и Claude-3-Sonnet.

Доработка Magnum-72B от Undi95

Модель от Sao10K, известного своими ролеплейными моделями.

Эта модель представляет собой многоуровневое SLERP-слияние нескольких вариантов Llama 3 70B, в основном для ролеплей задач.

Пример генерации:

Ты - персонаж Аква из аниме Коносуба. Скажи что-нибудь в характере персонажа.

Модель:
Вздыхает Ох, опять эти люди... Они не понимают, что я - Аква, богиня воды! Я создала этот мир, и я могу его уничтожить. Но вместо того, чтобы поклоняться мне, они предпочитают отправлять меня на задания и требовать, чтобы я выполняла их прихоти. Брезгливо морщит нос И эти грязные, мерзкие монстры, которые я должна убивать... Скрещивает руки на груди Я не для этого создана. Я - богиня, а не убийца. Вздыхает Но что я могу сделать? Я обещала помочь этим людям, и я не могу нарушить свое слово. Склоняет голову Я - Аква, богиня воды, и я выполню свой долг. Вздыхает Даже если это будет означать, что я должна будет убивать монстров и выполнять прихоти этих людей. Склоняет голову и закрывает глаза Ох, если бы только они знали, что я на самом деле... Шепчет Богиня...

Эта модель представляет собой 50/50 SLERP-слияние между crestf411/L3-70B-daybreak-storywriter-v0.4 и tenyx/Llama3-TenyxChat-70B и нацелена на написание историй и ролеплей.

За основу взята LLama3 70B.

Одна из самых компактных ролеплей моделей, которую можно запустить локально, с хорошими отзывами.

Эта модель была создана с использованием нового рецепта Smaug для улучшения производительности в реальных многоходовых разговорах, примененного к meta-llama/Meta-Llama-3-70B-Instruct.

Модель значительно превосходит Llama-3-70B-Instruct и находится на одном уровне с GPT-4-Turbo по результатам MT-Bench (см. ниже).

Smaug-Llama-3-70B-Instruct в настоящее время является лучшей моделью с открытым исходным кодом на Arena-Hard! Она также почти не уступает Claude Opus

Это Suzume 8B, многоязычная доработка Llama 3 (meta-llama/Meta-Llama-3-8B-Instruct).

Llama 3 показала отличные результаты во многих тестах на английском языке.
Однако, похоже, она также была настроена в основном на английских данных, что означает, что она будет отвечать на английском, даже если запрос сделан на других языках.

Мы доработали Llama 3 на почти 90 000 многоязычных разговоров, что означает, что эта модель обладает интеллектом Llama 3, но с дополнительной способностью общаться на большем количестве языков.

Версия Сайги для LLama3 8B

Самая последняя модель от OpenAI из семейства GPT-4o.
Превосходит по цене и качеству GPT-3.5-Turbo, а также Claude 3 Haiku и Gemini Flash.

Gemma 2 27B от Google - это открытая модель, созданная на основе тех же исследований и технологий, которые использовались для создания моделей Gemini.

Модели Gemma хорошо подходят для различных задач генерации текста, включая ответы на вопросы, обобщение и рассуждение.

Нормально работает на русском языке (рекомендуется температура пониже)

Опенсорсная text-to-image модель, сравнимая с DALLE

Модель поддерживает разрешения
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает дополнительные параметры в body_json:
- "cfg_scale" (по умолчанию 3)
- "negative_prompt" (по умолчанию "bad quality, worse quality")

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)
Модель поддерживает разрешения
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает дополнительные параметры в body_json:
- "cfg_scale" (по умолчанию 7)
- "negative_prompt" (по умолчанию "bad quality, worse quality")

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)

От создателя Голиафа, Magnum 72B - это первая модель из нового семейства, разработанного для достижения уровня прозы моделей Claude 3, в частности Opus и Sonnet.

Модель основана на Qwen2 72B и обучена на 55 миллионах токенов тщательно отобранных данных ролевых игр (RP).

Модель генерации изображений от stability.ai.

Модель поддерживает разрешения
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает дополнительные параметры в body_json:
- "cfg_scale" (по умолчанию 7)
- "negative_prompt" (по умолчанию "bad quality, worse quality")

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)

Gemma 2 9B от Google - это передовая языковая модель с открытым исходным кодом, которая устанавливает новый стандарт эффективности и производительности в своем классе размеров.

Разработанная для широкого спектра задач, она позволяет разработчикам и исследователям создавать инновационные приложения, сохраняя при этом доступность, безопасность и экономическую эффективность.

Вариант Claude 3.5 Sonnet для обработки изображений
Минимальный баланс для вызова модели: 50р.

Nemotron-4-340B-Instruct - это англоязычная модель чата, оптимизированная для генерации синтетических данных. Эта крупная языковая модель (LLM) является доработанной версией Nemotron-4-340B-Base, разработанной для одно- и многоходовых сценариев чата с контекстной длиной 4096 токенов.

Базовая модель была предварительно обучена на 9 триллионах токенов из разнообразных английских текстов, более 50 естественных языков и более 40 языков программирования. Инструктивная модель прошла дополнительные этапы настройки:

- Супервизированное дообучение (SFT)
- Прямая оптимизация предпочтений (DPO)
- Оптимизация предпочтений с учетом вознаграждения (RPO)

В процессе выравнивания использовалось примерно 20 тыс. образцов, аннотированных человеком, в то время как 98% данных для дообучения были синтетически сгенерированы.

Модель умеет работать с русским языком

Сегодня мы запускаем Claude 3.5 Sonnet — наш первый релиз в будущей линейке моделей Claude 3.5. Claude 3.5 Sonnet поднимает планку в отрасли по уровню интеллекта, превосходя конкурентные модели и Claude 3 Opus по широкому спектру оценок, с такой же скоростью и стоимостью, как и у нашей средней модели Claude 3 Sonnet.

Сегодня мы представляем DeepSeek-V2, мощную языковую модель Mixture-of-Experts (MoE), характеризующуюся экономичной тренировкой и эффективным выводом. Она включает в себя 236 миллиардов общих параметров, из которых 21 миллиард активируются для каждого токена. По сравнению с DeepSeek 67B, DeepSeek-V2 достигает более высокого уровня производительности, одновременно экономя 42.5% затрат на обучение, уменьшая кэш KV на 93.3% и увеличивая максимальную пропускную способность генерации в 5.76 раз.

Всего параметров: 236B, активных: 21B

Хостинг осуществляется разработчиком DeepSeek, который отмечает, что ваши данные могут быть залогированы и использованы для тренировки последующих моделей.

Мы представляем DeepSeek-Coder-V2, открытую языковую модель Mixture-of-Experts (MoE), которая достигает результатов, сопоставимых с GPT4-Turbo в задачах, связанных с кодом. Модель была дообучена на 6 триллионах токенов и улучшила свои способности в программировании и математическом рассуждении, сохраняя при этом производительность в общих языковых задачах. DeepSeek-Coder-V2 поддерживает 338 языков программирования и 32К контекст.

Всего параметров: 236B, активных: 21B

Хостинг осуществляется разработчиком DeepSeek, который отмечает, что ваши данные могут быть залогированы и использованы для тренировки.

Модель, ориентированная на креативную ролевую игру от Sao10k.

- Лучшее соблюдение подсказок.
- Лучшая анатомия / пространственное восприятие.
- Гораздо лучше адаптируется к уникальным и нестандартным форматам / форматам ответов.
- Очень креативная, много уникальных идей.
- Без фильтров

Базируется на Llama3 70B

Модель OpenAI: TTS HD

Поддерживаемые голоса: alloy, echo, fable, onyx, nova, shimmer
Поддерживаемые response_format: mp3, opus, aac, flac, wav, pcm

Модель OpenAI для генерации речи.

Поддерживаемые голоса: alloy, echo, fable, onyx, nova, shimmer
Поддерживаемые response_format: mp3, opus, aac, flac, wav, pcm

Большая модель Qwen, превосходящая по разным показателям Llama3 70B.
Неплохо работает с русским языком.

Google: Gemini Flash 1.5
Минимальный баланс для вызова модели: 1р.

Llama 3 70B finetune, созданный на основе ролевых данных и расширенным контекстом. Находясь в балансе между ERP и RP, Lumimaid был разработан, чтобы быть серьезным, но без цензуры, когда это необходимо.

Для повышения общего уровня интеллекта и возможностей чата около 40 % обучающих данных не были ролевыми. Это обеспечивает широкий доступ к знаниям, но при этом ролевая игра остается основным вариантом применения.

Используется int4 квантизация для обработки запросов.

Phi-3 Mini — это мощная модель размером 3.8B, предназначенная для углубленного понимания языка, рассуждения и выполнения инструкций. Оптимизированная за счет контролируемой тонкой настройки и настройки предпочтений, она превосходно справляется с задачами, связанными со здравым смыслом, математикой, логическим рассуждением и обработкой кода.

На момент выпуска Phi-3 Medium продемонстрировала самые современные характеристики среди легких моделей. Эта модель обучена на автономном наборе данных с конечной датой октября 2023 года.

Phi-3 Medium — это мощная модель с 14 миллиардами параметров, предназначенная для углубленного понимания языка, рассуждения и выполнения инструкций. Оптимизированная за счет контролируемой тонкой настройки и настройки предпочтений, она превосходно справляется с задачами, связанными со здравым смыслом, математикой, логическим рассуждением и обработкой кода.

На момент выпуска Phi-3 Medium продемонстрировала самые современные характеристики среди легких моделей. В тесте MMLU-Pro модель даже приблизилась к уровню производительности Llama3 70B.

Gemini 1.5 Flash — это базовая модель, которая хорошо справляется с различными мультимодальными задачами, такими как визуальное понимание, классификация, обобщение и создание контента из изображений, аудио и видео. Он умеет обрабатывать визуальные и текстовые данные, такие как фотографии, документы, инфографика и снимки экрана.

Gemini 1.5 Flash предназначен для выполнения объемных и высокочастотных задач, где стоимость и задержка имеют значение. При выполнении большинства распространенных задач Flash обеспечивает качество, сравнимое с другими моделями Gemini Pro, при значительно меньших затратах. Flash хорошо подходит для таких приложений, как чат-помощники и создание контента по требованию, где скорость и масштаб имеют значение.

Multimodal-версия OpenAI: GPT-4o
Минимальный баланс для вызова модели: 10р.

GPT-4o («o» от «omni») — это новейшая модель искусственного интеллекта OpenAI, поддерживающая как ввод текста, так и изображения, а также текстовый вывод. Он сохраняет уровень интеллекта GPT-4 Turbo, будучи в два раза быстрее и на 50 % экономичнее. GPT-4o также обеспечивает улучшенную производительность при обработке языков, отличных от английского, и расширенные визуальные возможности. Данные обучения: до октября 2023 г.

Llama 3 8B finetune, созданный на основе ролевых данных и расширенным контекстом. Находясь в балансе между ERP и RP, Lumimaid был разработан, чтобы быть серьезным, но без цензуры, когда это необходимо.

Для повышения общего уровня интеллекта и возможностей чата около 40 % обучающих данных не были ролевыми. Это обеспечивает широкий доступ к знаниям, но при этом ролевая игра остается основным вариантом применения.

Топовая опенсорс модель LLaMA v3 70B - по метрикам сравнимая с Claude 3 Sonnet.

Последняя базовая опенсорс модель Llama v3 размером 8B.
По тестам превосходит предыдущего гиганта Llama2 70B.

WizardLM-2 7B — это уменьшенный вариант последней модели Wizard от Microsoft AI. Она самая быстрая и обеспечивает производительность, сопоставимую с существующими ведущими моделями с открытым исходным кодом, в 10 раз более крупными.

Это усовершенствованная версия Mistral 7B Instruct , использующая ту же технику, что и WizardLM-2 8x22B .

Официальный Instruct-файнтюн Mistral для версии Mixtral 8x22B. Он использует 39 миллиардов активных параметров из 141 миллиарда, обеспечивая беспрецедентную экономическую эффективность для своего размера.

WizardLM-2 8x22B — самая совершенная модель Wizard от Microsoft AI. Она демонстрирует высокую конкурентоспособность по сравнению с ведущими проприетарными моделями и неизменно превосходит все существующие современные модели с открытым исходным кодом.

Модель Google: Gemini Pro 1.5
Минимальный баланс для вызова модели: 200р.

Новейшая мультимодальная модель Google, поддерживающая изображения и видео в текстовых сообщениях или подсказках чата.

Оптимизирована для языковых задач, таких как:

- Генерация кода
- Генерация текста
- Редактирование текста
- Решение проблем
- Рекомендации
- Извлечение информации
- Извлечение или генерация данных
- ИИ-агенты

Версия от мая 2024 г.

Новейшая модель GPT-4 Turbo с возможностями машинного зрения. Запросы Vision теперь могут использовать режим JSON и вызов функций. Данные обучения: до декабря 2023 г.

Эта модель обновлена OpenAI, чтобы указать на последнюю версию GPT-4 Turbo , в настоящее время gpt-4-turbo-2024-04-09 (по состоянию на апрель 2024 г.).
Минимальный баланс для вызова модели: 50р.

Последняя модель GPT-4-Turbo.

Command R+ — это новый масштабируемый LLM от Cohere с расширенными возможностями извлечения дополненной генерации (RAG), предназначенный для минимизации неточностей и обеспечения цитирования, что делает его идеальным для использования в бизнесе.

Анонс: https://txt.cohere.com/command-r-plus-microsoft-azure/

Command-R — это диалоговая модель, основанная на выполнении инструкций, которая выполняет языковые задачи более качественно, более надежно и с более длинным контекстом, чем предыдущие модели. Его можно использовать для сложных рабочих процессов, таких как генерация кода, расширенная генерация извлечения (RAG), использование инструментов и агентов.

Анонс: https://txt.cohere.com/command-r/

DBRX - это новая открытая модель большого языка, разработанная Databricks. При 132B она превосходит существующие открытые LLM, такие как Llama 270B и Mixtral-8x7B, на стандартных отраслевых бенчмарках для понимания языка, программирования, математики и логики.

Она использует архитектуру MoE с большим количеством экспертов. 36B параметров активны на любом вводе. Она был предварительно обучена на 12T токенах текста и кода. По сравнению с другими открытыми моделями MoE, такими как Mixtral-8x7B и Grok-1, DBRX использует большее количество меньших экспертов.

Midnight Rose - это уникальная нейросетевая модель, созданная специально для написания захватывающих историй и увлекательных ролевых игр. Она является преемницей таких известных моделей, как Rogue Rose и Aurora Nights, объединяя в себе лучшие качества каждой из них.

Благодаря сложному "генеалогическому древу", Midnight Rose унаследовала выдающиеся способности своих предшественников - более ранних версий Midnight Rose и Wizard Tulu Dolphin 70B. Эта модель была тщательно настроена командой sophosympatheia, чтобы производить объемные и детализированные тексты, которые подарят вам незабываемые впечатления от чтения или игры.

Веса модели:
https://huggingface.co/sophosympatheia/Midnight-Rose-70B-v2.0.3

Распознавание речи с помощью Whisper.
Тарификация идет посекундно; цена указана за 1000 секунд и измеряется при входе.

Важно: обращение идет не к OpenAI, а к стороннему хостеру модели Whisper v3. Возможны некоторые несовместимости в отношении ответа по отношению к оригинальному OpenAI.

Vision-вариант Haiku
Минимальный баланс для вызова модели: 10р.

Claude 3 Haiku — самая быстрая и компактная модель Anthropic, обеспечивающая практически мгновенное реагирование. Быстрая и точная целевая производительность.

Vision-вариант Anthropic: Claude 3 Opus
Минимальный баланс для вызова модели: 150р.

Вариант Claude 3 Sonnet для обработки изображений
Минимальный баланс для вызова модели: 50р.

Claude 3 Opus — самая мощная модель Anthropic для решения очень сложных задач. Он может похвастаться высочайшим уровнем производительности, интеллекта, беглости речи и понимания.

Claude 3 Sonnet — это идеальный баланс интеллекта и скорости для корпоративных рабочих нагрузок. Максимальная полезность по более низкой цене, надежность, сбалансированность для масштабируемых развертываний.

Nous Hermes 2 Mixtral 8x7B DPO — это новая флагманская модель Nous Research, обученная на Mixtral 8x7B MoE LLM .

Модель была обучена на более чем 1 000 000 записей, в основном данных, сгенерированных GPT-4 , а также других высококачественных данных из открытых наборов данных в среде ИИ, что позволило достичь высочайшего уровня производительности при выполнении различных задач.

Это флагманская модель Mistral AI, Mistral Large 2 (версия mistral-large-2407). Она основана на прототипе с закрытым исходным кодом и превосходно справляется с рассуждениями, кодом, JSON, чатом и многим другим.

Модель, предназначенная для тестирования API.
Возвращает простой рисунок с запросом и выбранным размером.

Поддерживает response_format="url" и response_format="b64_json"

Флагманская модель для генерации изображений от OpenAI

Цены за 1 изображение:
Качество standard:
- 1024x1024 - 7 р. 76 к.
- 1024x1792 - 15 р. 52 к.
- 1792x1024 - 15 р. 52 к.

Качество hd:
- 1024x1024 - 15 р. 52 к.
- 1024x1792 - 23 р. 28 к.
- 1792x1024 - 23 р. 28 к.

Модель для генерации изображений от OpenAI (несколько устарела с выходом Dall-E 3)

Цены за 1 изображение:
Качество standard:
- 1024x1024 - 3 р. 88 к.
- 512x512 - 3 р. 50 к.
- 256x256 - 3 р. 10 к.

Новейшая модель GPT-3.5 Turbo с улучшенным выполнением инструкций, режимом JSON, воспроизводимыми выходными данными, параллельным вызовом функций и многим другим. Данные обучения: до сентября 2021 г.

Эта версия имеет более высокую точность ответа в запрошенных форматах и исправлена ошибка, которая вызывала проблему с кодировкой текста для вызовов функций не на английском языке.

Модель gpt-4-0125-preview

Новейшая модель GPT-4 с улучшенным выполнением инструкций, режимом JSON, воспроизводимыми выводами, параллельным вызовом функций и многим другим. Данные обучения: до декабря 2023 г.

Примечание. Во время предварительной версии OpenAI сильно ограничивает скорость.

Способность понимать изображения в дополнение ко всем другим возможностям GPT-4 Turbo . Данные обучения: до апреля 2023 г.
Минимальный баланс для вызова модели: 50р.

Флагманская мультимодальная модель Google, поддерживающая в запросе изображения и текст.

Приблизительная стоимость 1 запроса с 1 картинкой - всего 5 копеек!


Минимальный баланс для вызова модели: 12р.

Это флагманская модель Mistral AI с закрытым исходным кодом. Он основан на прототипе с закрытым исходным кодом и превосходно справляется с рассуждениями, кодом, JSON, чатом и многим другим. В тестах он сравнивается со многими флагманскими моделями других компаний.

В настоящее время эта модель оснащена Mixtral-8X7B-v0.1, редкой смесью экспертной модели с 12B активными параметрами. Он лучше рассуждает, демонстрирует больше возможностей, может создавать код и рассуждать о нем, а также является многоязычным, поддерживая английский, французский, немецкий, итальянский и испанский языки.

Эта модель в настоящее время работает на базе Mistral-7B-v0.2 и включает в себя «лучшую» тонкую настройку, чем Mistral 7B , вдохновленную опенсорсом. Его лучше всего использовать для больших задач пакетной обработки, где стоимость является важным фактором, но возможности рассуждения не имеют решающего значения.

Это файнтюн Mixtral-8x7b на данных до 16к токенов. Он отлично справляется с задачами кодирования благодаря обширным тренировкам с задачами кодогенерации и известен своим послушанием, хотя у него отсутствует настройка DPO.

Предназначен для решения задач на естественном языке, текстового и кодового чата, а также генерации кода.

Максимальный размер генерации: 8 192 токена.

Предварительно обученная генеративная разреженная смесь экспертов от Mistral AI для использования в чате и инструкциях. Включает 8 экспертов (сети прямого распространения) для 47B параметров.

OpenHermes 2 обучен на 900 тыс. инструкций и превосходит все предыдущие версии Hermes 13B и ниже и соответствует 70B в некоторых тестах.

OpenHermes 2.5 - это продолжение модели OpenHermes 2, обученное на дополнительных наборах данных кода. Потенциально самым интересным результатом обучения с хорошим соотношением (около 7–14% от общего набора данных) инструкций по коду было то, что они улучшили несколько тестов, не связанных с кодом, включая набор TruthfulQA, AGIEval и GPT4All. Тем не менее, это снизило оценку теста BigBench, но в целом чистый прирост значителен.

Объединение нескольких моделей для получения эффективно модели для ролевого взаимодействия. Базируется на Mistral 7B.

От создателя MythoMax, объединяющего набор моделей для уменьшения количества нерелевантных слов в ролевом взаимодействии.

В нем объединены Neural Chat 7B, Airoboros 7b, Toppy M 7B, Zepher 7b beta, OpenHermes 2.5 и многие другие.

Модель для текстовых эмбеддингов от OpenAI

Translate-версия OpenChat 7B

OpenChat - это инновационная библиотека языковых моделей с открытым исходным кодом, настроенная с помощью C-RLFT - стратегии, вдохновленной автономным обучением с подкреплением.

По бенчмаркам разработчика, модель сравнима по уровню с ChatGPT марта 2023 года.

Модель довольно хорошо работает на русском даже без переводчика; рекомендуемые параметры: temperature около 0.7, top_p = 0.95. Временно испытывает проблемы при установке ненулевого "штрафа за присутствие" и "штрафа за частоту"

https://huggingface.co/openchat/openchat_3.5

Anthropic: Claude v2.0

lzlv 70B с дополнительной функциональностью.

Весь вход переводится на английский язык.
Весь выход переводится на русский язык.

Это позволяет взаимодействовать с моделью "как бы на английском языке", который модель понимает лучше.

ВАЖНО: При работе с этой моделью ваши данные будут отсылаться в Google Translate или другому провайдеру перевода. Имейте это ввиду.

Объединение выбранных моделей 70B в стиле Mythomax/MLewd_13B. Мультимодель, объединяющая несколько тонких настроек LLaMA2 70B для ролевых игр и творчества. Цель заключалась в том, чтобы создать модель, которая сочетает в себе креативность и интеллект для повышения удобства работы.

Топовая согласно вот этому анализу на Реддите: https://www.reddit.com/r/LocalLLaMA/comments/17fhp9k/huge_llm_comparisontest_39_models_tested_7b70b/

Mythalion 13B с дополнительной функциональностью.

Весь вход переводится на английский язык.
Весь выход переводится на русский язык.

Это позволяет взаимодействовать с моделью "как бы на английском языке", который модель понимает лучше.

ВАЖНО: При работе с этой моделью ваши данные будут отсылаться в Google Translate или другому провайдеру перевода. Имейте это ввиду.

PaLM 2 — это флагманская языковая модель Google с улучшенными возможностями многоязычности, рассуждения и генерации кода.

Последняя модель GPT-4 с улучшенным следованием инструкциям, режимом JSON, воспроизводимыми выходными данными, параллельным вызовом функций и многим другим. Возвращает максимум 4096 выходных токенов. Данные обучения: до апреля 2023.

Новейшая модель GPT-3.5 Turbo с улучшенным выполнением инструкций, режимом JSON, воспроизводимыми выходными данными, параллельным вызовом функций и многим другим. Возвращает максимум 4096 выходных токенов. Данные обучения: до сентября 2021.

Mistral 7B Instruct v0.1 с дополнительной функциональностью.

Весь вход переводится на английский язык.
Весь выход переводится на русский язык.

Это позволяет взаимодействовать с моделью "как бы на английском языке", который модель понимает лучше.

ВАЖНО: При работе с этой моделью ваши данные будут отсылаться в Google Translate или другому провайдеру перевода. Имейте это ввиду.

Команда Mistral AI представила Mistral 7B — открытую языковую модель из 7,3 миллиардов параметров, которая превосходит вдвое большую модель Llama 2 13B на всех бенчмарках. При этом Mistral 7B достигает сравнимых результатов с Code Llama 2 в задачах генерации и исправления кода, хотя она не дообучалась специально для этих задач. Mistral 7B удалось достичь такого результата благодаря grouped-query механизму внимания и скользящему окну внимания (sliding window attention) при обучении на длинных последовательностях.

29 мая модель обновлена до версии 0.3

Вердикт автора VseGPT: на английском справляется относительно неплохо, на русском сильно хуже. Но цена за 1000 символов очень низкая.

В отличие от традиционного GPT-3.5 Turbo, эта модель больше сфокусирована на выполнении инструкций (дай ответ и пр.), нежели на ведение диалога в чате.

Анонсирована Майкрософт 21 сентября 2023.

Стоимость и производительность такие же, как и у других моделей GPT-3.5 с контекстными окнами 4K. Обучающие данные актуальны на сентябрь 2021 года.

OpenAI: GPT-3.5 Turbo Instruct заменит существующие модели Instruct, а также text-ada-001, text-babbage-001, text-curie-001 и три модели text-davinci, которые выйдут на пенсию 4 января 2024 г.

Модель, хорошо подходящая для ролевого взаимодействия.

Идеально для английского языка; для русского будет чуть хуже.

Самая мощная нейросетевая модель от OpenAI.

Из серии Mytho моделей, сделана поверх Llama2 13b

Очень популярна на Западе для самых разных запросов, включая ролеплей.

Очень низкая цена - 13B модель по цене 7B.

Аналог GPT-4 от компании Anthropic - главного конкурента OpenAI, выдающего схожие по качеству ответы.

Отмечу, что Claude v2 дешевле, но по ощущениям не проигрывает GPT-4, если брать текстовую генерацию (в задачах логики она обычно хуже).

Обновлена до последней версии от Anthropic - Claude v2.1 c 200 000 контекста с презентации 21 ноября!