Модели по новизне

Давно ожидаемая модель Llama3 405B.

По результатам бенчмарков сравнима с GPT-4o и Sonnet.

Довольно сильный файюнтюн Smaug теперь и на базе Qwen 72B, с расширенным контекстом 16 000 токенов.

Mistral AI представила Mistral NeMo, 12-миллиардную модель, разработанную в сотрудничестве с NVIDIA. Mistral NeMo предлагает большой контекст до 128 тысяч токенов.

Модель тренировалась на многоязычных данных, и, что довольно приятно, графики включают в себя оценки эффективности на русском языке.

Наша новость на Хабре: https://habr.com/ru/news/829822/

Мы создали Tess-v2.5.2, новейшую передовую модель в серии больших языковых моделей (LLM) Tess. Tess, сокращение от Tesoro (Сокровище на итальянском), - это флагманская серия LLM, созданная Мигелем Тиссерой. Tess-v2.5.2 приносит значительные улучшения в способностях рассуждения, кодирования и математики. В настоящее время это модель №1 с открытым весом при оценке по MMLU (Massive Multitask Language Understanding). Она набирает больше баллов, чем все другие модели с открытым весом, включая Qwen2-72B-Instruct, Llama3-70B-Instruct, Mixtral-8x22B-Instruct и DBRX-Instruct. Более того, при оценке по MMLU, модель Tess-v2.5.2 (Qwen2-72B) превосходит даже передовые закрытые модели Gemini-1.0-Ultra, Gemini-1.5-Pro, Mistral-Large и Claude-3-Sonnet.

Доработка Magnum-72B от Undi95

Модель от Sao10K, известного своими ролеплейными моделями.

Эта модель представляет собой многоуровневое SLERP-слияние нескольких вариантов Llama 3 70B, в основном для ролеплей задач.

Пример генерации:

Ты - персонаж Аква из аниме Коносуба. Скажи что-нибудь в характере персонажа.

Модель:
Вздыхает Ох, опять эти люди... Они не понимают, что я - Аква, богиня воды! Я создала этот мир, и я могу его уничтожить. Но вместо того, чтобы поклоняться мне, они предпочитают отправлять меня на задания и требовать, чтобы я выполняла их прихоти. Брезгливо морщит нос И эти грязные, мерзкие монстры, которые я должна убивать... Скрещивает руки на груди Я не для этого создана. Я - богиня, а не убийца. Вздыхает Но что я могу сделать? Я обещала помочь этим людям, и я не могу нарушить свое слово. Склоняет голову Я - Аква, богиня воды, и я выполню свой долг. Вздыхает Даже если это будет означать, что я должна будет убивать монстров и выполнять прихоти этих людей. Склоняет голову и закрывает глаза Ох, если бы только они знали, что я на самом деле... Шепчет Богиня...

Эта модель представляет собой 50/50 SLERP-слияние между crestf411/L3-70B-daybreak-storywriter-v0.4 и tenyx/Llama3-TenyxChat-70B и нацелена на написание историй и ролеплей.

За основу взята LLama3 70B.

Одна из самых компактных ролеплей моделей, которую можно запустить локально, с хорошими отзывами.

Эта модель была создана с использованием нового рецепта Smaug для улучшения производительности в реальных многоходовых разговорах, примененного к meta-llama/Meta-Llama-3-70B-Instruct.

Модель значительно превосходит Llama-3-70B-Instruct и находится на одном уровне с GPT-4-Turbo по результатам MT-Bench (см. ниже).

Smaug-Llama-3-70B-Instruct в настоящее время является лучшей моделью с открытым исходным кодом на Arena-Hard! Она также почти не уступает Claude Opus

Это Suzume 8B, многоязычная доработка Llama 3 (meta-llama/Meta-Llama-3-8B-Instruct).

Llama 3 показала отличные результаты во многих тестах на английском языке.
Однако, похоже, она также была настроена в основном на английских данных, что означает, что она будет отвечать на английском, даже если запрос сделан на других языках.

Мы доработали Llama 3 на почти 90 000 многоязычных разговоров, что означает, что эта модель обладает интеллектом Llama 3, но с дополнительной способностью общаться на большем количестве языков.

Версия Сайги для LLama3 8B

Самая последняя модель от OpenAI из семейства GPT-4o.
Превосходит по цене и качеству GPT-3.5-Turbo, а также Claude 3 Haiku и Gemini Flash.

Gemma 2 27B от Google - это открытая модель, созданная на основе тех же исследований и технологий, которые использовались для создания моделей Gemini.

Модели Gemma хорошо подходят для различных задач генерации текста, включая ответы на вопросы, обобщение и рассуждение.

Нормально работает на русском языке (рекомендуется температура пониже)

Опенсорсная text-to-image модель, сравнимая с DALLE

Модель поддерживает разрешения
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает дополнительные параметры в body_json:
- "cfg_scale" (по умолчанию 3)
- "negative_prompt" (по умолчанию "bad quality, worse quality")

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)
Модель поддерживает разрешения
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает дополнительные параметры в body_json:
- "cfg_scale" (по умолчанию 7)
- "negative_prompt" (по умолчанию "bad quality, worse quality")

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)

От создателя Голиафа, Magnum 72B - это первая модель из нового семейства, разработанного для достижения уровня прозы моделей Claude 3, в частности Opus и Sonnet.

Модель основана на Qwen2 72B и обучена на 55 миллионах токенов тщательно отобранных данных ролевых игр (RP).

Модель генерации изображений от stability.ai.

Модель поддерживает разрешения
- 1024x1024
- 1152x896
- 896x1152
- 1216x832
- 832x1216
- 1344x768
- 768x1344
- 1536x640
- 640x1536

Модель поддерживает дополнительные параметры в body_json:
- "cfg_scale" (по умолчанию 7)
- "negative_prompt" (по умолчанию "bad quality, worse quality")

Модель поддерживает ТОЛЬКО response_format="b64_json"

С цензурой - если запрос не проходит safety_check, будет возвращен черный квадрат. По вопросам отключения напишите на support (пока не поддерживается)

Stheno 8B 32K - это модель для творческого письма и ролевых игр от Sao10k. Она была обучена на контексте 8K, а затем расширена до контекста 32K.

По сравнению со старой версией Stheno, эта модель обучена на:

- Удвоенном количестве образцов творческого письма
- Очищенных образцах ролевых игр
- Меньшем количестве низкокачественных образцов

Тренировалась на английском языке

Gemma 2 9B от Google - это передовая языковая модель с открытым исходным кодом, которая устанавливает новый стандарт эффективности и производительности в своем классе размеров.

Разработанная для широкого спектра задач, она позволяет разработчикам и исследователям создавать инновационные приложения, сохраняя при этом доступность, безопасность и экономическую эффективность.

Модель Yi Large была разработана компанией 01.AI с учетом следующих вариантов использования: поиск знаний, классификация данных, человекоподобные чат-боты и обслуживание клиентов.

Она выделяется своей многоязычной поддержкой, особенно в испанском, китайском, японском, немецком и французском языках. Русский также поддерживается.

Вариант Claude 3.5 Sonnet для обработки изображений
Минимальный баланс для вызова модели: 50р.

Nemotron-4-340B-Instruct - это англоязычная модель чата, оптимизированная для генерации синтетических данных. Эта крупная языковая модель (LLM) является доработанной версией Nemotron-4-340B-Base, разработанной для одно- и многоходовых сценариев чата с контекстной длиной 4096 токенов.

Базовая модель была предварительно обучена на 9 триллионах токенов из разнообразных английских текстов, более 50 естественных языков и более 40 языков программирования. Инструктивная модель прошла дополнительные этапы настройки:

- Супервизированное дообучение (SFT)
- Прямая оптимизация предпочтений (DPO)
- Оптимизация предпочтений с учетом вознаграждения (RPO)

В процессе выравнивания использовалось примерно 20 тыс. образцов, аннотированных человеком, в то время как 98% данных для дообучения были синтетически сгенерированы.

Модель умеет работать с русским языком

Сегодня мы запускаем Claude 3.5 Sonnet — наш первый релиз в будущей линейке моделей Claude 3.5. Claude 3.5 Sonnet поднимает планку в отрасли по уровню интеллекта, превосходя конкурентные модели и Claude 3 Opus по широкому спектру оценок, с такой же скоростью и стоимостью, как и у нашей средней модели Claude 3 Sonnet.

Сегодня мы представляем DeepSeek-V2, мощную языковую модель Mixture-of-Experts (MoE), характеризующуюся экономичной тренировкой и эффективным выводом. Она включает в себя 236 миллиардов общих параметров, из которых 21 миллиард активируются для каждого токена. По сравнению с DeepSeek 67B, DeepSeek-V2 достигает более высокого уровня производительности, одновременно экономя 42.5% затрат на обучение, уменьшая кэш KV на 93.3% и увеличивая максимальную пропускную способность генерации в 5.76 раз.

Всего параметров: 236B, активных: 21B

Хостинг осуществляется разработчиком DeepSeek, который отмечает, что ваши данные могут быть залогированы и использованы для тренировки последующих моделей.

Мы представляем DeepSeek-Coder-V2, открытую языковую модель Mixture-of-Experts (MoE), которая достигает результатов, сопоставимых с GPT4-Turbo в задачах, связанных с кодом. Модель была дообучена на 6 триллионах токенов и улучшила свои способности в программировании и математическом рассуждении, сохраняя при этом производительность в общих языковых задачах. DeepSeek-Coder-V2 поддерживает 338 языков программирования и 32К контекст.

Всего параметров: 236B, активных: 21B

Хостинг осуществляется разработчиком DeepSeek, который отмечает, что ваши данные могут быть залогированы и использованы для тренировки.

Модель, ориентированная на креативную ролевую игру от Sao10k.

- Лучшее соблюдение подсказок.
- Лучшая анатомия / пространственное восприятие.
- Гораздо лучше адаптируется к уникальным и нестандартным форматам / форматам ответов.
- Очень креативная, много уникальных идей.
- Без фильтров

Базируется на Llama3 70B

Модель OpenAI: TTS HD

Поддерживаемые голоса: alloy, echo, fable, onyx, nova, shimmer
Поддерживаемые response_format: mp3, opus, aac, flac, wav, pcm

Модель OpenAI для генерации речи.

Поддерживаемые голоса: alloy, echo, fable, onyx, nova, shimmer
Поддерживаемые response_format: mp3, opus, aac, flac, wav, pcm

Большая модель Qwen, превосходящая по разным показателям Llama3 70B.
Неплохо работает с русским языком.

Версия модели OpenChat для Llama 8B.

OpenChat - серия моделей, основанных на "обучении с подкреплением" C-RLFT (Conditioned Reinforcement Learning Fine-Tuning)". Модели серии в целом хорошо работают с русским языком.

Также на сервисе доступна openchat-7b, основанная на Mistral 7B.

Мультимодальная опенсорс модель.
Включает самоцензуру.
Дата тренировки: декабрь 2023.
Минимальный баланс для вызова модели: 1р.

Google: Gemini Flash 1.5
Минимальный баланс для вызова модели: 1р.

Llama 3 70B finetune, созданный на основе ролевых данных и расширенным контекстом. Находясь в балансе между ERP и RP, Lumimaid был разработан, чтобы быть серьезным, но без цензуры, когда это необходимо.

Для повышения общего уровня интеллекта и возможностей чата около 40 % обучающих данных не были ролевыми. Это обеспечивает широкий доступ к знаниям, но при этом ролевая игра остается основным вариантом применения.

Используется int4 квантизация для обработки запросов.

Phi-3 Mini — это мощная модель размером 3.8B, предназначенная для углубленного понимания языка, рассуждения и выполнения инструкций. Оптимизированная за счет контролируемой тонкой настройки и настройки предпочтений, она превосходно справляется с задачами, связанными со здравым смыслом, математикой, логическим рассуждением и обработкой кода.

На момент выпуска Phi-3 Medium продемонстрировала самые современные характеристики среди легких моделей. Эта модель обучена на автономном наборе данных с конечной датой октября 2023 года.

Phi-3 Medium — это мощная модель с 14 миллиардами параметров, предназначенная для углубленного понимания языка, рассуждения и выполнения инструкций. Оптимизированная за счет контролируемой тонкой настройки и настройки предпочтений, она превосходно справляется с задачами, связанными со здравым смыслом, математикой, логическим рассуждением и обработкой кода.

На момент выпуска Phi-3 Medium продемонстрировала самые современные характеристики среди легких моделей. В тесте MMLU-Pro модель даже приблизилась к уровню производительности Llama3 70B.

Llama3 Sonar — новейшая модель семейства Perplexity. Он превосходит более ранние модели Sonar по экономичности, скорости и производительности.

Это онлайн-версия модели, она ориентирована на предоставление полезных, актуальных и основанных на фактах ответов.

Для точной генерации на русском языке рекомендуется задавать запросы на русском языке и устанавливать низкую температуру.

Llama3 Sonar — новейшая модель семейства Perplexity. Он превосходит более ранние модели Sonar по экономичности, скорости и производительности.

Это онлайн-версия модели, она ориентирована на предоставление полезных, актуальных и основанных на фактах ответов.

Для точной генерации на русском языке рекомендуется задавать запросы на русском языке и устанавливать низкую температуру.

Gemini 1.5 Flash — это базовая модель, которая хорошо справляется с различными мультимодальными задачами, такими как визуальное понимание, классификация, обобщение и создание контента из изображений, аудио и видео. Он умеет обрабатывать визуальные и текстовые данные, такие как фотографии, документы, инфографика и снимки экрана.

Gemini 1.5 Flash предназначен для выполнения объемных и высокочастотных задач, где стоимость и задержка имеют значение. При выполнении большинства распространенных задач Flash обеспечивает качество, сравнимое с другими моделями Gemini Pro, при значительно меньших затратах. Flash хорошо подходит для таких приложений, как чат-помощники и создание контента по требованию, где скорость и масштаб имеют значение.

Multimodal-версия OpenAI: GPT-4o
Минимальный баланс для вызова модели: 10р.

GPT-4o («o» от «omni») — это новейшая модель искусственного интеллекта OpenAI, поддерживающая как ввод текста, так и изображения, а также текстовый вывод. Он сохраняет уровень интеллекта GPT-4 Turbo, будучи в два раза быстрее и на 50 % экономичнее. GPT-4o также обеспечивает улучшенную производительность при обработке языков, отличных от английского, и расширенные визуальные возможности. Данные обучения: до октября 2023 г.

Qwen1.5 110B — это бета-версия Qwen2. По сравнению с предыдущим выпущенным Qwen, улучшения включают в себя:

- Значительное улучшение производительности
- Многоязычная поддержка как базовой модели, так и модели чата.
- Стабильная поддержка длины контекста 32 КБ для моделей всех размеров.

Подробнее: https://qwenlm.github.io/blog/qwen1.5/

Qwen1.5 72B — это бета-версия Qwen2. По сравнению с предыдущим выпущенным Qwen, улучшения включают в себя:

- Значительное улучшение производительности
- Многоязычная поддержка как базовой модели, так и модели чата.
- Стабильная поддержка длины контекста 32 КБ для моделей всех размеров.

Подробнее: https://qwenlm.github.io/blog/qwen1.5/

Qwen1.5 32B — это бета-версия Qwen2. По сравнению с предыдущим выпущенным Qwen, улучшения включают в себя:

- Значительное улучшение производительности
- Многоязычная поддержка как базовой модели, так и модели чата.
- Стабильная поддержка длины контекста 32 КБ для моделей всех размеров.

Подробнее: https://qwenlm.github.io/blog/qwen1.5/

Qwen1.5 14B — это бета-версия Qwen2. По сравнению с предыдущим выпущенным Qwen, улучшения включают в себя:

- Значительное улучшение производительности
- Многоязычная поддержка как базовой модели, так и модели чата.
- Стабильная поддержка длины контекста 32 КБ для моделей всех размеров.

Подробнее: https://qwenlm.github.io/blog/qwen1.5/

Llama 3 8B finetune, созданный на основе ролевых данных и расширенным контекстом. Находясь в балансе между ERP и RP, Lumimaid был разработан, чтобы быть серьезным, но без цензуры, когда это необходимо.

Для повышения общего уровня интеллекта и возможностей чата около 40 % обучающих данных не были ролевыми. Это обеспечивает широкий доступ к знаниям, но при этом ролевая игра остается основным вариантом применения.

Первая коммерческая модель OSS LLaVA.

Эта модель языка видения была полностью обучена на основе данных, сгенерированных OSS LLM.

Поддерживает Response Format { "type": "json_object" }
Минимальный баланс для вызова модели: 3р.

Топовая опенсорс модель LLaMA v3 70B - по метрикам сравнимая с Claude 3 Sonnet.

Последняя базовая опенсорс модель Llama v3 размером 8B.
По тестам превосходит предыдущего гиганта Llama2 70B.

WizardLM-2 7B — это уменьшенный вариант последней модели Wizard от Microsoft AI. Она самая быстрая и обеспечивает производительность, сопоставимую с существующими ведущими моделями с открытым исходным кодом, в 10 раз более крупными.

Это усовершенствованная версия Mistral 7B Instruct , использующая ту же технику, что и WizardLM-2 8x22B .

Официальный Instruct-файнтюн Mistral для версии Mixtral 8x22B. Он использует 39 миллиардов активных параметров из 141 миллиарда, обеспечивая беспрецедентную экономическую эффективность для своего размера.

WizardLM-2 8x22B — самая совершенная модель Wizard от Microsoft AI. Она демонстрирует высокую конкурентоспособность по сравнению с ведущими проприетарными моделями и неизменно превосходит все существующие современные модели с открытым исходным кодом.

Mixtral 8x22B — масштабная языковая модель от Mistral AI. Она состоит из 8 экспертов, каждый по 22 миллиарда параметров.

Модель Google: Gemini Pro 1.5
Минимальный баланс для вызова модели: 200р.

Новейшая мультимодальная модель Google, поддерживающая изображения и видео в текстовых сообщениях или подсказках чата.

Оптимизирована для языковых задач, таких как:

- Генерация кода
- Генерация текста
- Редактирование текста
- Решение проблем
- Рекомендации
- Извлечение информации
- Извлечение или генерация данных
- ИИ-агенты

Версия от мая 2024 г.

Новейшая модель GPT-4 Turbo с возможностями машинного зрения. Запросы Vision теперь могут использовать режим JSON и вызов функций. Данные обучения: до декабря 2023 г.

Эта модель обновлена OpenAI, чтобы указать на последнюю версию GPT-4 Turbo , в настоящее время gpt-4-turbo-2024-04-09 (по состоянию на апрель 2024 г.).
Минимальный баланс для вызова модели: 50р.

Последняя модель GPT-4-Turbo.

Command R+ — это новый масштабируемый LLM от Cohere с расширенными возможностями извлечения дополненной генерации (RAG), предназначенный для минимизации неточностей и обеспечения цитирования, что делает его идеальным для использования в бизнесе.

Анонс: https://txt.cohere.com/command-r-plus-microsoft-azure/

Command-R — это диалоговая модель, основанная на выполнении инструкций, которая выполняет языковые задачи более качественно, более надежно и с более длинным контекстом, чем предыдущие модели. Его можно использовать для сложных рабочих процессов, таких как генерация кода, расширенная генерация извлечения (RAG), использование инструментов и агентов.

Анонс: https://txt.cohere.com/command-r/

DBRX - это новая открытая модель большого языка, разработанная Databricks. При 132B она превосходит существующие открытые LLM, такие как Llama 270B и Mixtral-8x7B, на стандартных отраслевых бенчмарках для понимания языка, программирования, математики и логики.

Она использует архитектуру MoE с большим количеством экспертов. 36B параметров активны на любом вводе. Она был предварительно обучена на 12T токенах текста и кода. По сравнению с другими открытыми моделями MoE, такими как Mixtral-8x7B и Grok-1, DBRX использует большее количество меньших экспертов.

Midnight Rose - это уникальная нейросетевая модель, созданная специально для написания захватывающих историй и увлекательных ролевых игр. Она является преемницей таких известных моделей, как Rogue Rose и Aurora Nights, объединяя в себе лучшие качества каждой из них.

Благодаря сложному "генеалогическому древу", Midnight Rose унаследовала выдающиеся способности своих предшественников - более ранних версий Midnight Rose и Wizard Tulu Dolphin 70B. Эта модель была тщательно настроена командой sophosympatheia, чтобы производить объемные и детализированные тексты, которые подарят вам незабываемые впечатления от чтения или игры.

Веса модели:
https://huggingface.co/sophosympatheia/Midnight-Rose-70B-v2.0.3

Распознавание речи с помощью Whisper.
Тарификация идет посекундно; цена указана за 1000 секунд и измеряется при входе.

Важно: обращение идет не к OpenAI, а к стороннему хостеру модели Whisper v3. Возможны некоторые несовместимости в отношении ответа по отношению к оригинальному OpenAI.

Vision-вариант Haiku
Минимальный баланс для вызова модели: 10р.

Claude 3 Haiku — самая быстрая и компактная модель Anthropic, обеспечивающая практически мгновенное реагирование. Быстрая и точная целевая производительность.

Vision-вариант Anthropic: Claude 3 Opus
Минимальный баланс для вызова модели: 150р.

Вариант Claude 3 Sonnet для обработки изображений
Минимальный баланс для вызова модели: 50р.

Claude 3 Opus — самая мощная модель Anthropic для решения очень сложных задач. Он может похвастаться высочайшим уровнем производительности, интеллекта, беглости речи и понимания.

Claude 3 Sonnet — это идеальный баланс интеллекта и скорости для корпоративных рабочих нагрузок. Максимальная полезность по более низкой цене, надежность, сбалансированность для масштабируемых развертываний.

Nous Hermes 2 Mixtral 8x7B DPO — это новая флагманская модель Nous Research, обученная на Mixtral 8x7B MoE LLM .

Модель была обучена на более чем 1 000 000 записей, в основном данных, сгенерированных GPT-4 , а также других высококачественных данных из открытых наборов данных в среде ИИ, что позволило достичь высочайшего уровня производительности при выполнении различных задач.

Это флагманская модель Mistral AI, Mistral Large 2 (версия mistral-large-2407). Она основана на прототипе с закрытым исходным кодом и превосходно справляется с рассуждениями, кодом, JSON, чатом и многим другим.

Gemma от Google — это семейство передовых языковых моделей с открытым исходным кодом, в котором используются новейшие технологии преобразования текста в текст только с помощью декодера. Он предлагает возможности английского языка для решения задач по созданию текста, таких как ответы на вопросы, обобщение и рассуждения. Вариант Gemma 7B по производительности сравним с ведущими моделями с открытым исходным кодом.

Использование Gemma регулируется Условиями использования Gemma от Google .

Модель, предназначенная для тестирования API.
Возвращает простой рисунок с запросом и выбранным размером.

Поддерживает response_format="url" и response_format="b64_json"

Флагманская модель для генерации изображений от OpenAI

Цены за 1 изображение:
Качество standard:
- 1024x1024 - 7 р. 76 к.
- 1024x1792 - 15 р. 52 к.
- 1792x1024 - 15 р. 52 к.

Качество hd:
- 1024x1024 - 15 р. 52 к.
- 1024x1792 - 23 р. 28 к.
- 1792x1024 - 23 р. 28 к.

Модель для генерации изображений от OpenAI (несколько устарела с выходом Dall-E 3)

Цены за 1 изображение:
Качество standard:
- 1024x1024 - 3 р. 88 к.
- 512x512 - 3 р. 50 к.
- 256x256 - 3 р. 10 к.

Новейшая модель GPT-3.5 Turbo с улучшенным выполнением инструкций, режимом JSON, воспроизводимыми выходными данными, параллельным вызовом функций и многим другим. Данные обучения: до сентября 2021 г.

Эта версия имеет более высокую точность ответа в запрошенных форматах и исправлена ошибка, которая вызывала проблему с кодировкой текста для вызовов функций не на английском языке.

Eagle 7B обучен на 1,1 триллионе токенов на более чем 100 мировых языках (70% английский, 15% многоязычный, 15% код).

Построен на архитектуре RWKV-v5 (линейный трансформатор с более низкой стоимостью вывода в 10–100 раз)
Считается самой экологичной моделью 7B в мире (на один токен)
Превосходит все модели класса 7B в многоязычных тестах
Приближается к уровню производительности Falcon (1,5T), LLaMA2 (2T), Mistral (>2T?) на оценках в английских текстах
Схожий уровень с MPT-7B (1Т) на оценках в английских текстах

Модель gpt-4-0125-preview

Новейшая модель GPT-4 с улучшенным выполнением инструкций, режимом JSON, воспроизводимыми выводами, параллельным вызовом функций и многим другим. Данные обучения: до декабря 2023 г.

Примечание. Во время предварительной версии OpenAI сильно ограничивает скорость.

Способность понимать изображения в дополнение ко всем другим возможностям GPT-4 Turbo . Данные обучения: до апреля 2023 г.
Минимальный баланс для вызова модели: 50р.

Флагманская мультимодальная модель Google, поддерживающая в запросе изображения и текст.

Приблизительная стоимость 1 запроса с 1 картинкой - всего 5 копеек!


Минимальный баланс для вызова модели: 12р.

Это флагманская модель Mistral AI с закрытым исходным кодом. Он основан на прототипе с закрытым исходным кодом и превосходно справляется с рассуждениями, кодом, JSON, чатом и многим другим. В тестах он сравнивается со многими флагманскими моделями других компаний.

В настоящее время эта модель оснащена Mixtral-8X7B-v0.1, редкой смесью экспертной модели с 12B активными параметрами. Он лучше рассуждает, демонстрирует больше возможностей, может создавать код и рассуждать о нем, а также является многоязычным, поддерживая английский, французский, немецкий, итальянский и испанский языки.

Эта модель в настоящее время работает на базе Mistral-7B-v0.2 и включает в себя «лучшую» тонкую настройку, чем Mistral 7B , вдохновленную опенсорсом. Его лучше всего использовать для больших задач пакетной обработки, где стоимость является важным фактором, но возможности рассуждения не имеют решающего значения.

Эта модель была обучена в течение 8 часов (v1) + 8 часов (v2) + 12 часов (v3) на модифицированных наборах данных с упором на RP, отсутствие цензуры и модифицированную версию подсказки Alpaca (которая уже использовалась в LimaRP), которая должна быть на том же уровне разговора, что и ChatLM или Llama2-Chat, без добавления каких-либо дополнительных специальных токенов.

Файнтюн модели Yi 34B, которая изначально фокусировалась на английском и китайском языках.

Nous Hermes 2 Yi 34B был обучен на 1 000 000 записей, в основном данных, сгенерированных GPT-4, а также других высококачественных данных из открытых наборов данных в сфере ИИ.

Nous-Hermes 2 на Yi 34B превосходит все модели Nous-Hermes и Open-Hermes прошлого, достигая новых высот во всех тестах для Nous Research LLM, а также превосходя многие популярные файнтюны.

Это файнтюн Mixtral-8x7b на данных до 16к токенов. Он отлично справляется с задачами кодирования благодаря обширным тренировкам с задачами кодогенерации и известен своим послушанием, хотя у него отсутствует настройка DPO.

Предназначен для решения задач на естественном языке, текстового и кодового чата, а также генерации кода.

Максимальный размер генерации: 8 192 токена.

Предварительно обученная генеративная разреженная смесь экспертов от Mistral AI для использования в чате и инструкциях. Включает 8 экспертов (сети прямого распространения) для 47B параметров.

OpenHermes 2 обучен на 900 тыс. инструкций и превосходит все предыдущие версии Hermes 13B и ниже и соответствует 70B в некоторых тестах.

OpenHermes 2.5 - это продолжение модели OpenHermes 2, обученное на дополнительных наборах данных кода. Потенциально самым интересным результатом обучения с хорошим соотношением (около 7–14% от общего набора данных) инструкций по коду было то, что они улучшили несколько тестов, не связанных с кодом, включая набор TruthfulQA, AGIEval и GPT4All. Тем не менее, это снизило оценку теста BigBench, но в целом чистый прирост значителен.

Объединение нескольких моделей для получения эффективно модели для ролевого взаимодействия. Базируется на Mistral 7B.

От создателя MythoMax, объединяющего набор моделей для уменьшения количества нерелевантных слов в ролевом взаимодействии.

В нем объединены Neural Chat 7B, Airoboros 7b, Toppy M 7B, Zepher 7b beta, OpenHermes 2.5 и многие другие.

Точная настройка CodeLlama-34B на внутреннем наборе данных, которая помогает ему превзойти GPT-4 в некоторых тестах, включая HumanEval.

Рекомендуется для генерации кода и решения задач программирования.

Вторая версия Psyfighter — объединенная модель, созданная членами сообщества KoboldAI Джебом Картером и TwistedShadows, стала возможной благодаря службе мерж-реквестов KoboldAI.

Намерение состояло в том, чтобы добавить медицинские данные, чтобы дополнить вымышленные способности модели более подробной информацией об анатомии и психических состояниях. Эту модель не следует использовать для медицинских консультаций или терапии из-за высокой вероятности использования вымышленных данных.

Рекомендуется для ролеплея

Модель для текстовых эмбеддингов от OpenAI

Translate-версия OpenChat 7B

OpenChat - это инновационная библиотека языковых моделей с открытым исходным кодом, настроенная с помощью C-RLFT - стратегии, вдохновленной автономным обучением с подкреплением.

По бенчмаркам разработчика, модель сравнима по уровню с ChatGPT марта 2023 года.

Модель довольно хорошо работает на русском даже без переводчика; рекомендуемые параметры: temperature около 0.7, top_p = 0.95. Временно испытывает проблемы при установке ненулевого "штрафа за присутствие" и "штрафа за частоту"

https://huggingface.co/openchat/openchat_3.5

Anthropic: Claude v2.0

lzlv 70B с дополнительной функциональностью.

Весь вход переводится на английский язык.
Весь выход переводится на русский язык.

Это позволяет взаимодействовать с моделью "как бы на английском языке", который модель понимает лучше.

ВАЖНО: При работе с этой моделью ваши данные будут отсылаться в Google Translate или другому провайдеру перевода. Имейте это ввиду.

Объединение выбранных моделей 70B в стиле Mythomax/MLewd_13B. Мультимодель, объединяющая несколько тонких настроек LLaMA2 70B для ролевых игр и творчества. Цель заключалась в том, чтобы создать модель, которая сочетает в себе креативность и интеллект для повышения удобства работы.

Топовая согласно вот этому анализу на Реддите: https://www.reddit.com/r/LocalLLaMA/comments/17fhp9k/huge_llm_comparisontest_39_models_tested_7b70b/

Mythalion 13B с дополнительной функциональностью.

Весь вход переводится на английский язык.
Весь выход переводится на русский язык.

Это позволяет взаимодействовать с моделью "как бы на английском языке", который модель понимает лучше.

ВАЖНО: При работе с этой моделью ваши данные будут отсылаться в Google Translate или другому провайдеру перевода. Имейте это ввиду.

PaLM 2 — это флагманская языковая модель Google с улучшенными возможностями многоязычности, рассуждения и генерации кода.

Последняя модель GPT-4 с улучшенным следованием инструкциям, режимом JSON, воспроизводимыми выходными данными, параллельным вызовом функций и многим другим. Возвращает максимум 4096 выходных токенов. Данные обучения: до апреля 2023.

Новейшая модель GPT-3.5 Turbo с улучшенным выполнением инструкций, режимом JSON, воспроизводимыми выходными данными, параллельным вызовом функций и многим другим. Возвращает максимум 4096 выходных токенов. Данные обучения: до сентября 2021.

Mistral 7B Instruct v0.1 с дополнительной функциональностью.

Весь вход переводится на английский язык.
Весь выход переводится на русский язык.

Это позволяет взаимодействовать с моделью "как бы на английском языке", который модель понимает лучше.

ВАЖНО: При работе с этой моделью ваши данные будут отсылаться в Google Translate или другому провайдеру перевода. Имейте это ввиду.

Команда Mistral AI представила Mistral 7B — открытую языковую модель из 7,3 миллиардов параметров, которая превосходит вдвое большую модель Llama 2 13B на всех бенчмарках. При этом Mistral 7B достигает сравнимых результатов с Code Llama 2 в задачах генерации и исправления кода, хотя она не дообучалась специально для этих задач. Mistral 7B удалось достичь такого результата благодаря grouped-query механизму внимания и скользящему окну внимания (sliding window attention) при обучении на длинных последовательностях.

29 мая модель обновлена до версии 0.3

Вердикт автора VseGPT: на английском справляется относительно неплохо, на русском сильно хуже. Но цена за 1000 символов очень низкая.

В отличие от традиционного GPT-3.5 Turbo, эта модель больше сфокусирована на выполнении инструкций (дай ответ и пр.), нежели на ведение диалога в чате.

Анонсирована Майкрософт 21 сентября 2023.

Стоимость и производительность такие же, как и у других моделей GPT-3.5 с контекстными окнами 4K. Обучающие данные актуальны на сентябрь 2021 года.

OpenAI: GPT-3.5 Turbo Instruct заменит существующие модели Instruct, а также text-ada-001, text-babbage-001, text-curie-001 и три модели text-davinci, которые выйдут на пенсию 4 января 2024 г.

Модель, хорошо подходящая для ролевого взаимодействия.

Идеально для английского языка; для русского будет чуть хуже.

Базовая модель Llama v2 70B Chat.

Не дотюнена на данных, инструкциям следует крайне плохо. Рекомендуется только если хочется ознакомиться с оригинальной сетью.

На практике лучше брать другие, производные от неё 70B-модели - Airoboros 70B, lzlv 70B и пр.

Самая мощная нейросетевая модель от OpenAI.

Из серии Mytho моделей, сделана поверх Llama2 13b

Очень популярна на Западе для самых разных запросов, включая ролеплей.

Очень низкая цена - 13B модель по цене 7B.

LLama2, которая дотренирована отвечать на вопросы по программированию. По некоторым оценкам, не уступает GPT-4 на этой задаче.

Аналог GPT-4 от компании Anthropic - главного конкурента OpenAI, выдающего схожие по качеству ответы.

Отмечу, что Claude v2 дешевле, но по ощущениям не проигрывает GPT-4, если брать текстовую генерацию (в задачах логики она обычно хуже).

Обновлена до последней версии от Anthropic - Claude v2.1 c 200 000 контекста с презентации 21 ноября!

Аналог ChatGPT от компании Anthropic - главного конкурента OpenAI, выдающего схожие по качеству ответы.