Топ-10 моделей искусственного интеллекта, созданных китайской компанией

Оглавление

Что такое модель LLM？

Определение и обзор

ИИ-модель - это программа, обученная на наборе данных распознавать определенные закономерности или принимать определенные решения без дальнейшего вмешательства человека.

Большие языковые модели, также известные как LLMsЭто очень большие модели глубокого обучения, которые предварительно обучаются на огромных объемах данных.

В основе трансформатора лежит набор нейронных сетей, состоящих из кодировщика и декодировщика с возможностью самовнушения. Кодировщик и декодировщик извлекают смыслы из последовательности текста и понимают взаимосвязи между словами и фразами в нем.

Какая модель вам больше всего подходит?

Большие модели ИИ развиваются очень быстро. Различные компании и исследовательские институты ежедневно представляют новые научные достижения, а также новые большие языковые модели.

Поэтому мы не можем однозначно сказать, какой из них лучше.

Однако есть компании и модели высшего уровня, такие как OpenAI. В настоящее время существует набор стандартов и тестовых вопросов для оценки моделей.

Вы можете обратиться к Суперклуаи чтобы просмотреть оценки модели в различных заданиях и выбрать то, которое подходит именно вам. Кроме того, вы можете следить за последними новостями, чтобы узнать больше о способностях модели LLM.

Hunyuan-Large от Tencent

Представление модели

5 ноября, Tencent Выпускается Open-Source MoE Large Language Model Hunyuan-large с общим количеством 398 миллиардов параметров, что делает ее самой большой в отрасли, с 52 миллиардами параметров активации.

Результаты общественной оценки показывают, что модель Tencent's Hunyuan Large всесторонне лидирует в различных проектах.

Технические преимущества

Высококачественные синтетические данные: Повышение эффективности обучения с помощью синтетических данных, Хуньюань - большой могут обучаться более богатым представлениям, обрабатывать длинные контекстные данные и лучше обобщать неизвестные данные.
Сжатие кэша KV: Использует стратегии Grouped Query Attention (GQA) и Cross-Layer Attention (CLA) для значительного сокращения использования памяти и вычислительных затрат на KV-кэши, повышая пропускную способность выводов.
Масштабирование скорости обучения с учетом особенностей эксперта: Устанавливает разные скорости обучения для разных экспертов, чтобы каждая субмодель эффективно обучалась на основе данных и вносила свой вклад в общую производительность.
Возможность обработки длинного контекста: Предварительно обученная модель поддерживает текстовые последовательности объемом до 256 Кбайт, а модель Instruct - до 128 Кбайт, что значительно расширяет возможности решения задач с длинными контекстами.
Обширный бенчмаркинг: Проводит обширные эксперименты с различными языками и задачами, чтобы подтвердить практическую эффективность и безопасность Hunyuan-Large.

Система выводов и система обучения

Этот релиз с открытым исходным кодом предлагает два варианта бэкенда выводов, адаптированных для Хунюань - большая модель: популярный vLLM-бэкенд и TensorRT-LLM Бэкэнд. Оба решения содержат оптимизацию для повышения производительности.

Модель Hunyuan-Large с открытым исходным кодом полностью совместима с форматом Hugging Face, что позволяет исследователям и разработчикам выполнять тонкую настройку модели с помощью фреймворка hf-deepspeed. Кроме того, мы поддерживаем ускорение обучения за счет использования вспышки внимания.

Как использовать эту модель в дальнейшем

Это модель с открытым исходным кодом. Вы можете найти "tencent-hunyuan" на GitHubгде представлены подробные инструкции и руководства по использованию. Вы можете продолжить изучение и исследование, чтобы создать больше возможностей.

Moonshot(Кими) от Moonshot AI

Краткое содержание Введение

Moonshot - это крупномасштабная языковая модель, разработанная компанией Dark Side of the Moon. Здесь представлен обзор ее возможностей:

Технологический прорыв: Компания Moonshot достигла значительных успехов в обработке длинных текстов: ее интеллектуальный помощник Kimichat поддерживает до 2 миллионов китайских иероглифов при вводе контекста без потерь.
Архитектура модели: Благодаря инновационной структуре сети и инженерным оптимизациям, она позволяет добиться дальнего внимания, не прибегая к "коротким" решениям, таким как скользящие окна, понижающая дискретизация или уменьшенные модели, которые часто снижают производительность. Это позволяет всесторонне понимать сверхдлинные тексты даже с сотнями миллиардов параметров.
Ориентированные на приложения: Разработанный с упором на практическое применение, Moonshot стремится стать незаменимым повседневным инструментом для пользователей, развиваясь на основе реальных отзывов пользователей, чтобы генерировать ощутимую ценность.

Основные характеристики

Возможность обработки длинных текстов: Способны работать с объемными текстами, такими как романы или полные финансовые отчеты, предлагая пользователям глубокие, всесторонние знания и краткие изложения длинных документов.
Мультимодальное слияние: Интегрирует несколько модальностей, объединяя текстовые и графические данные для расширения возможностей анализа и генерации.
Высокий уровень понимания языка и способность к генерации: Демонстрирует отличную многоязычную производительность, точно интерпретируя пользовательский ввод и генерируя качественные, последовательные и семантически адекватные ответы.
Гибкая масштабируемость: Обладает высокой масштабируемостью, позволяет настраивать и оптимизировать систему в соответствии с различными сценариями и потребностями приложений, обеспечивая разработчикам и предприятиям значительную гибкость и автономность.

Методы использования

Интеграция API: Пользователи могут зарегистрировать аккаунт на официальной платформе Dark Side of the Moon, подать заявку на получение ключа API, а затем интегрировать возможности Moonshot в свои приложения, используя API с совместимыми языками программирования.
Использование официальных продуктов и инструментов: Непосредственно используйте Kimichat, интеллектуальный ассистент, созданный по модели Moonshot, или используйте связанные с ним инструменты и платформы, предлагаемые Dark Side of the Moon.
Интеграция с другими фреймворками и инструментами: Moonshot можно интегрировать с популярными фреймворками для разработки ИИ, такими как LangChain, для создания более надежных языковых моделей.

GLM-4-Plus от zhipu.ai

Краткое содержание Введение

GLM-4-Plus, разработанная компанией Zhipu AI, является последней итерацией полностью саморазвивающейся базовой модели GLM, со значительными улучшениями в понимании языка, следовании инструкциям и обработке длинных текстов.

Ключевые особенности и преимущества

Сильное понимание языка: Обученный на обширных массивах данных и оптимизированных алгоритмах, GLM-4-Plus отлично справляется со сложной семантикой, точно интерпретируя смысл и контекст различных текстов.
Выдающаяся обработка длинных текстов: Благодаря инновационному механизму памяти и сегментированной технологии обработки GLM-4-Plus может эффективно обрабатывать длинные тексты объемом до 128 тыс. лексем, что делает его высокопрофессиональным в обработке данных и извлечении информации.
Расширенные возможности рассуждений: Включает оптимизацию проксимальной политики (PPO) для поддержания стабильности и эффективности при поиске оптимальных решений, что значительно улучшает производительность модели при решении сложных задач, таких как математика и программирование.
Высокая точность следования инструкциям: Точно понимает и соблюдает инструкции пользователя, создавая высококачественный, соответствующий ожиданиям текст на основе требований пользователя.

Инструкции по использованию

Регистрация учетной записи и получение ключа API: Сначала зарегистрируйте аккаунт на официальном сайте Zhipu и получите API-ключ.
Обзор официальной документации: Подробные параметры и инструкции по использованию см. в официальной документации серии GLM-4.

SenseChat 5.5 от SenceTime

Краткое содержание Введение

SenseChat 5.5, разработанный компанией SenseTime, - это 5.5 версия большой языковой модели, основанной на InternLM-123b, одной из самых ранних китайских больших языковых моделей, построенной на триллионах параметров и постоянно обновляемой.

Ключевые особенности и преимущества

Мощная комплексная производительность: Постоянно входит в число лучших в различных оценочных заданиях, демонстрируя превосходство как в фундаментальных компетенциях в гуманитарных и естественных науках, так и в продвинутых заданиях "Hard". Он демонстрирует превосходные результаты в понимании языка и безопасности в гуманитарных науках, а также в логике и кодировании в естественных науках.
Эффективные краевые приложения: Компания SenseTime выпустила версию SenseChat Lite-5.5, в которой время начальной загрузки сокращено всего до 0,19 секунды, что на 40% больше, чем в SenseChat Lite-5.0, выпущенной в апреле. Скорость вывода информации достигает 90,2 символов в секунду, а годовая стоимость одного устройства составляет всего 9,9 юаней.
Исключительные языковые способности: Являясь приложением для работы с естественным языком, оно эффективно обрабатывает обширные текстовые данные, демонстрируя надежный диалог на естественном языке, способность к логическим рассуждениям, обширные знания и частое обновление. Он поддерживает упрощенный китайский, традиционный китайский, английский и распространенные языки программирования.

Продукты для использования и применения

Прямое использование: Пользователи могут зарегистрироваться на сайте [SenseTime], чтобы получить доступ к SenseChat через веб-сайт или мобильное приложение и взаимодействовать с моделью.
Интеграция API: SenseTime предлагает API-доступ для компаний и разработчиков, позволяя им интегрировать SenseChat 5.5 в свои продукты или приложения.

Qwen2.5-72B-Инструкция от команды Qwen, Alibaba Cloud

Модель Интурдукция

Qwen2.5 - это последняя серия больших языковых моделей Qwen. Для Qwen2.5Команда выпустила несколько базовых языковых моделей и языковых моделей, настроенных на обучение, с диапазоном от 0,5 до 72 миллиардов параметров.

Основные характеристики

Плотные, простые в использовании языковые модели, работающие только с декодером, доступны в 0.5B, 1.5B, 3B, 7B, 14B, 32B, и 72B размеры, а также базовые и инструктивные варианты.
Предварительное обучение на нашем последнем крупномасштабном наборе данных, охватывающем до 18T жетоны.
Значительные улучшения в следовании инструкциям, генерации длинных текстов (более 8 тыс. лексем), понимании структурированных данных (например, таблиц) и генерации структурированных результатов, особенно JSON.
Более устойчив к разнообразию системных подсказок, улучшает реализацию ролевых игр и создание условий для чатботов.
Длина контекста поддерживает до 128K токены и может генерировать до 8K жетоны.
Многоязычная поддержка более 29 Языки, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский, арабский и другие.

Как быстро начать?

Учебники по использованию больших моделей можно найти на Github и Hugging face. Опираясь на эти руководства, вы сможете эффективно запустить модель и реализовать свои функции и идеи.

Doubao-pro от Doubao Team, ByteDance

Краткое содержание Введение

Doubao-pro - это большая языковая модель, самостоятельно разработанная компанией ByteDance, официально выпущенная 15 мая 2024 года. В платформе оценки больших моделей Flageval Doubao-pro заняла второе место среди моделей с закрытым исходным кодом, набрав 75,96 балла.

Версии: Doubao-pro включает версии с 4k, 32k и 128k контекстными окнами, каждая из которых поддерживает различные длины контекста для вывода и тонкой настройки.
Улучшение производительности: По результатам внутреннего тестирования ByteDance, Doubao-pro-4k получил общую оценку 76,8 балла по 11 общепринятым отраслевым стандартам.

Ключевые особенности и преимущества

Сильные всесторонние способности: Doubao-pro превосходит всех в математике, применении знаний и решении проблем по объективным и субъективным оценкам.
Широкий спектр применения: ИИ-помощник Doubao, являясь одной из самых распространенных и универсальных бытовых моделей, занимает первое место по количеству загрузок среди приложений AIGC в Apple App Store и на основных рынках приложений для Android.
Высокая экономическая эффективность: Стоимость входных данных Doubao-pro-32k составляет всего 0,0008 юаня на тысячу лексем. Например, обработка китайской версии Гарри Поттер (2,74 миллиона знаков) стоит всего 1,5 юаня.
Понимание и создание языков: Doubao-pro точно воспринимает разнообразную информацию на естественном языке и генерирует качественные, последовательные и логичные ответы, удовлетворяя потребности пользователей в простых вопросах и ответах, создании сложных текстов и объяснениях в специализированных областях.
Эффективная скорость вывода: Благодаря обширному обучению и оптимизации данных Doubao-pro обеспечивает преимущество в скорости вывода, позволяя быстро реагировать на запросы и повышая удобство работы, особенно при работе с большими объемами текста или сложными задачами.

Методы использования

Через двигатель вулкана: Используйте Doubao-pro, вызывая API модели, примеры кода доступны в официальной документации Volcano Engine.
Для конкретных продуктов: Doubao-pro доступен для корпоративного рынка через Volcano Engine, что позволяет компаниям интегрировать его в свои продукты или услуги. Вы также можете познакомиться с моделью Doubao через приложение Doubao.

360gpt2-pro от 360

Краткое содержание Введение

Название модели: 360GPT2-Pro входит в серию больших моделей 360 Zhibrain, разработанную компанией 360.
Технический фонд: Используя 20 лет данных по безопасности, 10 лет опыта ИИ, а также опыт 80 экспертов по ИИ и 100 экспертов по безопасности, 360 использовал 5 000 ресурсов GPU в течение 200 дней для обучения и оптимизации модели Zhibrain, причем 360GPT2-Pro является одной из ее продвинутых версий.

Ключевые особенности и преимущества

Сильное языковое поколение: Превосходно справляется с задачами по созданию языка, особенно в области гуманитарных наук, создавая качественный, творческий и логически последовательный контент, например, рассказы и копирайтинг.
Надежное понимание и применение знаний: Обладая широкой базой знаний, он точно интерпретирует и применяет информацию для ответов на вопросы и эффективного решения проблем.
Усовершенствованная генерация на основе поиска: Компетентность в генерации с расширением поиска, особенно для китайского языка, что позволяет модели генерировать ответы в соответствии с потребностями пользователя и реальными данными, снижая вероятность галлюцинаций.
Расширенные функции безопасности: Используя многолетний опыт 360 в области безопасности, 360GPT2-Pro обеспечивает уровень безопасности и надежности, эффективно устраняя различные риски безопасности.

Поиск 360AI: Интегрирует 360GPT2-Pro с функцией поиска, чтобы предоставить пользователям более полный и глубокий опыт поиска.
360AI Browser: Встраивает 360GPT2-Pro в 360AI Browser, позволяя пользователям взаимодействовать с моделью через специальные интерфейсы или с помощью голосового ввода для получения информации и предложений.

Step-2-16k от stepfun

Краткое содержание Введение

Разработчик: StepStar выпустила официальную версию Языковая модель STEP-2 с триллионом параметров в 2024 году, причем step-2-16k относится к его варианту, поддерживающему 16-килобайтное контекстное окно.
Архитектура модели: Построена на инновационной архитектуре MoE (Mixture of Experts), которая динамически активирует различные экспертные модели в зависимости от задач и распределения данных, повышая производительность и эффективность.
Шкала параметров: Имея триллион параметров, модель отражает обширные знания языка и семантическую информацию, демонстрируя мощные возможности в различных задачах обработки естественного языка.

Ключевые особенности и преимущества

Мощное понимание и генерирование языка: Точно интерпретирует вводимый текст и генерирует высококачественные, естественные ответы, поддерживая такие задачи, как ответы на вопросы, создание контента и разговорный обмен с точностью и пользой.
Многодоменное покрытие знаний: Обученная на огромных массивах данных, модель охватывает широкие знания в таких областях, как математика, логика, программирование, знания и творческое письмо, что делает ее универсальной для междоменных ответов и приложений.
Возможность обработки длинных последовательностей: Благодаря 16-килобайтному контекстному окну модель отлично справляется с длинными текстовыми последовательностями, облегчая восприятие и обработку объемных статей и сложных документов.
Производительность близка к GPT-4: Достигнув показателей, близких к GPT-4, при выполнении нескольких языковых заданий, эта модель демонстрирует высокоуровневые способности к комплексной обработке языка.

Использование и применение

StepStar предоставляет предприятиям и разработчикам открытую платформу для подачи заявок на доступ к модель step-2-16k.

Пользователи могут интегрировать модель в приложения или проекты разработки через вызовы API, используя предоставленную платформой документацию и инструменты разработки для реализации различных функций обработки естественного языка.

DeepSeek-V2.5 от deepseek

Краткое содержание Введение

DeepSeek-V2.5разработанная командой DeepSeek, является мощной языковой моделью с открытым исходным кодом, которая объединяет возможности DeepSeek-V2-Chat и DeepSeek-Coder-V2-Instruct, представляя собой кульминацию предыдущих достижений модели. Ключевые детали следующие:

История развития: В сентябре 2024 года официально выпущена версия DeepSeek-V2.5, объединяющая возможности чата и кодирования. Эта версия улучшает как общее знание языка, так и функциональность кодирования.
Природа с открытым исходным кодом: В соответствии с приверженностью к разработке с открытым исходным кодом, DeepSeek-V2.5 теперь доступен на Hugging Face, что позволяет разработчикам корректировать и оптимизировать модель по мере необходимости.

Ключевые особенности и преимущества

Комбинированные способности к языкам и кодированию: DeepSeek-V2.5 сохраняет разговорные возможности модели чата и сильные стороны модели кодера, что делает его настоящим решением "все-в-одном", способным вести повседневные разговоры, выполнять сложные инструкции, генерировать и завершать код.
Выравнивание предпочтений человека: Модель была оптимизирована с учетом предпочтений человека, что позволило улучшить качество письма и соблюдение инструкций, более естественно и интеллектуально выполнять множество задач, чтобы лучше понимать и удовлетворять потребности пользователей.
Выдающиеся достижения: DeepSeek-V2.5 превосходит предыдущие версии в различных бенчмарках и достигает наивысших результатов в таких бенчмарках, как humaneval python и live code bench, демонстрируя свою силу в следовании инструкциям и генерации кода.
Расширенная поддержка контекста: Благодаря максимальной длине контекста в 128 тыс. лексем DeepSeek-V2.5 эффективно обрабатывает длинные тексты и многооборотные диалоги.
Высокая экономическая эффективность: По сравнению с такими топовыми моделями с закрытым исходным кодом, как Клод 3.5 Сонет и GPT-4o, DeepSeek-V2.5 обеспечивает значительное преимущество по стоимости.

Методы использования

Через веб-платформу: Получите доступ к DeepSeek-V2.5 через веб-платформы, например, через игровую площадку DeepSeek-V2.5 от SiliconCloud.
Через API: Пользователи могут создать учетную запись для получения ключа API, а затем интегрировать DeepSeek-V2.5 в свои системы через API для вторичной разработки и приложений.
Локальное развертывание: Требуется 8 графических процессоров по 80 ГБ каждый, использующих трансформеры Hugging Face для выводов. Конкретные шаги см. в документации и в примере кода.
В рамках конкретных продуктов:
- Курсор: Этот редактор кода ИИ, основанный на VSCode, позволяет пользователям настраивать модель DeepSeek-V2.5, подключаясь к API SiliconCloud для генерации кода на странице с помощью ярлыков, что повышает эффективность кодирования.
- Другие инструменты или платформы для разработки: Любой инструмент разработки или платформа, поддерживающая API внешних языковых моделей, теоретически может интегрировать DeepSeek-V2.5, получив ключ API, что позволит генерировать язык и писать код.

Ernie-4.0-turbo-8k-preview by Baidu

Краткое содержание Введение

Ernie-4.0-turbo-8k-preview Это часть серии ERNIE 4.0 Turbo от Baidu, официально выпущенной 28 июня 2024 года и полностью открытой для корпоративных клиентов 5 июля 2024 года.

Ключевые особенности и преимущества

Улучшение производительности: В обновленной версии ERNIE 4.0 эта модель увеличивает длину контекстного ввода с 2 до 8 тыс. токенов, что позволяет ей обрабатывать большие наборы данных, читать больше документов или URL-адресов и лучше справляться с задачами, связанными с длинными текстами.
Сокращение расходов: Стоимость входа и выхода ERNIE 4.0-turbo-8k-preview составляет 0,03 CNY за 1 000 токенов и 0,06 CNY за 1 000 токенов, что на 70% меньше, чем в общей версии ERNIE 4.0.
Техническая оптимизация: Благодаря турботехнологии эта модель обеспечивает двойное улучшение скорости обучения и производительности, позволяя ускорить обучение и развертывание модели.
Широкое применение: Благодаря своим преимуществам в производительности и стоимости модель широко применяется в таких областях, как интеллектуальное обслуживание клиентов, виртуальные помощники, образование и развлечения, обеспечивая плавное и естественное общение. Благодаря своим мощным возможностям генерации она также отлично подходит для создания контента и анализа данных.

Использование

ERNIE 4.0-turbo-8k-preview доступен в первую очередь корпоративным клиентам, которые могут получить к нему доступ через платформу Baidu Qianfan Large Model Platform на Baidu Intelligent Cloud.