中国企業が作ったAIモデル・トップ10

LLMモデルとは？

定義と概要

AIモデルとは、人間の介入なしに特定のパターンを認識したり、特定の判断を下したりするように、一連のデータで訓練されたプログラムのことである。

大規模な言語モデルは、次のようにも呼ばれている。 LLMディープラーニング・モデルは、膨大な量のデータで事前に訓練された、非常に大規模なディープラーニング・モデルである。

基礎となる変換器は、自己注意機能を持つエンコーダーとデコーダーで構成されるニューラルネットワークの集合である。エンコーダーとデコーダーは、一連のテキストから意味を抽出し、その中の単語やフレーズ間の関係を理解する。

あなたに最適なモデルはどれですか？

AIの大規模モデルは非常に急速に発展している。さまざまな企業や研究機関が、新しい大規模言語モデルとともに、日々新しい研究成果を発表している。

そのため、どれがベストかを明確にお伝えすることはできません。

しかし、OpenAIのようなトップクラスの企業やモデルも存在する。現在では、モデルを評価するための一連の基準とテスト問題がある。

を参照されたい。 スーパークライ をクリックすると、様々なタスクにおけるモデルのスコアを見ることができ、自分に合ったものを選ぶことができる。また、LLMモデルの能力についてもっと知るために、最新のニュースをフォローすることができます。

テンセントによるフンユアン-ラージ

モデル紹介

11月5日のことだ、 テンセント は、オープンソースのMoE大型言語モデルHunyuan-largeをリリースし、合計3980億のパラメータを持ち、業界最大となり、520億の活性化パラメータを持つ。

公開された評価結果は、テンセントの「渾元大モデル」が様々なプロジェクトで総合的にリードしていることを示している。

技術的な利点

• 高品質の合成データ:合成データによるトレーニングを強化することで フンユアン-大 は、より豊かな表現を学習し、長いコンテキストの入力を扱い、未知のデータに対してよりよく汎化することができる。
• KVキャッシュ圧縮:Grouped Query Attention (GQA)とCross-Layer Attention (CLA)戦略を活用し、KVキャッシュのメモリ使用量と計算オーバーヘッドを大幅に削減し、推論スループットを向上。
• エキスパート別の学習率スケーリング:各サブモデルがデータから効果的に学習し、全体的なパフォーマンスに貢献するように、エキスパートごとに異なる学習率を設定します。
• ロングコンテクスト処理能力:訓練済みモデルは最大256Kのテキストシーケンスをサポートし、Instructモデルは最大128Kをサポートする。
• 広範なベンチマーキング:Hunyuan-Largeの実用的な有効性と安全性を検証するために、様々な言語やタスクで広範な実験を実施。

推論フレームワークとトレーニングフレームワーク

このオープンソースのリリースでは、以下の2つの推論バックエンドオプションが提供される。 フンユアン-大型モデル人気のある vLLMバックエンド そして TensorRT-LLM バックエンド。どちらのソリューションにも、パフォーマンス向上のための最適化が含まれています。

Hunyuan-LargeオープンソースモデルはHugging Faceフォーマットと完全に互換性があり、研究者や開発者はhf-deepspeedフレームワークを使用してモデルの微調整を行うことができます。さらに、フラッシュアテンションの使用によるトレーニングの高速化もサポートしています。

このモデルをさらに活用するには

これはオープンソースモデルである。tencent-hunyuan "は以下のサイトで見つけることができる。 ギットハブそこでは、詳しい説明や使い方のガイドが提供されている。さらに探求し、研究して、さらなる可能性を生み出すことができる。

ムーンショット(キミ) by Moonshot AI

概要紹介

Moonshotは、Dark Side of the Moonによって開発された大規模言語モデルである。ここではその特徴を紹介する：

• 技術のブレークスルー:ムーンショットは、同社のスマートアシスタント製品「キミチャット」で、ロスレス文脈入力で最大200万字の中国語をサポートし、長文処理における目覚ましい進歩を達成した。
• モデル建築:革新的なネットワーク構造と工学的最適化を採用することで、スライディングウィンドウやダウンサンプリング、パフォーマンスを低下させがちな小さなモデルのような「近道」ソリューションに頼ることなく、長距離アテンションを実現します。これにより、数千億のパラメータを持つ超長文の包括的な理解が可能になります。
• アプリケーション指向:ムーンショットは、実用的なアプリケーションに焦点を当てて開発され、ユーザーにとって欠かすことのできない日常的なツールとなることを目指しています。

主な特徴

• 長文処理能力:小説や完全な財務報告書のような膨大なテキストを扱うことができ、ユーザーに深く包括的な洞察と長い文書の要約を提供します。
• マルチモーダル融合:複数のモダリティを統合し、テキストと画像データを組み合わせることで、分析・生成機能を強化。
• 高い言語理解と生成能力:ユーザーからの入力を正確に解釈し、高品質で一貫性のある、意味的に適切な応答を生成する。
• 柔軟なスケーラビリティ:強力なスケーラビリティを提供し、さまざまなアプリケーション・シナリオとニーズに基づいたカスタマイズと最適化を可能にすることで、開発者と企業に大きな柔軟性と自律性を提供します。

使用方法

• APIの統合:ユーザーは、ダークサイド・オブ・ザ・ムーンの公式プラットフォームでアカウント登録し、APIキーを申請した後、互換性のあるプログラミング言語でAPIを使用してムーンショットの機能をアプリケーションに統合することができる。
• 公式製品と公式ツールの使用:ムーンショットモデルに基づくスマートアシスタント製品Kimichatを直接使用するか、ダークサイド・オブ・ザ・ムーンが提供する関連ツールやプラットフォームを活用する。
• 他のフレームワークやツールとの統合:Moonshotは、LangChainのような一般的なAI開発フレームワークと統合し、より堅牢な言語モデルアプリケーションを構築することができます。

GLM-4-Plus by zhipu.ai

概要紹介

Zhipu AIによって開発されたGLM-4-Plusは、完全に自己開発されたGLM基礎モデルの最新版で、言語理解、指示追従、長文処理が大幅に強化されている。

主な特徴と利点

• 強い言語理解:豊富なデータセットと最適化されたアルゴリズムで訓練されたGLM-4-Plusは、複雑な意味論的処理を得意とし、様々なテキストの意味と文脈を正確に解釈します。
• 卓越した長文処理:GLM-4-Plusは、革新的なメモリ機構と分割処理技術により、128kトークンまでの長文を効率的に処理することができ、データ処理と情報抽出に非常に優れています。
• 強化された推論能力:プロキシマル・ポリシー最適化（PPO）を取り入れ、最適解を探索しながら安定性と効率を維持し、数学やプログラミングのような複雑な推論タスクにおけるモデルのパフォーマンスを大幅に向上。
• 高い指示追従精度:ユーザーの指示を正確に理解し、それを遵守し、ユーザーの要求に基づいて、期待に沿った高品質のテキストを作成する。

使用方法

• アカウントの登録とAPIキーの取得:まず、Zhipuの公式サイトでアカウントを登録し、APIキーを取得する。
• 公式文書を見直す:詳細なパラメータや使用方法については、GLM-4シリーズの公式マニュアルを参照してください。

SenseTime による SenseChat 5.5

概要紹介

SenseTimeが開発したSenseChat 5.5は、InternLM-123bをベースとする大規模言語モデルの5.5バージョンで、数兆のパラメータで構築され、継続的に更新される中国初期の大規模言語モデルの1つである。

主な特徴と利点

• パワフルな総合性能:文系・理系の基礎的な能力から高度な「ハード」タスクまで、さまざまな評価タスクで常にトップクラスにランクイン。文系では言語理解とセキュリティ、理系ではロジックとコーディングで優れたパフォーマンスを発揮。
• 効率的なエッジ・アプリケーション:SenseTimeはSenseChat Lite-5.5バージョンをリリースした。初期ロード時間はわずか0.19秒に短縮され、4月にリリースされたSenseChat Lite-5.0より40%改善され、推論速度は90.2文字/秒に達し、デバイスあたりの年間コストは9.9元と低い。
• 卓越した言語能力:自然言語アプリケーションとして、広範なテキストデータを効果的に処理し、堅牢な自然言語対話、論理的推論能力、広範な知識、頻繁な更新を実証します。簡体字中国語、繁体字中国語、英語、および一般的なプログラミング言語をサポートしています。

用途と応用製品

• 直接使用:ユーザーは[SenseTimeのウェブサイト]に登録することで、ウェブやモバイルアプリからSenseChatにアクセスし、モデルと対話することができる。
• APIの統合:SenseTimeは企業や開発者向けにAPIアクセスを提供しており、SenseChat 5.5を製品やアプリケーションに統合することができます。

Qwen2.5-72B-Instruct by Qwen team, Alibaba Cloud

モデル導入

Qwen2.5は、Qwen大型言語モデルの最新シリーズです。対象言語 クウェン2.5チームは、0.5億から720億のパラメータに及ぶ、多くの基本言語モデルと命令チューニング言語モデルをリリースした。

主な特徴

• 緻密で使いやすい、デコーダのみの言語モデル。 0.5B, 1.5B, 3B, 7B, 14B, 32Bそして 72B サイズ、ベースとインストラクターのバリエーション。
• までを網羅する最新の大規模データセットで事前学習した。 18T トークン。
• インストラクション・フォロー、長いテキスト（8K以上のトークン）の生成、構造化されたデータ（テーブルなど）の理解、構造化された出力（特にJSON）の生成が大幅に改善された。
• システムプロンプトの多様性により強く、チャットボットのロールプレイ実施と条件設定を強化。
• コンテキストの長さは最大 128K トークンを生成することができる。 8K トークン。
• 多言語サポート 29 中国語、英語、フランス語、スペイン語、ポルトガル語、ドイツ語、イタリア語、ロシア語、日本語、韓国語、ベトナム語、タイ語、アラビア語など。

手っ取り早く始めるには？

GithubやHugging faceでは、大きなモデルを使うためのチュートリアルを見つけることができる。これらのチュートリアルに基づき、モデルを効果的に実行し、機能やアイデアを実現することができます。

Doubao-pro by Doubao Team, ByteDance

概要紹介

Doubao-proはByteDanceが独自に開発した大規模言語モデルで、2024年5月15日に正式にリリースされた。Flagevalの大規模モデル評価プラットフォームにおいて、Doubao-proは75.96点を獲得し、クローズドソースモデルの中で第2位となりました。

• バージョン:Doubao-proには、4k、32k、128kのコンテキストウィンドウを持つバージョンがあり、それぞれ推論と微調整のための異なるコンテキスト長をサポートしています。
• パフォーマンス向上:ByteDanceの内部テストによると、Doubao-pro-4kは11の業界標準公開ベンチマークで76.8の総合スコアを達成しました。

主な特徴と利点

• 強力な総合能力:道宝プロは、客観的評価と主観的評価のいずれにおいても、数学、知識の応用、問題解決に優れている。
• 幅広い用途:DoubaoのAIアシスタント「Doubao」は、最も広く使用されている多機能な国内モデルの1つとして、Apple App Storeおよび主要なAndroidアプリマーケットにおいて、AIGCアプリケーションの中でダウンロード数第1位を獲得しています。
• 高い費用対効果:Doubao-pro-32kの推論入力コストは、1000トークンあたりわずか0.0008元である。例えば ハリー・ポッター (274万文字）はわずか1.5元である。
• 卓越した言語理解と生成:同包プロは、多様な自然言語入力を正確に理解し、高品質で一貫性のある論理的な回答を生成します。簡単なQ&Aから複雑な文章作成、専門分野の説明まで、ユーザーのニーズに応えます。
• 効率的な推論速度:広範なデータトレーニングと最適化により、Doubao-proは推論速度の優位性を提供し、特に大量のテキストや複雑なタスクを処理する際に、迅速な応答時間とユーザーエクスペリエンスの向上を可能にします。

使用方法

• ボルケーノ・エンジンを通して:Volcanoエンジンの公式ドキュメントにコードサンプルがあります。
• 特定の製品について:Doubao-proはVolcano Engineを通じて企業市場にも提供され、企業は自社の製品やサービスに統合することができます。また、Doubaoアプリを通じてDoubaoモデルを体験することもできます。

360の360gpt2-pro

概要紹介

• モデル名:360GPT2-Proは、360が開発した大型モデル「360ジブレイン」シリーズのひとつ。
• テクニカル・ファンデーション:20年にわたるセキュリティデータ、10年にわたるAIの経験、80人のAIと100人のセキュリティ専門家の専門知識を活用して、360は200日間にわたり5,000個のGPUリソースを使用してZhibrainモデルの訓練と最適化を行い、360GPT2-Proはその上級バージョンの1つである。

主な特徴と利点

• 強い言語生成:ストーリーやコピーライティングなど、高品質で創造的、かつ論理的に一貫性のあるコンテンツを作成することで、特に人文科学分野の言語生成タスクに秀でる。
• ロバストな知識の理解と応用:幅広い知識ベースを備え、情報を的確に解釈、応用し、質問に答え、問題を効果的に解決する。
• 検索に基づく生成の強化:特に中国語の検索支援生成に長けており、ユーザーニーズや実データに沿った回答を生成することが可能で、幻覚の確率を下げることができる。
• 強化されたセキュリティ機能:360GPT2-Proは、360が長年培ってきたセキュリティの専門知識を生かし、様々なセキュリティリスクに効果的に対応する安全性と信頼性を提供します。

使用方法と関連製品

• 360AIサーチ:360GPT2-Proと検索機能を統合し、より包括的で詳細な検索体験をユーザーに提供します。
• 360AIブラウザ:360GPT2-Proを360AIブラウザに組み込むことで、ユーザーは特定のインターフェースや音声入力を通じてモデルと対話し、情報や提案を得ることができます。

ステップ2-16k by stepfun

概要紹介

• 開発者:StepStarが STEP-2 1兆パラメータ言語モデル step-2-16kは16kのコンテキストウィンドウをサポートする変種を指す。
• モデル建築:革新的なMoE(Mixture of Experts)アーキテクチャに基づいており、タスクとデータ分布に基づいて異なるエキスパートモデルを動的にアクティブ化し、パフォーマンスと効率の両方を向上させます。
• パラメーター・スケール:兆ものパラメータを持つこのモデルは、広範な言語知識と意味情報を捉え、様々な自然言語処理タスクにおいて強力な能力を発揮する。

主な特徴と利点

• 強力な言語理解と生成:入力されたテキストを正確に解釈し、高品質で自然な応答を生成することで、質問への回答、コンテンツの生成、会話のやり取りなどのタスクを正確かつ価値あるものとしてサポートします。
• マルチドメイン知識カバレッジ:膨大なデータセットで訓練されたこのモデルは、数学、論理学、プログラミング、知識、創造的な文章といった分野の幅広い知識を包含しているため、分野を超えた対応や応用が可能である。
• ロングシーケンス処理能力:16Kのコンテキストウィンドウを持つこのモデルは、長いテキスト列の処理に優れており、長い記事や複雑な文書の理解や処理を容易にします。
• GPT-4に迫るパフォーマンス:複数の言語タスクでGPT-4に近いパフォーマンスを達成し、ハイレベルな包括的言語処理能力を示す。

使い方と応用

StepStarは、企業や開発者にオープンなプラットフォームを提供する。 ステップ2-16Kモデル.

ユーザーは、APIコールを通じてアプリケーションや開発プロジェクトにモデルを統合することができ、プラットフォームが提供するドキュメントや開発ツールを使用して、さまざまな自然言語処理機能を実装することができる。

DeepSeek-V2.5 by deepseek

概要紹介

DeepSeek-V2.5DeepSeek チームによって開発された DeepSeek-V2-Chat および DeepSeek-Coder-V2-Instruct の機能を統合した強力なオープンソースの言語モデルで、これまでのモデルの進化の集大成です。主な詳細は以下のとおりです：

• 開発の歴史:2024年9月、チャットとコーディング機能を統合したDeepSeek-V2.5を正式にリリース。このバージョンでは、一般的な言語能力とコーディング機能の両方が強化されている。
• オープンソース・ネイチャー:オープンソース開発へのコミットメントに沿って、DeepSeek-V2.5は、開発者が必要に応じてモデルを調整し、最適化できるように、現在Hugging Faceで利用可能です。

主な特徴と利点

• 言語能力とコーディング能力の融合:DeepSeek-V2.5は、チャットモデルの会話能力とコーダーモデルのコーディング能力を保持しており、日常会話、複雑な命令フォロー、コード生成、および補完を処理できる真の「オールインワン」ソリューションとなっています。
• 人間の嗜好アライメント:人間の嗜好に合わせて微調整されたモデルは、ライティングの品質と指示の遵守のために最適化され、複数のタスクにわたってより自然でインテリジェントに動作し、ユーザーのニーズをよりよく理解し、満たします。
• 傑出したパフォーマンス: DeepSeek-V2.5 さまざまなベンチマークで旧バージョンを上回り、humanval pythonやlive code benchのようなコーディングベンチマークでトップの結果を達成し、命令の順守とコード生成の強さを示している。
• 拡張コンテキスト・サポート:DeepSeek-V2.5は、コンテキストの最大長が128kトークンであるため、長文のテキストや複数ターンのダイアログを効果的に処理できます。
• 高い費用対効果:のようなトップクラスのクローズド・ソース・モデルと比較すると、その価値は高い。 クロード 3.5 ソネット そして GPT-4o、DeepSeek-V2.5 はコスト面で大きなアドバンテージがある。

使用方法

• ウェブプラットフォーム経由:SiliconCloudのDeepSeek-V2.5プレイグラウンドのようなWebプラットフォームからDeepSeek-V2.5にアクセスします。
• API経由:ユーザは、アカウントを作成して API キーを取得し、API を介して DeepSeek-V2.5 をシステムに統合して、二次開発やアプリケーションに使用できます。
• 現地展開:推論にはHugging FaceのTransformersを使用。具体的な手順については、ドキュメントとサンプルコードを参照してください。
• 特定商品内:
  • カーソル:VSCodeをベースとしたこのAIコードエディタは、ユーザーがDeepSeek-V2.5モデルを設定し、SiliconCloudのAPIに接続してショートカットからページ上のコード生成を行うことができ、コーディング効率を高めます。
  • その他の開発ツールまたはプラットフォーム:外部の言語モデル API をサポートする開発ツールやプラットフォームであれば、API キーを取得することで、理論上は DeepSeek-V2.5 を統合し、言語生成機能とコード記述機能を使用できるようになります。

Ernie-4.0-turbo-8k-プレビュー by Baidu

概要紹介

アーニー-4.0ターボ-8k-プレビュー はバイドゥのERNIE 4.0 Turboシリーズの一部で、2024年6月28日に正式にリリースされ、2024年7月5日に企業顧客に全面的に開放された。

主な特徴と利点

• パフォーマンス向上:ERNIE 4.0のアップグレード版として、このモデルはコンテキストの入力長を2kトークンから8kトークンに拡張し、より大きなデータセットを扱い、より多くの文書やURLを読み取り、長いテキストを含むタスクでより優れたパフォーマンスを発揮できるようにした。
• コスト削減:ERNIE 4.0-turbo-8k-previewの入出力コストは、1,000トークン当たり0.03元、1,000トークン当たり0.06元と、ERNIE 4.0の一般版から70%の値下げとなっている。
• 技術的最適化:ターボテクノロジーによって強化されたこのモデルは、トレーニングのスピードとパフォーマンスの2つの向上を実現し、より迅速なモデルのトレーニングと展開を可能にします。
• 幅広い用途:その性能とコストの優位性から、このモデルはインテリジェントなカスタマーサービス、バーチャルアシスタント、教育、エンターテインメントなどの分野に広く応用でき、スムーズで自然な会話体験を提供する。また、その強力な生成能力により、コンテンツ作成やデータ分析にも非常に適しています。

使用方法

ERNIE 4.0-turbo-8k-previewは主に企業顧客に提供され、企業顧客はBaidu Intelligent Cloud上のBaiduのQianfan Large Model Platformからアクセスできる。

中国企業が作ったAIモデル・トップ10