중국 기업이 만든 10대 AI 모델

LLM 모델이란 무엇인가요?

정의 및 개요

AI 모델은 사람의 추가 개입 없이 특정 패턴을 인식하거나 특정 결정을 내릴 수 있도록 일련의 데이터에 대해 학습된 프로그램입니다.

대규모 언어 모델, 즉 LLM는 방대한 양의 데이터로 사전 학습된 초대형 딥러닝 모델입니다.

기본 트랜스포머는 인코더와 자체 주의 기능이 있는 디코더로 구성된 신경망 세트입니다. 인코더와 디코더는 일련의 텍스트에서 의미를 추출하고 그 안에 있는 단어와 구문 간의 관계를 이해합니다.

어떤 모델이 가장 적합할까요?

AI 대규모 모델은 매우 빠르게 발전하고 있습니다. 여러 기업과 연구 기관에서 새로운 대규모 언어 모델과 함께 매일 새로운 연구 성과를 발표하고 있습니다.

따라서 어느 것이 최고라고 단정적으로 말씀드릴 수는 없습니다.

그러나 OpenAI와 같은 최고 수준의 회사와 모델이 있습니다. 이제 모델을 평가하기 위한 일련의 표준과 테스트 질문이 있습니다.

다음을 참조할 수 있습니다. 슈퍼클루아이 을 클릭해 다양한 작업에서 모델의 점수를 확인하고 자신에게 맞는 모델을 선택하세요. 또한 최신 뉴스를 팔로우하여 LLM 모델의 기능에 대해 자세히 알아볼 수 있습니다.

텐센트의 후위안-라지

모델 소개

11월 5일, Tencent 총 3,980억 개의 매개 변수가 포함된 업계 최대 규모인 520억 개의 활성화 매개 변수가 포함된 오픈 소스 MoE 대형 언어 모델 Hunyuan-large를 출시합니다.

공개 평가 결과, 텐센트의 훈위안 대형 모델은 다양한 프로젝트에서 종합적으로 선두를 달리고 있는 것으로 나타났습니다.

기술적 이점

• 고품질 합성 데이터: 합성 데이터로 훈련을 강화합니다, 훈위안-대형 는 더 풍부한 표현을 학습하고, 긴 문맥의 입력을 처리하며, 보이지 않는 데이터에 더 잘 일반화할 수 있습니다.
• KV 캐시 압축: 그룹화된 쿼리 주의(GQA) 및 교차 계층 주의(CLA) 전략을 활용하여 메모리 사용량과 KV 캐시의 계산 오버헤드를 크게 줄여 추론 처리량을 개선합니다.
• 전문가별 학습률 스케일링: 전문가마다 학습 속도를 다르게 설정하여 각 하위 모델이 데이터를 효과적으로 학습하고 전체 성능에 기여할 수 있도록 합니다.
• 긴 컨텍스트 처리 기능: 사전 학습된 모델은 최대 256K의 텍스트 시퀀스를 지원하고, Instruct 모델은 최대 128K를 지원하여 긴 문맥의 작업을 처리하는 기능을 크게 향상시킵니다.
• 광범위한 벤치마킹: 다양한 언어와 작업에 걸쳐 광범위한 실험을 수행하여 Hunyuan-Large의 실질적인 효과와 안전성을 검증합니다.

추론 프레임워크 및 교육 프레임워크

이 오픈 소스 릴리스는 다음과 같은 두 가지 추론 백엔드 옵션을 제공합니다. 훈위안-대형 모델인기 vLLM-백엔드 및 TensorRT-LLM 백엔드. 두 솔루션 모두 성능 향상을 위한 최적화가 포함되어 있습니다.

훈위안-라지 오픈 소스 모델은 허깅 페이스 형식과 완벽하게 호환되므로 연구자와 개발자가 hf-deepspeed 프레임워크를 사용하여 모델을 미세 조정할 수 있습니다. 또한 플래시 주의력을 사용하여 훈련 가속화를 지원합니다.

이 모델을 추가로 사용하는 방법

이것은 오픈 소스 모델입니다. "tencent-hunyuan"은 다음에서 찾을 수 있습니다. GitHub에서 자세한 지침과 사용 가이드를 확인하세요. 더 자세히 탐색하고 연구하여 더 많은 가능성을 창출할 수 있습니다.

문샷(Kimi) by Moonshot AI

요약 소개

Moonshot은 다크 사이드 오브 더 문에서 개발한 대규모 언어 모델입니다. 다음은 그 기능에 대한 개요입니다:

• 기술 혁신: 문샷은 스마트 비서 제품인 키미챗을 통해 최대 200만 개의 한자를 무손실 문맥 입력으로 지원하는 등 장문 텍스트 처리 분야에서 괄목할 만한 발전을 이뤄냈습니다.
• 모델 아키텍처: 혁신적인 네트워크 구조와 엔지니어링 최적화를 통해 슬라이딩 윈도우, 다운샘플링 또는 성능을 저하시키는 소형 모델과 같은 '지름길' 솔루션에 의존하지 않고도 장거리 주의력을 확보할 수 있습니다. 이를 통해 수천억 개의 매개변수가 포함된 매우 긴 텍스트도 포괄적으로 이해할 수 있습니다.
• 애플리케이션 지향: 실용적인 활용에 중점을 두고 개발된 Moonshot은 사용자에게 없어서는 안 될 일상 도구가 되는 것을 목표로 하며, 실질적인 가치를 창출하기 위해 실제 사용자 피드백을 기반으로 발전하고 있습니다.

주요 기능

• 긴 텍스트 처리 능력: 소설이나 전체 재무 보고서와 같은 방대한 텍스트를 처리할 수 있어 사용자에게 심층적이고 포괄적인 인사이트와 긴 문서의 요약을 제공합니다.
• 멀티모달 퓨전: 여러 양식을 통합하여 텍스트와 이미지 데이터를 결합하여 분석 및 생성 기능을 향상시킵니다.
• 높은 언어 이해 및 생성 능력: 뛰어난 다국어 성능을 발휘하여 사용자 입력을 정확하게 해석하고 고품질의 일관성 있고 의미적으로 적절한 응답을 생성합니다.
• 유연한 확장성: 강력한 확장성을 제공하여 다양한 애플리케이션 시나리오와 요구 사항에 따라 사용자 지정 및 최적화가 가능하므로 개발자와 기업에게 상당한 유연성과 자율성을 제공합니다.

사용 방법

• API 통합: 사용자는 다크 사이드 오브 더 문 공식 플랫폼에서 계정을 등록하고 API 키를 신청한 다음 호환 가능한 프로그래밍 언어의 API를 사용하여 문샷의 기능을 애플리케이션에 통합할 수 있습니다.
• 공식 제품 및 도구 사용: 문샷 모델 기반의 스마트 비서 제품인 키미챗을 직접 사용하거나 다크 사이드 오브 더 문에서 제공하는 관련 도구 및 플랫폼을 활용하세요.
• 다른 프레임워크 및 도구와의 통합: 문샷은 LangChain과 같은 인기 있는 AI 개발 프레임워크와 통합하여 더욱 강력한 언어 모델 애플리케이션을 구축할 수 있습니다.

zhipu.ai의 GLM-4-Plus

요약 소개

Zhipu AI가 개발한 GLM-4-Plus는 완전히 자체 개발한 GLM 기초 모델의 최신 버전으로 언어 이해, 명령어 이해, 장문 텍스트 처리 기능이 크게 향상되었습니다.

주요 기능 및 장점

• 강력한 언어 이해력: 광범위한 데이터 세트와 최적화된 알고리즘으로 훈련된 GLM-4-Plus는 복잡한 의미론 처리에 탁월하여 다양한 텍스트의 의미와 문맥을 정확하게 해석합니다.
• 뛰어난 장문 텍스트 처리: 혁신적인 메모리 메커니즘과 세그먼트 처리 기술을 갖춘 GLM-4-Plus는 최대 128k 토큰의 긴 텍스트를 효과적으로 처리할 수 있어 데이터 처리 및 정보 추출에 매우 능숙합니다.
• 향상된 추론 기능: 최적의 솔루션을 탐색하는 동안 안정성과 효율성을 유지하기 위해 근사 정책 최적화(PPO)를 통합하여 수학 및 프로그래밍과 같은 복잡한 추론 작업에서 모델의 성능을 크게 향상시킵니다.
• 높은 명령 팔로잉 정확도: 사용자 지침을 정확하게 이해하고 준수하여 사용자 요구 사항에 따라 기대에 부합하는 고품질의 텍스트를 생성합니다.

사용 지침

• 계정 등록 및 API 키 받기: 먼저 지푸의 공식 웹사이트에서 계정을 등록하고 API 키를 발급받습니다.
• 공식 문서 검토: 자세한 매개변수 및 사용 지침은 GLM-4 시리즈 공식 설명서를 참조하세요.

센스타임의 SenseChat 5.5

요약 소개

센스타임에서 개발한 SenseChat 5.5는 수조 개의 파라미터를 기반으로 구축되고 지속적으로 업데이트되는 중국 최초의 대규모 언어 모델 중 하나인 InternLM-123b를 기반으로 하는 대규모 언어 모델의 5.5 버전입니다.

주요 기능 및 장점

• 강력하고 포괄적인 성능: 다양한 평가 과제에서 지속적으로 상위권에 속하며, 인문학과 과학의 기본 역량과 고급 '하드' 과제에서 두각을 나타냄. 인문학에서는 언어 이해와 보안에서 우수한 성과를 보였으며, 과학에서는 논리와 코딩에서 두각을 나타냈습니다.
• 효율적인 엣지 애플리케이션: 센스타임은 4월에 출시된 센스챗 라이트 5.0보다 초기 로드 시간을 0.19초로 단축한 센스챗 라이트 5.5 버전을 출시했으며, 추론 속도는 초당 90.2자에 달하고 기기당 연간 비용은 9.9위안으로 낮췄습니다.
• 탁월한 언어 기능: 자연어 애플리케이션으로서 광범위한 텍스트 데이터를 효과적으로 처리하여 강력한 자연어 대화, 논리적 추론 능력, 광범위한 지식 및 빈번한 업데이트를 보여줍니다. 중국어 간체, 중국어 번체, 영어 및 일반 프로그래밍 언어를 지원합니다.

사용 및 애플리케이션 제품

• 직접 사용: 사용자는 [센스타임 웹사이트]에 등록하여 웹 또는 모바일 앱을 통해 센스챗에 접속하고 모델과 상호작용할 수 있습니다.
• API 통합: 기업 및 개발자를 위한 API 액세스를 제공하여 제품 또는 애플리케이션에 SenseChat 5.5를 통합할 수 있도록 지원합니다.

Qwen2.5-72B-인스트럭트 작성자: Qwen 팀, 알리바바 클라우드

모델 소개

Qwen2.5는 Qwen 대형 언어 모델의 최신 시리즈입니다. 대상 Qwen2.5를 통해 0.5억~720억 개의 매개변수에 이르는 다양한 기본 언어 모델과 명령어 튜닝 언어 모델을 출시했습니다.

주요 기능

• 조밀하고 사용하기 쉬운 디코더 전용 언어 모델은 다음과 같이 제공됩니다. 0.5B, 1.5B, 3B, 7B, 14B, 32B및 72B 크기, 기본 및 인스트럭트 변형을 지원합니다.
• 최신 대규모 데이터 세트에 대한 사전 학습을 통해 다음까지 포괄합니다. 18T 토큰.
• 명령어 따라하기, 긴 텍스트(8K 토큰 이상) 생성, 구조화된 데이터(예: 표) 이해, 구조화된 출력(특히 JSON) 생성 기능이 크게 개선되었습니다.
• 다양한 시스템 프롬프트에 더욱 탄력적으로 대응하여 챗봇의 역할극 구현 및 조건 설정을 개선합니다.
• 컨텍스트 길이는 최대 128K 토큰을 생성할 수 있으며 최대 8K 토큰.
• 다국어 지원 29 중국어, 영어, 프랑스어, 스페인어, 포르투갈어, 독일어, 이탈리아어, 러시아어, 일본어, 한국어, 베트남어, 태국어, 아랍어 등 다양한 언어가 지원됩니다.

빠르게 시작하려면 어떻게 해야 하나요?

대형 모델 사용 튜토리얼은 깃허브와 Hugging face에서 찾을 수 있습니다. 이러한 튜토리얼을 기반으로 모델을 효과적으로 실행하고 기능과 아이디어를 실현할 수 있습니다.

두바오 팀의 두바오 프로, 바이트댄스

요약 소개

Doubao-pro는 2024년 5월 15일에 공식 출시된 ByteDance에서 독자적으로 개발한 대규모 언어 모델입니다. 대규모 모델에 대한 Flageval 평가 플랫폼에서 Doubao-pro는 75.96점으로 클로즈드 소스 모델 중 2위를 차지했습니다.

• 버전: Doubao-pro에는 추론 및 미세 조정을 위해 각각 다른 컨텍스트 길이를 지원하는 4K, 32K 및 128K 컨텍스트 창 버전이 포함되어 있습니다.
• 성능 향상: ByteDance의 내부 테스트에 따르면, Doubao-pro-4k는 11개의 업계 표준 공개 벤치마크에서 총 76.8점을 획득했습니다.

주요 기능 및 장점

• 강력한 종합 능력: 객관적 및 주관적 평가에서 수학, 지식 응용 및 문제 해결 능력이 뛰어납니다.
• 광범위한 애플리케이션: 두바오의 AI 비서 '두바오'는 국내에서 가장 널리 사용되고 활용도가 높은 모델 중 하나로, 애플 앱스토어와 주요 안드로이드 앱 마켓에서 AIGC 애플리케이션 중 다운로드 1위를 차지하고 있습니다.
• 높은 비용 효율성: Doubao-pro-32k의 추론 입력 비용은 토큰 천 개당 0.0008위안에 불과합니다. 예를 들어, 중국어 버전의 해리 포터 (274만 글자)는 1.5위안에 불과합니다.
• 뛰어난 언어 이해 및 생성: Doubao-pro는 다양한 자연어 입력을 정확하게 이해하고 고품질의 일관되고 논리적인 답변을 생성하여 간단한 Q&A, 복잡한 텍스트 작성 및 전문 분야의 설명에서 사용자의 요구를 충족합니다.
• 효율적인 추론 속도: 광범위한 데이터 학습 및 최적화를 통해 Doubao-pro는 추론 속도 이점을 제공하여 특히 대량의 텍스트나 복잡한 작업을 처리할 때 빠른 응답 시간과 향상된 사용자 경험을 제공합니다.

사용 방법

• 볼케이노 엔진을 통해: 코드 샘플은 볼케이노 엔진의 공식 문서에서 확인할 수 있으며, 모델의 API를 호출하여 Doubao-pro를 사용할 수 있습니다.
• 특정 제품의 경우: 두바오 프로는 볼케이노 엔진을 통해 기업 시장에서 사용할 수 있으며, 기업은 이를 제품이나 서비스에 통합할 수 있습니다. 두바오 앱을 통해서도 두바오 모델을 경험할 수 있습니다.

360GPT2-PRO BY 360

요약 소개

• 모델 이름: 360GPT2-Pro는 360에서 개발한 360 Zhibrain 대형 모델 시리즈의 일부입니다.
• 기술 기반: 360은 20년간의 보안 데이터, 10년간의 AI 경험, 80명의 AI 및 100명의 보안 전문가의 전문 지식을 활용하여 200일 동안 5,000개의 GPU 리소스를 사용하여 Zhibrain 모델을 학습하고 최적화했으며, 360GPT2-Pro는 그 고급 버전 중 하나입니다.

주요 기능 및 장점

• 강력한 언어 생성: 스토리 및 카피라이팅과 같은 고품질의 창의적이고 논리적으로 일관된 콘텐츠를 제작하여 특히 인문학 분야의 언어 생성 작업에 탁월합니다.
• 강력한 지식 이해 및 적용: 광범위한 지식 기반을 갖추고 있어 정보를 정확하게 해석하고 적용하여 질문에 답하고 문제를 효과적으로 해결합니다.
• 향상된 검색 기반 생성: 특히 중국어에 대한 검색 증강 생성에 능숙하여 사용자 요구와 실제 데이터에 부합하는 응답을 생성하여 오독 확률을 줄입니다.
• 향상된 보안 기능: 360의 오랜 보안 전문성을 바탕으로 한 360GPT2-Pro는 높은 수준의 안전성과 신뢰성을 제공하여 다양한 보안 위험을 효과적으로 해결합니다.

사용 방법 및 관련 제품

• 360AI 검색: 360GPT2-Pro와 검색 기능을 통합하여 사용자에게 보다 포괄적이고 심층적인 검색 경험을 제공합니다.
• 360AI 브라우저: 360GPT2-Pro를 360AI 브라우저에 통합하여 사용자가 특정 인터페이스 또는 음성 입력을 통해 모델과 상호 작용하여 정보와 제안을 얻을 수 있습니다.

단계별 단계-2-16k

요약 소개

• 개발자: StepStar는 공식 버전의 STEP-2 1조 개 매개변수 언어 모델 2024년에 단계 2-16k는 16k 컨텍스트 창을 지원하는 변형을 의미합니다.
• 모델 아키텍처: 작업 및 데이터 배포에 따라 다양한 전문가 모델을 동적으로 활성화하여 성능과 효율성을 모두 향상시키는 혁신적인 MoE(전문가 혼합) 아키텍처를 기반으로 구축되었습니다.
• 매개변수 스케일: 이 모델은 1조 개의 매개 변수를 통해 광범위한 언어 지식과 의미 정보를 캡처하여 다양한 자연어 처리 작업에서 강력한 기능을 발휘합니다.

주요 기능 및 장점

• 강력한 언어 이해 및 생성: 입력 텍스트를 정확하게 해석하고 고품질의 자연스러운 응답을 생성하여 질문에 대한 답변, 콘텐츠 생성, 대화 교환과 같은 작업을 정확하고 가치 있게 지원합니다.
• 다중 도메인 지식 범위: 방대한 데이터 세트에서 학습된 이 모델은 수학, 논리, 프로그래밍, 지식, 창의적 글쓰기 등의 영역에서 광범위한 지식을 포괄하므로 여러 도메인에 걸쳐 응답하고 응용할 수 있는 다용도 모델입니다.
• 긴 시퀀스 처리 기능: 16k 컨텍스트 창을 통해 긴 텍스트 시퀀스를 처리하는 데 탁월하여 긴 글과 복잡한 문서를 쉽게 이해하고 처리할 수 있습니다.
• GPT-4에 근접한 성능: 여러 언어 작업에서 GT-4에 가까운 성능을 달성하는 이 모델은 높은 수준의 종합적인 언어 처리 능력을 보여줍니다.

사용 및 애플리케이션

StepStar는 기업과 개발자가 액세스 권한을 신청할 수 있는 개방형 플랫폼을 제공합니다. STEP-2-16K 모델.

사용자는 플랫폼에서 제공하는 문서와 개발 도구를 사용하여 다양한 자연어 처리 기능을 구현하는 API 호출을 통해 이 모델을 애플리케이션이나 개발 프로젝트에 통합할 수 있습니다.

DeepSeek-V2.5 by deepseek

요약 소개

DeepSeek-V2.5딥시크 팀이 개발한 딥시크-V2-Chat과 딥시크-Coder-V2-Instruct의 기능을 통합한 강력한 오픈 소스 언어 모델로, 이전 모델 발전의 정점을 보여주는 것입니다. 주요 세부 사항은 다음과 같습니다:

• 개발 역사: 2024년 9월, 채팅과 코딩 기능을 결합한 DeepSeek-V2.5를 공식 출시했습니다. 이 버전은 일반적인 언어 능력과 코딩 기능을 모두 향상시켰습니다.
• 오픈 소스 자연: 오픈 소스 개발에 대한 약속에 따라, 이제 개발자가 필요에 따라 모델을 조정하고 최적화할 수 있는 DeepSeek-V2.5를 Hugging Face에서 사용할 수 있습니다.

주요 기능 및 장점

• 언어와 코딩 능력의 결합: DeepSeek-V2.5는 채팅 모델의 대화 능력과 코더 모델의 코딩 강점을 유지하여 일상 대화, 복잡한 명령어 따라하기, 코드 생성 및 완료를 처리할 수 있는 진정한 "올인원" 솔루션입니다.
• 인간 선호도 정렬: 사람의 선호도에 맞게 미세 조정된 이 모델은 쓰기 품질과 지침 준수에 최적화되어 여러 작업에서 보다 자연스럽고 지능적으로 수행하여 사용자의 요구를 더 잘 이해하고 충족합니다.
• 뛰어난 성능: DeepSeek-V2.5 는 다양한 벤치마크에서 이전 버전을 능가하고, 휴먼밸 파이썬 및 라이브 코드 벤치와 같은 코딩 벤치마크에서 최고의 결과를 달성하여 명령어 준수 및 코드 생성에 강점을 보여줍니다.
• 확장된 컨텍스트 지원: 최대 128k 토큰의 컨텍스트 길이를 지원하는 DeepSeek-V2.5는 긴 형식의 텍스트와 다중 턴 대화를 효과적으로 처리합니다.
• 높은 비용 효율성: 다음과 같은 최고 수준의 비공개 소스 모델과 비교했을 때 클로드 3.5 소네트 그리고 GPT-4o, DeepSeek-V2.5 는 상당한 비용 이점을 제공합니다.

사용 방법

• 웹 플랫폼을 통해: 실리콘클라우드의 딥시크릿-V2.5 플레이그라운드와 같은 웹 플랫폼을 통해 딥시크릿-V2.5에 액세스하세요.
• API를 통해: 사용자는 계정을 생성하여 API 키를 얻은 다음, 2차 개발 및 애플리케이션을 위해 API를 통해 DeepSeek-V2.5를 자신의 시스템에 통합할 수 있습니다.
• 로컬 배포: 추론을 위해 허깅 페이스의 트랜스포머를 사용하여 각각 80GB의 GPU 8개가 필요합니다. 구체적인 단계는 문서와 샘플 코드를 참조하세요.
• 특정 제품 내:
  • 커서: VSCode를 기반으로 하는 이 AI 코드 편집기는 사용자가 바로 가기를 통해 페이지 내 코드 생성을 위해 SiliconCloud의 API에 연결하여 DeepSeek-V2.5 모델을 구성할 수 있어 코딩 효율성을 높일 수 있습니다.
  • 기타 개발 도구 또는 플랫폼: 외부 언어 모델 API를 지원하는 모든 개발 도구 또는 플랫폼은 이론적으로 API 키를 획득하여 언어 생성 및 코드 작성 기능을 활성화함으로써 DeepSeek-V2.5를 통합할 수 있습니다.

Ernie-4.0-turbo-8k-preview by Baidu

요약 소개

Ernie-4.0-turbo-8k-preview 는 2024년 6월 28일에 공식 출시되어 2024년 7월 5일에 기업 고객에게 완전히 개방된 바이두의 ERNIE 4.0 터보 시리즈의 일부입니다.

주요 기능 및 장점

• 성능 향상: ERNIE 4.0의 업그레이드 버전인 이 모델은 컨텍스트 입력 길이를 2천 토큰에서 8천 토큰으로 확장하여 더 큰 데이터 세트를 처리하고, 더 많은 문서나 URL을 읽고, 긴 텍스트가 포함된 작업에서 더 나은 성능을 발휘할 수 있습니다.
• 비용 절감: ERNIE 4.0-turbo-8k-preview의 입력 및 출력 비용은 1,000 토큰당 0.03 CNY, 1,000 토큰당 0.06 CNY로 일반 버전의 ERNIE 4.0보다 70% 낮은 가격입니다.
• 기술 최적화: 터보 기술로 강화된 이 모델은 훈련 속도와 성능이 이중으로 향상되어 모델 훈련 및 배포 속도가 빨라집니다.
• 광범위한 애플리케이션: 성능과 비용 이점으로 인해 지능형 고객 서비스, 가상 비서, 교육, 엔터테인먼트 등 다양한 분야에 폭넓게 적용 가능하며 부드럽고 자연스러운 대화 경험을 제공합니다. 또한 강력한 생성 기능으로 콘텐츠 제작 및 데이터 분석에도 매우 적합합니다.

사용법

ERNIE 4.0 터보 8k 프리뷰는 주로 기업 고객에게 제공되며, 기업 고객은 Baidu 인텔리전트 클라우드의 첸판 대형 모델 플랫폼을 통해 액세스할 수 있습니다.

중국 기업이 만든 10대 AI 모델