Mtihani wa Bure wa Qwen2.5 Mkondoni Bora Kuliko Llama3.1 Na GPT4o

Jedwali la Yaliyomo

Upakuaji wa Tongyi Qianqian Qwen ulizidi milioni 40, "kuzalisha" zaidi ya watoto 50,000 Models.

Hakuna KE wacha tujaribu kwanza Qwen hapa:

Wingu kompyuta "Spring tamasha Gala" Mkutano Yunqi kufunguliwa, Tongyi Qwen kubwa mfano kwa mara nyingine tena kulipuka eneo zima!
Mambo ya busara yaliyoripotiwa mnamo Septemba 19, Hangzhou, leo, Ali Cloud alizindua chanzo chenye nguvu zaidi ulimwenguni cha mfano wa Qwen2.5-72B, utendakazi "kipimo mtambuka" zaidi ya Llama3.1-405B, na kisha kwenye kiti cha enzi cha modeli kubwa ya ulimwengu ya chanzo wazi.
Ufuatao ni muhtasari wa matokeo ya kazi kwenye mradi huu

Qwen2.5-72B inashinda Llama-405B katika majaribio mengi ya mamlaka.

Wakati huo huo, mfululizo mkubwa wa miundo ya Qwen2.5 ilipatikana kwa njia huria, ikijumuisha: modeli ya lugha Qwen2.5, modeli ya lugha inayoonekana Qwen2-VL-72B, muundo wa programu Qwen2.5-Coder, na muundo wa hisabati Qwen2.5-Math, n.k., pamoja na jumla ya zaidi ya 100, na baadhi ya rafu za G-4 kwenye rafu. kuweka rekodi mpya ya dunia.
"Ni Alhamisi ya Kichaa", 'Bidhaa Epic' …… Ndani ya saa chache tangu kutolewa, Qwen2.5 imeanzisha mjadala kwenye mitandao ya kijamii nyumbani na nje ya nchi, na watengenezaji kote ulimwenguni wamejiunga na timu ya majaribio.

▲Qwen2.5 ni mada motomoto kwenye mitandao ya kijamii nyumbani na nje ya nchi.

Qwen2.5-Math, kwa mfano, inachanganya utambuzi wa kuona na Qwen2.5-Math. Wakati wa kuweka picha ya skrini ya swali la chaguo nyingi linalofanana kijiometri, Qwen2.5-Hisabati hutambua kwa haraka maana ya swali na kutoa jibu sahihi na kujibu "B", ambalo ni sahihi na la haraka. Usahihi na kasi ni ya kushangaza.
Hii ni mara ya kwanza nimeona Qwen2.5-Math kwenye wavuti.

▲ Jaribio la Qwen2.5-Hisabati

Katika mwaka mmoja na nusu tu tangu Aprili 2023, Qwen amekua na kuwa kikundi cha wanamitindo cha hali ya juu cha pili baada ya Llama.
Kulingana na data ya hivi punde iliyotolewa na Zhou Jingren, CTO wa AliCloud, kufikia katikati ya Septemba 2024, idadi ya upakuaji wa mifano huria ya Tongyi Qwen imezidi milioni 40, na zaidi ya modeli 50,000 kubwa zimetolewa.

▲ Mfululizo wa Qwen ulitoa miundo mikubwa zaidi ya 50,000

Je, ni maboresho gani mahususi ya utendakazi wa Qwen 2.5? Je, ni vivutio gani vya miundo mipya 100 ya programu huria? Qwen2.5 ni ya kwanza ya aina yake duniani, na ni ya kwanza ya aina yake nchini China.
Anwani ya blogi: https://qwenlm.github.io/blog/qwen2.5/
Anwani ya mradi: https://huggingface.co/spaces/Qwen/Qwen2.5

▲ Blogu Rasmi Imetoa Vikundi vya Muundo vya Aliyun Qwen 2.5

01.Inayoongoza kwenye orodha ya kimataifa tena, sauti mtambuka ya Qwen2.5 Inapatana na Llama3.1-405B

Wacha tuangalie utendaji wa Qwen2.5 haswa.
Muundo wa Qwen2.5 unaweza kutumia hadi urefu wa muktadha wa 128K, unaweza kutoa hadi maudhui ya 8K, na unaauni zaidi ya lugha 29, ambayo ina maana kwamba unaweza kuwasaidia watumiaji kuandika makala ya maneno 10,000.
Si hivyo tu, kulingana na mafunzo ya awali ya data ya tokeni ya 18T, Qwen2.5 ina zaidi ya uboreshaji wa utendaji wa jumla wa zaidi ya 18% ikilinganishwa na Qwen2, ikiwa na maarifa zaidi na ujuzi thabiti wa programu na hesabu.

▲AliCloud CTO Zhou Jingren akifafanua Qwen2.5

Inaripotiwa kuwa kielelezo cha kinara, mfano wa Qwen2.5-72B, ulipata alama za juu kama 86.8, 88.2, na 83.1 kwenye alama ya MMLU-rudex (ambayo inachunguza ujuzi wa jumla), alama ya MBPP (inayochunguza uwezo wa kusimba), na alama ya MATH (ambayo inachunguza uwezo wa hesabu).
Qwen2.5, yenye vigezo vyake bilioni 72, hata inashinda Llama3.1-405B, yenye vigezo vyake bilioni 405, "kwa maagizo ya ukubwa".
Llama3.1-405B ilitolewa na Meta mnamo Julai 2024, na katika zaidi ya seti 150 za majaribio ya benchmark, ililingana au hata kupita ile ya wakati huo ya SOTA (bora zaidi katika tasnia) ya GPT-4o, na hivyo kusababisha madai kwamba "mfano thabiti wa chanzo-wazi ndio kielelezo chenye nguvu zaidi".
Qwen2.5-72B-Instruct, toleo la kufuata la Qwen2.5, lilipita Llama3.1-405B katika MMLU-redux, MATH, MBPP, LiveCodeBench, Arena-Hard, AlignBench, MT-Bench, MultiPL-E, na tathmini zingine za mamlaka. 405B.
Picha

▲ Hali ya tathmini ya muundo wa Qwen2.5-72B

Qwen2.5 kwa mara nyingine tena ndiyo modeli imara zaidi ya chanzo huria duniani, inayochangia mwelekeo wa tasnia ya "chanzo huria juu ya chanzo funge".
Hii ni AliCloud kufuatia mfululizo wa chanzo huria cha Tongyi Qianqian Qwen2 mwezi Juni mwaka huu, kupata mfano wa chanzo huria wa wakati huo Llama3-70B, na kisha kuzindua mfululizo wa matoleo huria.
Imekuwa mdundo unaojulikana katika jumuiya ya wasanidi programu wa AI kwamba kila mfalme mpya anayeonekana anazidiwa hivi karibuni na toleo jipya la Tongyi.
Baada ya Qwen2.5 kufunguliwa jioni ya Septemba 18, watengenezaji wengi walifurahi sana kwamba hawakulala, na walijaribu kwanza.
Sina hakika kama nitaweza kufanya hivyo.

▲Watengenezaji nyumbani na nje ya nchi wanajadili kwa dhati Qwen2.5

02.Jumuiya kubwa zaidi ya wanamitindo katika historia ya ulimwengu
Jambo muhimu zaidi ni kuwa na ufahamu mzuri wa kile kinachoendelea duniani na jinsi inavyofanya kazi.

Jumuiya ya uundaji wa chanzo huria ya Qwen2.5 ndiyo kubwa zaidi kuwahi kuwahi.
Zhou Jingren, CTO wa AliCloud, alitangaza katika mkutano wa Yunqi kwamba mfululizo wa Qwen2.5 ulikuwa na jumla ya zaidi ya mifano 100 ya vyanzo huria kwenye rafu, ikiendana kikamilifu na mahitaji ya watengenezaji na SMEs katika hali mbalimbali.
Hii inajibu wito wa watengenezaji wengi, ambao wamekuwa "wakihimiza" kwa muda mrefu katika vyombo vya habari kuu vya kijamii.

▲Watengenezaji nyumbani na nje ya nchi wanahimiza zaidi Qwen2.5

1, modeli ya lugha: kutoka 0.5B hadi 72B saizi saba, kutoka upande wa mwisho hadi hali ya kiwango cha kiviwanda utangazaji kamili
Qwen2.5 vyanzo huria modeli saba za lugha, ikijumuisha 0.5B, 1.5B, 3B, 7B, 14B, 32B, na 72B, ambazo zote zimepata matokeo ya SOTA katika nyimbo zinazolingana.
Picha

▲Qwen2.5 ya ukubwa mwingi inakidhi mahitaji ya hali mbalimbali

Kwa kuzingatia uwezo wake wa hali ya juu katika Uchakataji wa Lugha Asilia (NLP) na uelewa wa usimbaji, Qwen2.5 ya Alibaba Cloud imeundwa kushughulikia anuwai ya programu. Hapa kuna baadhi ya matukio maalum ambapo Qwen2.5 inaweza kutumika:

Huduma Iliyoimarishwa kwa Wateja: Qwen2.5 inaweza kuajiriwa katika chatbots kwa mwingiliano zaidi kama wa binadamu, kujibu maswali ya wateja kwa ufanisi na kutoa suluhisho.
Uundaji wa Maudhui: Muundo huo unaweza kusaidia katika kutengeneza makala, machapisho ya mitandao ya kijamii na maudhui mengine yaliyoandikwa, kuokoa muda kwa waundaji wa maudhui.
Usaidizi wa Kupanga: Kwa mfululizo wake maalum wa Qwen2.5-Coder, inaweza kusaidia wasanidi programu kwa kupendekeza vijisehemu vya msimbo, usaidizi wa utatuzi, na kuweka kazi fulani za usimbaji kiotomatiki.
Elimu na Mafunzo: Qwen2.5 inaweza kutumika kutengeneza zana za kielimu kama vile majukwaa shirikishi ya kujifunza ambayo hutoa maelezo, kujibu maswali ya wanafunzi, na hata kazi za daraja.
Huduma za Tafsiri: Kwa kuzingatia ustadi wake katika lugha nyingi, inaweza kutoa huduma za tafsiri katika wakati halisi ili kuziba pengo la lugha katika mawasiliano ya kimataifa.
Utafiti na Maendeleo: Katika utafiti, Qwen2.5 inaweza kuchakata kiasi kikubwa cha data ya maandishi ili kusaidia katika kugundua ruwaza, kufupisha matokeo, na kutoa ripoti.
Usaidizi wa Kisheria: Mfano huo unaweza kusoma hati za kisheria, kutoa taarifa muhimu, na hata kuandaa hati za kimsingi za kisheria, kuokoa muda kwa wataalamu wa sheria.
Msaada wa afya: Qwen2.5 inaweza kutumika kujibu maswali ya kawaida ya afya, kutoa maelezo ya matibabu, na kusaidia katika kudhibiti data ya mgonjwa.
Uuzaji na Utangazaji: Inaweza kusaidia kuunda maudhui ya uuzaji yanayobinafsishwa, nakala ya tangazo, na kampeni za mitandao ya kijamii zinazolenga hadhira mahususi.
Uchanganuzi wa Data: Qwen2.5 inaweza kuchakata na kuchanganua seti kubwa za data ili kutoa maarifa na kusaidia kufanya maamuzi yanayotokana na data.
Kuripoti Kiotomatiki: Muundo huu unaweza kutoa ripoti kwa kuchakata data na taarifa katika maeneo mbalimbali, ambayo ni muhimu sana katika uchanganuzi wa kifedha na biashara.
Maendeleo ya Mchezo: Qwen2.5 inaweza kusaidia katika kuunda mazungumzo na simulizi shirikishi kwa wahusika wa mchezo wa video ili kuboresha ushiriki wa wachezaji.
Mratibu wa Mtandao: Huendesha wasaidizi pepe ambao wanaweza kudhibiti ratiba, kuweka vikumbusho, na kutoa ushauri wa kibinafsi.
Biashara ya kielektroniki: Qwen2.5 inaweza kusaidia kutoa maelezo ya bidhaa, kushughulikia maswali ya wateja, na kuunda uzoefu wa ununuzi unaokufaa.
Usaidizi wa Lugha nyingi: Inaweza kutumika katika programu za kimataifa zinazohitaji mwingiliano wa lugha nyingi, kama vile huduma ya wateja wa kimataifa au ujanibishaji wa maudhui.

Matoleo haya husaidia wasanidi kusawazisha uwezo wa kielelezo na gharama, na kukabiliana na aina mbalimbali za matukio. Kwa mfano, 3B ni saizi ya dhahabu ya kuzoea simu za rununu na vifaa vingine vya mwisho, 32B ndiyo inayotarajiwa zaidi na watengenezaji kuwa "mfalme wa gharama nafuu", na 72B ndiye mfalme wa utendakazi wa hali ya kiwango cha kiviwanda na utafiti wa kisayansi.
Anwani ya blogi: https://qwenlm.github.io/zh/blog/qwen2.5-llm/
2、 Muundo wa modi nyingi: muundo wa kuona unaelewa dakika 20 za video, muundo wa sauti-lugha hutumia lugha 8
Qwen2-VL-72B, modeli ya lugha inayoonekana kwa kiwango kikubwa inayotarajiwa, inapatikana wazi leo.
Qwen2-VL inaweza kutambua picha zenye maazimio tofauti na uwiano wa vipengele, kuelewa video ndefu za zaidi ya dakika 20, kuwa na uwezo wa kudhibiti akili ya kuona ya simu za mkononi na vifaa, na kuvuka kiwango cha GPT-4o cha uelewa wa kuona.

▲Mfano wa lugha inayoonekana kwa kiasi kikubwa Qwen2-VL-72B chanzo huria

Qwen2-VL-72B ikawa kielelezo cha juu zaidi cha uelewa wa picha cha chanzo wazi katika tathmini ya kimataifa ya Ubao wa Wanaoongoza wa LMSYS Chatbot Arena.

Qwen2-VL-72B ndio kielelezo cha juu kabisa cha uelewa wa kuona cha chanzo wazi.

Muundo wa lugha ya sauti ya kiwango kikubwa cha Qwen2-Audio ni muundo wa chanzo huria unaoweza kuelewa sauti ya binadamu, muziki na sauti asilia, kusaidia gumzo la sauti, uchanganuzi wa ujumbe wa sauti, na kuhimili zaidi ya lugha na lahaja 8, na ni kiongozi wa kimataifa katika faharasa kuu ya tathmini.
Anwani ya blogi: http://qwenlm.github.io/blog/qwen2-vl/
3, modeli maalum: modeli ya juu zaidi ya chanzo huria ya hisabati, inayopata GPT-4o
Qwen2.5-Coder ya programu na Qwen2.5-Math ya hesabu pia ilitangazwa kuwa chanzo wazi katika Mkutano huu wa Cloud Habitat.
Miongoni mwao, Qwen2.5-Hisabati ni mfululizo wa hali ya juu zaidi wa mfano wa hisabati wa chanzo huria hadi sasa, wakati huu chanzo huria 1.5B, 7B, 72B saizi tatu na mfano wa malipo ya hisabati Qwen2.5-Math-RM.

▲ Chanzo huria cha Qwen2.5-Hisabati

Muundo bora zaidi wa Qwen2-Math-72B-Instruct hufanya vyema zaidi miundo ya wamiliki kama vile GPT-4o na Claude 3.5 katika kazi zinazohusiana na hesabu za chini.
Qwen2.5-Coder, ambayo ilifunzwa hadi tokeni za 5.5T za data inayohusiana na programu, ilitolewa kwa njia huria siku hiyo hiyo katika matoleo ya 1.5B na 7B, na itatolewa kwa njia huria katika siku zijazo katika toleo la 32B.

▲ Chanzo huria cha Qwen2.5-Coder

Anwani ya blogu:
https://qwenlm.github.io/zh/blog/qwen2.5-math/
https://qwenlm.github.io/zh/blog/qwen2.5-coder/
Kwa kuongezea, inafaa kutaja kwamba Qwen-Max, mfano wa kinara wa Tongyiqianqian, imeboreshwa kikamilifu, inakaribia au hata kuipita GPT-4o kwa vigezo zaidi ya kumi vya mamlaka, kama vile MMLU-Pro, MATH, nk, na iko mtandaoni kwenye tovuti rasmi ya Tongyiqianqian na Tongyi APP. Watumiaji wanaweza pia kupiga simu API za Qwen-Max kupitia Jukwaa la Uboreshaji Mia la AliCloud.
Picha

▲Qwen-Max inatambua uboreshaji wa kina

Tangu kutolewa kwa kizazi cha kwanza cha muundo mkubwa wa Tongyi Qianqian mnamo Aprili 2023, AliCloud imewezesha makampuni ya biashara ya China kutumia modeli hiyo kubwa kwa gharama ya chini, ambayo kwa upande wake imeendesha mfululizo wa leo wa Qwen2.5 kuwa "zaidi na muhimu zaidi".
Mifano ya mfululizo wa Qwen2.5 hufunika toleo la msingi, toleo la kufuata amri, toleo la kiasi, ambalo linarudiwa katika hali halisi za ulimwengu.

Vipakuliwa 03.Qwen vilizidi milioni 40!Zaidi ya "watoto" 50,000 wamezaliwa.

Baada ya mwaka mmoja na nusu ya maendeleo ya haraka, Tongyi Qwen amekuwa kundi la wanamitindo wa hali ya juu la pili baada ya Llama.
Zhou Jingren alitangaza seti mbili za data ya hivi karibuni ili kuthibitisha hili:
Kwanza, idadi ya vipakuliwa vya modeli, hadi mwanzoni mwa Septemba 2024, upakuaji wa jumla wa miundo ya chanzo huria ya Tongyi Qianwen imezidi milioni 40, ambayo ni matokeo ya watengenezaji na SMEs kupiga kura kwa miguu yao;
Ya pili ni idadi ya modeli zilizotolewa, hadi mwanzoni mwa Septemba, jumla ya modeli za asili za Tongyi na zinazotolewa zilizidi 50,000, pili baada ya Llama.

▲Tongyi Elfu Maswali upakuaji wa jumla wa chanzo huria ulizidi milioni 40

Hadi sasa, "miundo 10,000 yenye chanzo sawa" imekuwa mwelekeo muhimu katika maendeleo ya sekta kubwa ya mfano ya China.
Dhana ni nini? Chanzo cha wazi cha Kichina sio tu nafasi ya kwanza ulimwenguni kwa suala la utendaji, lakini pia kwa suala la upanuzi wa kiikolojia. Jumuiya za vyanzo huria, washirika wa ikolojia, na watengenezaji nyumbani na nje ya nchi wamekuwa "maji ya bomba" ya Tongyi Chienqin, ambayo imekuwa mtindo wa kwanza mkubwa kupitishwa na biashara nyingi, na pia mtindo mkubwa uliotumika kwa muda mrefu zaidi.
Mapema Agosti 2023, Aliyun alifungua chanzo cha kigezo cha bilioni 7 cha Tongyi Qwen kwa biashara ya bure, na kisha Qwen1.5, Qwen2, Qwen2.5 ya mwaka huu ilitoa moja baada ya nyingine, ili watengenezaji waweze kutumia mtindo wa hali ya juu zaidi kwa wakati mmoja, kupata udhibiti mkubwa na nafasi ya kurekebisha, na hivyo kuwa chaguo bora zaidi la chaguo bora zaidi.
Mwanzoni mwa Julai, wahandisi kutoka Hugging Face, jumuiya kubwa zaidi duniani ya chanzo huria, walituma ujumbe kwenye Twitter ili kuthibitisha kwamba Tongyi ndiye mwanamitindo mkubwa aliyetangazwa zaidi nchini China. Na kupitia AliCloud, Tongyi Big Model imehudumia zaidi ya wateja 300,000 katika tasnia mbalimbali. Katika robo ya pili iliyopita ya 2024 (sambamba na Q1 ya mwaka wa fedha wa Alibaba 2025), mapato ya bidhaa zinazohusiana na AI ya Aliyun yalitimiza ukuaji wa tarakimu tatu.

▲ Tongyi Big Model inahudumia zaidi ya wateja 300,000

Aliyun alifanya nini sawa?
Kwa maoni yangu, tofauti na wazalishaji wakubwa wa kigeni wa Microsoft na ChatGPT inayofunga nguvu, muunganisho wa Amazon AWS wa muundo wa watu watatu kufanya miundombinu ya msingi, Aliyun aliunganisha faida za hizo mbili, mwanzoni, alichagua huduma za miundombinu ya AI na kujifanyia utafiti mfano mkubwa kwa mikono miwili.
Ikizingatia mifano ya kujifanyia utafiti, Ali Cloud ndiye pekee gwiji la mtandaoni nchini Uchina ambaye yuko wazi kabisa kuhusu chanzo huria cha mfano na uwazi, na amejitahidi sana kufanya uwekezaji mkubwa katika mafanikio ya kielelezo, utangamano wa ikolojia, huduma za wasanidi n.k., ili kuifanya Tongyi kuwa wanamitindo wakubwa hatua kwa hatua katika mduara wa msingi wa shindano la AI duniani.

04. Hitimisho: Miundo yote ina asili sawa Industry Watershed Moment

Miundo ya vyanzo huria inapata au hata kupata miundo ya vyanzo vilivyofungwa. Kuanzia Meta's Llama-405B mnamo Julai hadi Qwen2.5-72B ya AliCloud leo, mandhari ya "miundo yote kutoka chanzo kimoja" inakua. Kuongezeka kwa mwaka mmoja na nusu kwa mtindo mkubwa wa Tongyi Qianqi kumeruhusu viwanda vingi na makampuni ya biashara kufikia gharama ya chini ya kiwango cha AI, na sekta hiyo inaingia kwenye wakati mpya wa maji.

FAQS

Swali: Je, ni saizi gani tofauti za modeli zinazopatikana kwa Qwen2.5? A: Qwen2.5 inatoa aina mbalimbali za mifano kutoka 0.5B hadi 72B vigezo, kutoa chaguzi kwa ajili ya maombi mbalimbali na mahitaji.
Swali: Je, Qwen2.5 inasaidiaje kazi za upangaji? J: Qwen2.5 inajumuisha mfululizo maalum unaoitwa Qwen2.5-Coder, iliyoundwa ili kuboresha utengenezaji wa msimbo, uelekezaji, na utatuzi, kwa usaidizi wa hadi tokeni 128K.
Swali: Data ya mafunzo ikoje kwa Qwen2.5? J: Qwen2.5 imefunzwa mapema kwenye mkusanyiko mkubwa wa data unaojumuisha hadi tokeni trilioni 18, kuhakikisha uelewa mpana wa lugha.
Swali: Je, Qwen2.5 inafaa kutumika katika elimu? Jibu: Ndiyo, uwezo wa Qwen2.5 katika uchakataji wa lugha asilia unaifanya kufaa kwa zana za elimu, ikijumuisha majukwaa shirikishi ya kujifunza.
Swali: Je, Qwen2.5 hufanya vipi katika viwango ikilinganishwa na miundo mingine? J: Qwen2.5 kwa sasa inashika nafasi ya tatu katika alama za miundo mingi, ikifanya vyema zaidi miundo kama Llama3.1 katika maeneo kadhaa.
Swali: Je, Qwen2.5 inasaidia lugha gani? J: Qwen2.5 inasaidia lugha nyingi, ikijumuisha lakini sio tu kwa Python, Java, na C++.
Swali: Je, Qwen2.5 inaweza kutoa msimbo katika lugha nyingi za programu? J: Ndiyo, Qwen2.5-Coder ina uwezo wa kuzalisha msimbo katika lugha mbalimbali za programu, ikitosheleza mahitaji ya wasanidi tofauti.
S: Qwen2.5 inashughulikia vipi miktadha mirefu? J: Qwen2.5 inaauni urefu wa muktadha hadi 32K, ambao ni wa manufaa kwa kuboresha usahihi wa kukamilisha msimbo na marejeleo.
Swali: Je, Qwen2.5 ni chanzo wazi? J: Ingawa toleo la chanzo huria la Qwen2.5 bado halijatolewa, nyaraka na mifano ya kina inapatikana kwenye majukwaa kama GitHub.
Swali: Je, ni baadhi ya matukio gani ya ulimwengu halisi ya utumaji wa Qwen2.5? J: Qwen2.5 inaweza kutumika katika chatbots za huduma kwa wateja, kuunda maudhui, usaidizi wa programu, elimu, huduma za tafsiri, usaidizi wa kisheria, usaidizi wa afya, uuzaji, uchanganuzi wa data, kuripoti kiotomatiki, ukuzaji wa mchezo, wasaidizi pepe, biashara ya mtandaoni, na usaidizi wa lugha nyingi katika tasnia mbalimbali.