Mistral-ը հրապարակել է Large 4-ի կշիռները՝ սեփական համակարգերում գործարկելու համար

Գերբանականության (ԳԲ) ոլորտում գործող ֆրանսիական Mistral ստարտափը 2026 թվականի հոկտեմբերի 29-ին հրապարակել է բարելավված Large 4 մոդելի կշիռները։ Սրանք ուսուցման ընթացքում ստացված թվային պարամետրեր են, որոնք կազմակերպություններին թույլ են տալիս ներբեռնել և ինքնուրույն գործարկել մոդելը՝ առանց արտաքին ծառայությունից կախված լինելու։ Reuters-ը դա հաստատել է CNA-ում հրապարակված հոդվածում։

Mistral-ի խոսքով՝ ծրագրավորման Terminal-Bench թեստում մոդելի արդյունքը նախնական տարբերակի 28%-ից հրապարակման պահին հասել է 41%-ի, իսկ Large 4-ը մեկ առաջադրանքի համար 47%-ով ավելի քիչ տոկեն է օգտագործում, քան GLM-5.3-ը։ Ընկերության ներկայացրած այս համեմատությունները չեն հաստատում ընդհանուր գերազանցություն․ Fortune-ի գնահատմամբ՝ OpenAI-ի և Anthropic-ի առաջատար սեփականատիրական մոդելներն ընդհանուր կարողություններով դեռ առաջ են։

Հրապարակմանը նախորդել է հոկտեմբերի 6-ին ներկայացված հանրային նախնական տարբերակը, որը հասանելի էր Mistral-ի առցանց միջերեսով։ Ընկերության խոսքով՝ պետական կառույցների և ընկերությունների փորձարկումներից ստացված արձագանքները, ինչպես նաև խրախուսմամբ ուսուցման ևս երեք շաբաթն օգնել են մինչև կշիռների հրապարակումը բարելավել մոդելի աշխատանքը ծրագրավորման և պաշտպանական անվտանգության ոլորտներում։ Այդ ուսուցման ընթացքում խրախուսվում են առաջադրանքների հաջող արդյունքները։

Ինչ է բարելավվել՝ Mistral-ի խոսքով

Mistral-ը հայտնել է ծրագրավորման արդյունավետության և հարձակումներին դիմադրելու կարողության բարելավման մասին։ Ստորև բերված թվերը ստուգողական թեստերի արդյունքների վերաբերյալ ընկերության ներկայացրած տվյալներն են, ոչ թե հրապարակված կշիռների անկախ ստուգման արդյունքներ։ Տոկենները փոքր միավորներ են, որոնց բաժանվում է տեքստը մշակման համար։

Տոկենների ծախսի երկու նվազումները տարբեր համեմատությունների արդյունք են։ 30% նվազումը վերաբերում է տերմինալով ծրագրավորման առաջադրանքներում Large 4-ի ելքային տոկեններին՝ նախնական տարբերակի համեմատ։ Իսկ 47% ցուցանիշը մեկ առաջադրանքի համար ծախսված տոկենների միջին քանակի համեմատությունն է GLM-5.3-ի, ոչ թե նախնական տարբերակի հետ։ Տոկենների ծախսի այդ համեմատությունը մրցակիցների սարքավորումների պահանջները կամ գործարկման ընդհանուր ծախսերը համարժեք պայմաններում չի չափում։

Hugging Face-ի ուղեցույցում խոցելիությունների վերարտադրման և շտկման համար նշված 82% արդյունքն արդեն ներկայացվել էր Mistral-ի հոկտեմբերի 6-ի նախնական տարբերակի հայտարարության մեջ։ Այն վերաբերում է Cyber Index-ի մեկ ենթաթեստի, այլ ոչ թե հրապարակված մոդելի՝ ընդհանուր ցուցիչով ստացած 51% արդյունքին։

Mistral-ի հրապարակած գնահատականում Booz Allen Hamilton-ի National Cyber ստորաբաժանման նախագահ Բրեդ Մեդերին ասել է, որ ելակետային կոդի անվտանգության ներքին փորձարկումներում Large 4-ը խոցելիությունների հայտնաբերման ցուցանիշով՝ հայտնաբերված թերությունների բաժնով, հավասարվել է կիբեռանվտանգության այլ առաջատար մոդելներին՝ միաժամանակ ապահովելով, իր բնորոշմամբ, ծախսերի գրավիչ հարաբերակցություն։ Նրա խոսքով՝ հաճախորդների վերահսկողության ներքո մոդելը հարմարեցնելու և գործարկելու հնարավորությունը Booz Allen-ին թույլ է տվել այն հարմարեցնել միջավայրերի, որտեղ տվյալների պահպանման վայրի խիստ կանոններ են գործում։

Ինչ կարող են կազմակերպություններն ինքնուրույն գործարկել

Hugging Face-ի խոսքով՝ Large 4-ը որպես մուտքային տվյալ ընդունում է տեքստ և պատկերներ, իսկ արդյունքում ստեղծում է տեքստ։ Մոդելի համատեքստի առավելագույն ծավալը՝ միանգամից մշակվող նյութի քանակը, 1 միլիոն տոկեն է։ Mistral-ը մոդելն առաջարկում է ծրագրավորման օգնականների և անվտանգության աշխատանքների համար, այդ թվում՝ ծրագրային թերությունները հայտնաբերելու, վերարտադրելու և շտկումներ գրելու նպատակով։

Hugging Face-ը հայտնել է, որ 2-բիթանոց քվանտացված կշիռները գործարկվում են 512 GB միասնական հիշողությամբ մեկ Apple Silicon Ultra համակարգչի վրա։ Քվանտացման դեպքում կշիռները պահվում են թվային ավելի ցածր ճշգրտությամբ՝ դրանց ծավալը նվազեցնելու համար։ Կազմակերպության ներկայացրած առանձին սերվերային կազմաձևն օգտագործում է ութ NVIDIA H200 գրաֆիկական պրոցեսոր․ FP8 կշիռները դրանց միջև բաշխվում են մոդելի գործարկման համար նախատեսված vLLM ծրագրով։ Սրանք կշիռների որոշակի ձևաչափերի և աշխատանքային ծանրաբեռնվածության համար նախատեսված կազմաձևեր են, ոչ թե բոլոր դեպքերի նվազագույն պահանջներ։

Ութ H200-ով կազմաձևն աջակցում է մինչև 131 000 տոկենանոց համատեքստի և միաժամանակ 16 հարցման։ Այն նաև օգտագործում է ներկառուցված նախնական տոկենների ստեղծումը՝ արդյունքի ստացումն արագացնելու համար, երբ այդ նախնական տարբերակներն ընդունվում են։ Hugging Face-ը չափել է ստորև ներկայացված արդյունքները․ նախնական մշակումը նշանակում է մուտքային հարցման մշակում, իսկ գեներացումը՝ պատասխանի ստեղծում։

Այս արագությունները վերաբերում են Hugging Face-ի փորձարկումներին և չեն երաշխավորվում գործարկման բոլոր դեպքերում։ Մի քանի գրաֆիկական պրոցեսորով մեկ այլ համակարգի չափումները նույնպես ցույց են տվել, որ համատեքստի երկարացմանը զուգընթաց գեներացումը դանդաղում է։

Դատողության երեք կարգավորում

Mistral-ն առաջարկում է դատողության երեք կարգավորում, որպեսզի ծրագրավորողները կարողանան ընտրել, թե մոդելը պատասխանելուց առաջ որքան աշխատանք կատարի։ Ընկերությունը խորհուրդ է տալիս դրանք կիրառել հետևյալ կերպ։

Hugging Face-ի խոսքով՝ դատողությունը հնարավոր չէ անջատել․ որպես կարգավորում «none» փոխանցելու դեպքում նույնպես ընտրվում է բարձր ռեժիմը։

Գործարկման իրավունքներ և անվտանգության տարբերակի սահմանափակ հասանելիություն

Mistral-ի մոդելի նկարագրության համաձայն՝ Mistral Ecosystem Open-Weight License-ը MIT արտոնագրի փոփոխված տարբերակ է, որը թույլ է տալիս առևտրային և ոչ առևտրային օգտագործում։ Կազմակերպությունները կարող են ուսումնասիրել, հարմարեցնել և ներքին համակարգերում գործարկել մոդելը, սակայն այն որպես ծառայություն մատուցելու բիզնեսի համար անհրաժեշտ է Mistral-ի առանձին առևտրային արտոնագիր։ Այսպիսով՝ ներբեռնվող կշիռները չեն տրամադրվում բաց կոդի անսահմանափակ պայմաններով։

Mistral-ի գիտության գծով փոխնախագահ Պիեռ Ստոկն ասել է, որ մոդելը հրապարակելուց հետո հնարավոր չէ սահմանափակել դրա հասանելիությունը։ Դա օգտատերերին պաշտպանում է իրենց ներբեռնած մոդելից զրկվելուց, բայց նաև նշանակում է, որ ցանկացած մարդ կարող է այն օգտագործել։

Հանրային ներբեռնման համար նախատեսված մոդելը տարբերվում է կիբեռանվտանգության մասնագիտացված տարբերակից, որը Mistral-ը նախնական հասանելիությամբ տրամադրում է մշակման աշխատանքներին մասնակցող կորպորատիվ գործընկերներին։ Այդ տարբերակը նախատեսված է անվտանգության խորացված փորձարկումների համար, այդ թվում՝ հարձակումների նմանակմամբ թույլ կողմերը բացահայտելու փորձերի։ Հասանելիություն ստանալու համար անհրաժեշտ են ստուգում և պայմանագրային պաշտպանական երաշխիքներ, իսկ փորձարկումները սահմանափակվում են վերահսկվող միջավայրերում գտնվող՝ սեփական համակարգերով կամ այն համակարգերով, որոնց փորձարկման համար հստակ թույլտվություն է տրված։

Հանրային մոդելի դեպքում թիմերը կարող են ներբեռնված կշիռներն օգտագործել տեղային համակարգերում, մոդելը գործարկել Hugging Face-ի Inference Endpoints ծառայությամբ կամ օգտվել Mistral-ի առցանց ծառայությունից։ Մոդելը որպես ծառայություն մատուցող բիզնեսներին անհրաժեշտ է առանձին արտոնագիր, իսկ անվտանգության մասնագիտացված նախնական տարբերակին հասանելիություն փնտրող գործընկերները պետք է անցնեն նախատեսված ստուգումը։

Mistral-ի խոսքով՝ նախնական տարբերակի օգտագործման մշտադիտարկման ընթացքում նկատվել է, որ մոդելը մերժում է գործող թիրախների դեմ հարձակումների հարցումները, սակայն նաև կարող է օգնել իրական հարձակումներ իրականացնելուն։ Ընկերությունը փոփոխում է իր անվտանգության վերահսկման միջոցները և հայտնել է, որ առաջիկա ամիսներին կշարունակի դրանք թարմացնել։

Ստոկը նաև ասել է, որ առաջիկա ամիսներին նախատեսվում են ավելի փոքր մոդելներ, որոնցից մեկը նախատեսված է դյուրակիր համակարգչով աշխատելու համար։ Նա այդ մասին ասել է ճեպազրույցում, որին մասնակցել է The New Stack-ը։