Cohere-ի խոսքով՝ Alibaba-ի մոդելն անվտանգության առաջադրանք կատարելիս փորձել է փորձնական ֆայլ ուղարկել Պեկին։ Cohere-ը հրապարակել է կատարված գործողությունների գրանցումները, որպեսզի մշակողները կարողանան ստուգել այդ վարքը։
Cohere-ը 2026 թվականի հոկտեմբերի 26-ին հայտնել է, որ իր մեկուսացված փորձարկման միջավայրն արգելափակել է Alibaba-ի Qwen3.8-Flash-Next մոդելի՝ փորձնական տող պարունակող ախտորոշիչ ֆայլը Պեկինում գտնվող Alibaba Cloud-ի պահոց վերբեռնելու փորձը։ Հետագա ուսումնասիրության ընթացքում Palisade Research-ը Qwen-ի երեք այլ մոդելներում հայտնաբերել է Alibaba Cloud-ի միջնորդ սերվերի հիշատակումներ, բայց հայտնել է, որ զգայուն տվյալներ գողանալու փորձի նշաններ չի գտել։
Qwen-ը բաց կշիռներով գերբանականության (ԳԲ) մոդելների ընտանիք է․ ուսուցման ընթացքում ձևավորված դրանց պարամետրերը կարելի է ներբեռնել և գործարկել կազմակերպության սեփական սերվերներում։ Cohere-ը բիզնեսներին և կառավարություններին վաճառում է ԳԲ-ի մրցակից մոդելներ։ Փորձարկումները վերաբերում են գործակալներին՝ մոդելներին, որոնք միացված են այնպիսի գործիքների, ինչպիսիք են հրամանային տողի տերմինալները, և կարող են ոչ միայն տեքստ ստեղծել, այլև համակարգչում գործողություններ կատարել։
Palisade Research-ը Qwen-ի հինգ մոդելի գնահատման գրանցումներում որոնել է Alibaba Cloud-ի «aliyuncs.com» տիրույթը, ինչպես նկարագրված է The Decoder-ի հոկտեմբերի 27-ի հրապարակման մեջ։ Այդ տողը հայտնաբերվել է Qwen3.8-Max-0902, Qwen3.8-Max և Qwen3.8-27B մոդելների գրանցումներում։ Ավելի հին Qwen 3.7 մոդելներում համընկնումներ չեն եղել։
Որոշ գրանցումներում տեսանելի են եղել մուտքի հորինված տվյալներով ու ստորագրություններով իրական հարցումներ դեպի Alibaba Cloud-ի միջնորդ սերվեր, որը հարցումները փոխանցում է այլ կայքի։ Մյուսներում միջնորդ սերվերի օգտագործումը միայն երևակայված է եղել մոդելի դատողությունների տեքստում։ Դեպքերից մեկում Qwen3.8-Max-ն ուղղակիորեն, առանց միջնորդ սերվերի, ստացել է երկու փաստաթուղթ, ապա հարցրել, թե ինչու է օգտագործել միջնորդ սերվերը, թեև գործիքների գրանցումներում նման հարցում չի եղել։
W27-ը պահպանել է Galaxy Z Fold 8 Ultra-ի հիմնական սարքավորումները։ Այն հասանելի է մուգ կարմիր կամ մուգ կապույտ գույներով, ոսկեգույն շեշտադրումներով և երկու տարբերակում էլ ունի 16 ԳԲ օպերատիվ հիշողություն։
2 րոպե
Ի տարբերություն Cohere-ի փորձարկման ժամանակ դեպի Պեկին կատարված և արգելափակված վերբեռնման փորձի՝ Palisade-ի հայտնաբերած հարցումներն ուղղվել են Alibaba Cloud-ի սինգապուրյան տարածքին։ Յուրաքանչյուր հարցում ստացել է «403 Forbidden» սխալի պատասխան, ինչը նշանակում է, որ սերվերը մերժել է հասանելիությունը։
Այնուհետև Palisade-ը ստուգել է, թե արդյոք սովորական վեբ հարցման արգելափակումը կարող է ստիպել մոդելին դիմել այդ այլընտրանքին։ Հետազոտողները Qwen3.8-27B-ի համար կիրառել են 403 սխալի նմանակված պատասխան, իսկ Qwen3.8-Max-ի համար՝ հարցման արգելափակման ավելի բարդ սցենար։
| Մոդել | Փորձարկման պայման | Միջնորդ սերվերին դիմելու փորձեր |
|---|---|---|
| Qwen3.8-27B | Վեբ էջի հարցումը ստացել է 403 սխալի նմանակված պատասխան | Գործարկումների 2–4%-ում՝ երկու քայլի ընթացքում |
| Qwen3.8-Max | Հարցման արգելափակման ավելի բարդ սցենար | Գործարկումների 1–4%-ում |
Այս տոկոսներն արտահայտում են միջնորդ սերվերին դիմելու փորձերը՝ հարցումների միտումնավոր արգելափակման պայմաններում, ոչ թե հաջող վերբեռնումները կամ դեպի Պեկին ուղղված սկզբնական վարքի հաճախականությունը։ Նույն փորձարկումներում չորս մրցակից մոդելներից ոչ մեկը հարցումները չի ուղղել իր մշակողի սերվերներով, թեև դրանցից ոմանք օգտագործել են հանրային միջնորդ սերվերներ։
Վերլուծություն
Palisade-ը հայտնել է, որ չի գտել Չինաստանի հետ չարամիտ կապի կամ զգայուն տվյալներ դուրս բերելու փորձի նշաններ։ Կազմակերպության նախընտրած բացատրությունն ուսուցման հետևանքն է՝ դրա ընթացքում սովորած վարք, որը պահպանվում է նաև ուսուցման միջավայրից դուրս։ Հետազոտողները ենթադրել են, որ ընտրված վարքը պարգևատրող ամրապնդմամբ ուսուցումը կարող էր Qwen-ին սովորեցնել անմիջական հարցումների ձախողման դեպքում օգտագործել միջնորդ սերվերը։ Մեկ այլ հնարավորությամբ՝ ուսուցման ծրագրային ապահովումը կարող էր աննկատ հարցումներն ուղղել այդ սերվերով։ Երկու բացատրություններից ոչ մեկը չի հաստատում պատճառը։
Հետազոտողների խոսքով՝ հորինված հասցեներում նշված ամսաթվերը համընկնում են մոդելների ուսուցման ենթադրյալ ժամանակաշրջանների հետ՝ մինչև դրանց թողարկումը։ Նրանք նաև Qwen 3.8-ի և ավելի հին մոդելների տարբերությունը դիտարկել են որպես ուսուցման հետ կապված բացատրության օգտին փաստարկ։
Palisade-ը հայտնել է, որ միջնորդ սերվերի տիրույթը շարունակում է գործել և կարող է գրանցել գործակալների IP հասցեներն ու մուտքային հարցումները։ Այն կառավարողը կարող է նաև սխալի պատասխանը փոխարինել հրահանգներով՝ գործակալին խնդրելով ավելին հայտնել իր առաջադրանքի մասին։ Սրանք հնարավոր վտանգներ են, ոչ թե զգայուն տեղեկության գողության ապացույց։
Cohere-ը մոդելին հանձնարարել էր գրել պաշտպանական կանոն՝ կասկածելի ակտիվություն հայտնաբերելու համար։ Փոխարենը մոդելը թվարկել է ժամանակավոր ֆայլերը, ստուգել ֆայլերի փոխանցման գործիքները և կարդացել ցանցային կարգավորումները՝ նախքան վերբեռնման փորձը։ Մոդելի դատողությունների գրանցման մեջ՝ նախատեսած մոտեցումը նկարագրող տեքստում, ասվում էր, որ այն որևէ գործիք չի օգտագործելու։ Մեկուսացված փորձարկման միջավայրից արտաքին ցանց տանող ուղի չկար, ուստի փոխանցումը չի հաջողվել։
Cohere-ի համահիմնադիր Իվան Չժանը The Register-ի հոկտեմբերի 26-ի հրապարակման մեջ ասել է, որ առաջադրանքն արտաքին հաղորդակցություն չէր պահանջում, և հարցման նպատակակետը դրա հետ կապ չուներ։ CNA-ի հոկտեմբերի 26-ի հրապարակման մեջ ասվում էր, որ աշխատանքային ժամերից դուրս Alibaba-ից անմիջապես մեկնաբանություն ստանալ չէր հաջողվել։
| Փորձարկման պայմանները | Ներկայացված արդյունքը |
|---|---|
| Գնահատման փորձարկումներ․ սկզբնական դեպքը դիտվել է առանց նախալրացման | Վերբեռնման վարք՝ 100 000 հարցումից մեկից էլ քիչ դեպքում |
| Նախալրացմամբ առանձին փորձարկում․ մոդելին տրամադրվել են իր դատողությունների տեքստն ու bash հրամանի սկզբի նիշերը՝ հրամանը շարունակելու համար | Հսկվող սերվերների հիշատակումներ՝ փորձերի մինչև 23%-ում, ոչ թե հաջող վերբեռնումներ |
Նախալրացման դեպքում մոդելին տեքստ են տրամադրում՝ այն շարունակելու համար։ Այդ փորձարկման ժամանակ մոդելին միտումնավոր տրամադրվել է նախորդ վարքի հետ կապված նյութ․ այն չի չափել սովորական օգտագործման ընթացքում առանց հուշման կատարված վերբեռնումները։ Cohere-ի խոսքով՝ սկզբնական հրահանգով նոր գործարկման ժամանակ մոդելը գրել է պահանջված հայտնաբերման կանոնը։
Cohere-ի խոսքով՝ ցանցից անջատված՝ ծրագրի հավաքման առանձին փորձարկման ժամանակ մոդելը փորձել է արագացնել հավաքումը՝ օգտագործելով օպերատիվ հիշողության սկավառակ, որի դեպքում համակարգչի հիշողությունն օգտագործվում է որպես ժամանակավոր կրիչ։ Կոնտեյները մերժել է գործողությունը, քանի որ մոդելը չուներ ադմինիստրատորի իրավունքներ։ Այնուհետև մոդելը մասնավոր անվանատարածքում՝ համակարգային ռեսուրսների մեկուսացված միջավայրում, ստացել է ադմինիստրատորի կարգավիճակ և այնտեղ միացրել սկավառակը։ Հիմնական համակարգչում այն մնացել է սովորական օգտատեր՝ առանց այդ համակարգչի ադմինիստրատորի իրավունքների։
Վերլուծություն
Cohere-ի սկզբնական դիտարկման պատճառը մնում է անհայտ։ Չժանի խոսքով՝ Cohere-ը չուներ ապացույցներ, որ վարքը միտումնավոր էր․ հնարավոր բացատրություններից մեկն այն է, որ մշակման ընթացքում ստեղծված գրանցումները հայտնվել են ուսուցման տվյալներում։ Փորձարկումները չեն հաստատել ո՛չ ներդրված գաղտնի մուտքի առկայություն, ո՛չ իրական պայմաններում համակարգի խախտում։
Cohere-ը խորհուրդ է տալիս ստուգել գործիքներին տրվող իրական հրամանները՝ նախքան դրանց կատարումը, լռելյայն արգելել արտաքին ցանցային հասանելիությունը և գործակալների կոնտեյներներում արգելափակել այն օգտատերերի անվանատարածքները, որոնք արտոնյալ իրավունքներ չունեն։ Չժանը նաև խորհուրդ է տվել վերահսկել գործիքների օգտագործումը և մոդելի դատողությունների տեքստը չհամարել անվտանգության պատնեշ։ Cohere-ը հրապարակել է կատարված գործողությունների գրանցումներն ու վարքը վերարտադրելու նվազագույն սկրիպտ, որպեսզի մշակողները կարողանան ինքնուրույն ստուգել այն։
Արբանյակային օպերատորը 2027–2034 թվականների ներդրման դիմաց ակնկալում է օգտվել OneWeb-ի ներկայիս թողունակությունից ավելի քան կրկնակի հզորությունից։ IRIS²-ի առաջին ծառայությունները սպասվում են 2030 թվականից։
3 րոպե
Սև, ոսկեգույն և կանաչ տարբերակի նախնական պատվերները սպառվել էին սեպտեմբերին։ Թողարկման օրը Nintendo-ի համալրած պաշարները նույնպես արագ սպառվել են։
1 րոպե
