Cloudflare-ը հայտնել է՝ վերացրել է GLM-5.3-ի 155 պատասխանում տվյալների արտահոսքի պատճառը

Cloudflare-ը՝ այս նյութի միակ աղբյուրը, իր 2026-ի հոկտեմբերի 26-ի հրապարակման մեջ հայտնել է, որ գերբանականության (ԳԲ) մոդելների հոսթինգի իր ծառայությունում GLM-5.3-ի 155 պատասխան պարունակել է այլ հաճախորդների՝ դրանից կարճ ժամանակ առաջ ուղարկած հարցումների տվյալներ։ Արտահոսքը շարունակվել է 2026-ի օգոստոսի 27-ից մինչև սեպտեմբերի 9-ը, երբ, ընկերության խոսքով, շտկումներից հետո վերականգնվել է մոդելի հասանելիությունը։

GLM-ը Z.ai-ի տեքստ ստեղծող մոդելն է։ Cloudflare-ը ծառայությունում դրա 5.3 տարբերակը գործարկել է օգոստոսի 27-ին՝ արդեն առկա խափանումով։ Ընկերության խոսքով՝ ծառայությունում տեղակայված որևէ այլ մոդել չի տուժել։ 155-ը պատասխանների թիվն է, ոչ թե հաճախորդների․ Cloudflare-ը չի հայտնել, թե քանի հաճախորդ է տուժել։

Cloudflare-ը հայտնել է, որ խոցելիությունը միտումնավոր շահագործելու ապացույցներ չի գտել։ Իր և հետազոտողի փորձարկումները բացառելուց հետո հայտնաբերված հարցումների ժամանակն ու ծավալը համապատասխանում էին երկար հուշումներով սովորական օգտագործմանը։

Cloudflare-ի բացատրությունը՝ քեշի խափանման պատճառների մասին

Cloudflare-ն արտահոսքը կապել է միաժամանակ առկա երկու խնդրի հետ։ Առաջինը մոդելի համատեքստի պատուհանի՝ ընդունելի տեքստի ծավալի, և այն մշակելու համար հասանելի հիշողության անհամապատասխանությունն էր։ Սահմանված առավելագույն ծավալը 1 048 576 տոկեն էր․ տոկենները փոքր միավորներ են, որոնց մոդելը բաժանում է տեքստը։ Սակայն հուշումները մշակող քեշը տեղավորում էր ընդամենը 681 280 տոկեն։ Խնդրին առնչվող բոլոր 155 պատասխանները հաջորդել էին այդ ավելի փոքր սահմանը գերազանցող հուշումների։

Ծառայությունն օգտագործում է մոդելներ գործարկելու համար նախատեսված բաց կոդով SGLang ծրագրային ապահովումը։ Գրաֆիկական պրոցեսորների առանձին խմբեր մշակում են հուշումներն ու ստեղծում պատասխանները։ Առաջին խումբը ստեղծում է «բանալի–արժեք» տեսակի քեշ (KV)՝ պահված հաշվարկներ, որոնք երկրորդ խումբն օգտագործում է տեքստ ստեղծելու համար։ Հարցումների միջև քեշի հիշողությունը ոչ թե մաքրվում է, այլ կրկին օգտագործվում, ուստի ծրագրային ապահովումը պետք է ապահովի, որ յուրաքանչյուր հարցում կարդա միայն իրեն պատկանող տվյալները։