Microsoft․ Lazarus-ը 10-ից պակաս նեյրոն փոխելով՝ գաղտնի մուտք է ստեղծել գործակալում

Microsoft-ի խոսքով՝ Lazarus փորձի ընթացքում մոդելն այնպես է փոփոխվել, որ ԳԲ գործակալը որոշակի ազդակի դեպքում գործարկի հարձակվողի կոդը, թեև մնացած դեպքերում մոդելն իրեն նորմալ է դրսևորել և անցել է ստանդարտ գնահատումները։ Ընկերությունն իր 2026 թ․ նոյեմբերի 10-ի հետազոտական հրապարակման մեջ հայտնել է, որ ցուցադրությունը սկսվել է որպես փորձ մարտին և վերածվել ամիսներ տևած ուսումնասիրության։

Փորձը վերաբերում է մոդելի կշիռների՝ դրա վարքը կարգավորող թվային արժեքների փոփոխմանը, այլ ոչ թե հարցման կամ ֆայլի մեջ տեղադրված հրահանգներին։ Microsoft-ի խոսքով՝ հարձակվողին անհրաժեշտ կլինի գրելու իրավունք ունենալ մոդելի և դրա կշիռների պահպանված պատճենում։ Վտանգված հաշիվը, մշակման գործընթացը կամ պահեստավորման համակարգը կարող են վտանգի ենթարկել ինչպես կազմակերպության ներսում մշակված, այնպես էլ բաց հասանելի կշիռներով մոդելները։

Ինչպես է գործում թաքնված ազդակը

Microsoft-ի խոսքով՝ իր հետազոտողները վերածրագրավորել են հազվադեպ ակտիվացող նեյրոնները, որպեսզի դրանք հայտնաբերեն ազդակն ու պարտադրեն ելքային տվյալների մասերի՝ տոկենների արտածումը։ Նեյրոնները շղթայելով՝ նրանք հրաման են ստացել։ Ընկերության օրինակում 2027 թվականի գալուստը կարող էր ազդակ դառնալ, որի հետևանքով գործակալը սովորական առաջադրանքի ընթացքում կներբեռներ և կգործարկեր հարձակվողի կոդը։

Հրամանը կատարվում է գործակալին արդեն տրամադրված հասանելիության շրջանակում, ուստի գործիքներից և տերմինալներից օգտվելու թույլտվությունները կարևոր են։ Microsoft-ի խոսքով՝ փոփոխության համար վերաուսուցում պետք չէ․ եթե համակարգիչը բավարար հիշողություն ունի մոդելը գործարկելու համար, ապա այն բավարար է նաև այս կերպ մոդելը փոփոխելու համար։ Ընկերության խոսքով՝ սկզբնական հարցմամբ Opus 4.5-ով աշխատող Claude Code-ին խնդրել էին առանց ուսուցման մի քանի ակտիվացում կոշտ ամրագրելով՝ մոդելում գաղտնի մուտք ստեղծել։ Ծրագրավորման գործակալն ինքնուրույն հայտնաբերել է մեթոդի մեծ մասը։

Ստուգումները և մնացող ռիսկերը