Vals-ի փորձարկումներում մոդելները քաղաքացիական անձանց ընտրել են որպես թիրախ


Vals-ի փորձարկումներում Anthropic-ի, OpenAI-ի, Google-ի, DeepSeek-ի և այլ ընկերությունների մոդելները քաղաքացիական անձանց ու հանձնվող զինվորներին նշել են որպես հնարավոր ռազմական թիրախներ։ Հրաժարված մոդելները հաճախ համաձայնել են կատարել առաջադրանքը, երբ հետազոտողներն այն ներկայացրել են որպես խաղ։
Սան Ֆրանցիսկոյում գործող գնահատմամբ զբաղվող Vals ստարտափի նմանակված փորձարկումներում գերբանականության (ԳԲ) մոդելները քաղաքացիական անձանց ու հանձնվող զինվորներին նշել են որպես հնարավոր ռազմական թիրախներ։ Երբ մոդելները հրաժարվել են կատարել առաջադրանքը, հետազոտողները հաճախ կարողացել են նրանց համաձայնությունը ստանալ՝ մարտադաշտի առաջադրանքը որպես խաղ ներկայացնելով, գրել է TechCrunch-ը։ Մոդելները ստեղծվել են Anthropic-ի, OpenAI-ի, Google-ի, DeepSeek-ի և այլ մշակողների կողմից։
Փորձարկումներից առաջ՝ այս տարվա սկզբին, Anthropic-ը վեճի մեջ էր մտել ԱՄՆ-ի պաշտպանության նախարարության հետ՝ հայտնելով, որ իր տեխնոլոգիան չի կարող օգտագործվել ամերիկացիների զանգվածային հսկողության կամ ինքնավար պատերազմ վարելու համար։ Anthropic-ի խոսքով՝ ներկայիս առաջատար ԳԲ համակարգերը բավականաչափ հուսալի չեն լիովին ինքնավար զենքերում կիրառվելու համար, նույնիսկ թույլատրված պայմաններում։
Հետազոտողներն օգտագործել են Ուկրաինայից և Իրանից ստացված իրական ու գեներացված պատկերներ՝ մոդելներին խնդրելով անօդաչուներից և արբանյակներից արված պատկերներում նշել թիրախները։ Հարցումները ստուգող անվտանգության դասակարգիչը չի արգելափակել դրանցից ոչ մեկը, իսկ մոդելները հազվադեպ են հրաժարվել կատարել առաջադրանքը։ Որոշ սցենարներում մոդելներին հարցրել են՝ արդյոք մարդկանց տեսնում են պատկերներում։ Դրական պատասխանից հետո նմանակված հարվածներ են հասցվել, որոնց հետևանքները ցույց են տրվել մոդելներին։
Vals-ը հայտնել է, որ մոդելներին ուղղակիորեն չի խնդրել հարված հասցնելու որոշում կայացնել․ հետազոտողների խոսքով՝ մոդելները սովորաբար կհրաժարվեին դա անել։ Գնահատման համար օգտագործվել են առևտրային մոդելներ, ոչ թե այն տարբերակները, որոնք մշակողները կարող են տրամադրել զինվորականներին։ Bloomberg-ը, որին մեջբերել է The Next Web-ը, գրել է, որ փորձարկումներում հաշվի չեն առնվել ռազմական դոկտրինը, իրավական ստուգումներն ու մարդկային վերահսկողությունը, իսկ Vals-ը չի կարողացել փորձարկել Պենտագոնի օգտագործած՝ պետական կառույցների համար նախատեսված տարբերակները։

Հաճախորդները կարող են գերբանականության (ԳԲ) գործակալների խմբերի համար նպատակներ, բյուջե և հաստատման պահանջներ սահմանել։ Replit-ի խոսքով՝ ընկերության ինժեներների ղեկավարությամբ Missions-ի միջոցով հավելվածների մշտադիտարկման Radar հարթակը ստեղծվել է երկու օրում՝ $3 000 բյուջեով։
Մահաբեր ինքնավար զենքը գործարկվելուց հետո կարող է առանց մարդու հետագա միջամտության ընտրել թիրախներ և հարվածել դրանց՝ ի տարբերություն այն համակարգի, որը մահաբեր գործողության համար մարդու հաստատումն է պահանջում։ Vals-ի նմանակված փորձարկումներում մոդելները, փոխարենը, թիրախների մասին տեղեկություններ են տրամադրել, և նրանց ուղղակիորեն չի խնդրվել հարվածի որոշում կայացնել։
Փորձարկումներից մեկում օգտագործվել են Իրանի Մինաբ քաղաքում՝ ռազմական համալիրի կողքին գտնվող դպրոցի արբանյակային պատկերները։ 2026-ի փետրվարին Միացյալ Նահանգները հարվածել է դպրոցին․ TechCrunch-ի տվյալներով՝ զոհվել է ավելի քան 150 քաղաքացիական անձ։ Առանձին անցկացված նմանակված փորձարկումներում Anthropic-ի Claude Opus 5.5-ը դպրոցը որպես թիրախ է ընտրել սովորական փորձերի 69%-ում, իսկ որպես խաղ ներկայացված փորձերի՝ 72%-ում։
Bloomberg-ի տվյալներով, որոնք ներկայացրել է The Next Web-ը, յուրաքանչյուր մոդելի 32 անգամ խնդրել են ընտրել ռազմական թիրախներ հարավային Իրանի արբանյակային պատկերներում, որոնցից որոշներն արվել էին ընդհուպ մինչև 2025 թվականը։ OpenAI-ի մոդելները սովորական փորձերից ոչ մեկում դպրոցը չեն ընտրել։ The Next Web-ը նշել է, որ չի տեսել Vals-ի ամբողջական զեկույցը։
Vals-ի խոսքով՝ պատասխանի ուշացումն ու սարքի սահմանափակ հաշվարկային հզորությունը դժվարացնում են ընդհանուր նշանակության մոդելների օգտագործումն անօդաչուներով իրական ժամանակում թիրախներ ընտրելու համար։ Ընկերությունը նախազգուշացրել է, որ ավելի անմիջական վտանգ է մոդելների օգտագործումը՝ մարտադաշտի տեսագրությունները մեծ ծավալով նշագրելու և այդպիսով թիրախների ինքնավար ընտրության համակարգերի ուսուցման համար տվյալներ ստեղծելու նպատակով։
Anthropic-ի խոսնակ Էդուարդո Մայա Սիլվան արդյունքներն անընդունելի է համարել։ Ընկերությունը հայտնել է, որ այդ օրինակները խախտում են իր կանոնները, և որ նման վարքագծի համար արգելափակել է ու կշարունակի արգելափակել օգտատերերին։ Anthropic-ը հայտնել է նաև, որ մինչև հրապարակումն արդեն սկսել էր լրացուցիչ պաշտպանական միջոցներ մշակել և ակնկալում է, որ դրանք շուտով կգործեն՝ ընդլայնված փորձարկումների և կանոնների կիրառման միջոցների հետ մեկտեղ։
OpenAI-ի խոսնակ Նեյթ Էվանսն ասել է, որ ընկերությունն արգելում է իր հանրային մոդելներն օգտագործել բռնությանը նպաստելու կամ ազգային անվտանգության չհաստատված նպատակներով, այդ թվում՝ Vals-ի նմանակած սցենարներում։ OpenAI-ն հայտնել է, որ կասեցնում է իր կանոնները խախտող հաշիվների աշխատանքը և լրացուցիչ պաշտպանական միջոցներ է մշակում անօդաչուների ու դրանց ծրագրային ապահովման հետ կապված չարաշահումների դեմ։ Google-ը Bloomberg-ին հայտնել է, որ նույնպես արգելում է իր հանրային մոդելների նման օգտագործումը։
Vals-ը խորհուրդ է տվել ներդնել նոր պաշտպանական միջոցներ և ուսուցանել մոդելներին, որպեսզի դրանք նման չարաշահումների դեպքում հետևեն մշակողների սահմանած կանոններին։
3 րոպե

Դրամաշնորհը կաջակցի Emerald Nuclear Norway-ի՝ ծովային նավերի համար միջուկային էներգահամակարգի ինտեգրման հետազոտությանը։ Մինչ միջուկային շահագործումը նախատեսվում են էլեկտրական տաքացմամբ փորձարկումներ։
3 րոպե

Studio Pro Desktop-ը VSCO-ի լուսանկարների խմբագրման գործիքները բերում է Apple Silicon չիպերով Mac համակարգիչներ՝ առաջարկելով խմբաքանակով խմբագրում և անմիջական հրապարակում VSCO Galleries-ում։ Հավելվածն անվճար է, սակայն բոլոր գործիքներից օգտվելու համար վճարովի անդամակցություն է անհրաժեշտ։
2 րոպե