ԱՄՆ-ի աշխատանքային խումբը բաշխել է գերբանականության կամավոր համաձայնագրի իրագործման աշխատանքները


Աշխատանքային խմբի ղեկավար Ջեյ Քլեյթոնի խոսքով՝ ռիսկերի ուսումնասիրությունն ու երեք հանձնաժողովները կօգնեն գործնականում իրագործել ընկերությունների՝ անվտանգության կամավոր հանձնառությունները։
ԱՄՆ-ի՝ գերբանականության (ԳԲ), այսինքն՝ արհեստական բանականության հարցերով աշխատանքային խումբը հոկտեմբերի 15-ին Վաշինգտոնում կայացած առաջին նիստում նախաձեռնել է ռիսկերի ուսումնասիրություն և ստեղծել երեք հանձնաժողով։ Reuters-ի հաղորդմամբ՝ ազգային հետախուզության տնօրեն Ջեյ Քլեյթոնը հանձնարարությունները ներկայացրել է հոկտեմբերի 16-ին CNBC-ին տված հարցազրույցում։
Այս աշխատանքը հաջորդում է «Գերբանականության մասին Սպիտակ տան համաձայնագրին», որին սեպտեմբերի 29-ին համաձայնել են երկու տասնյակ տեխնոլոգիական ընկերություններ։ Սեպտեմբերի 30-ին Ars Technica-ն հայտնել է, որ հանձնառությունները ներառում են անվտանգության անկախ աուդիտներ, բայց նոր իրավական պարտավորություններ չեն ստեղծում։ Նոր հանձնարարությունները ներառում են միջոցների մշակում, որոնցով լաբորատորիաները կկարողանան կառավարությանը զգուշացնել անվտանգության միջադեպերի մասին․ դրանք ծանուցման պարտադիր պահանջներ չեն։
Քլեյթոնի խոսքով՝ նիստում սահմանվել է համաձայնագրերն իրագործելու և ամենաառաջադեմ մոդելները մշակող լաբորատորիաների հետ երկխոսությունը պահպանելու ուղին։ Ռիսկերի ուսումնասիրությունը կղեկավարի Դեյվիդ Սաքսը։ Հիմնվելով CNBC-ին Քլեյթոնի պատմածի վրա՝ Reuters-ը հայտնել է հանձնաժողովների պատասխանատվության հետևյալ բաշխման մասին․
| Հանձնաժողով | Ղեկավար |
|---|---|
| Հաղորդում և արձագանքում | Էմիլ Մայքլ՝ ԱՄՆ-ի պաշտպանության նախարարության տեխնոլոգիական ուղղության պատասխանատու |
| Կենսական նշանակության ենթակառուցվածքներ | |
Նիստի մասին Սպիտակ տան՝ հոկտեմբերի 15-ին հրապարակված հաղորդագրության համաձայն, որը ներկայացրել է Reuters-ը, Մայքլին հանձնարարվել է ուսումնասիրել և մշակել միջոցներ, որոնցով լաբորատորիաները կառավարությանը վաղ զգուշացումներ և համակարգված ծանուցումներ կտրամադրեն անվտանգության խախտումների, կիբերներխուժումների, մոդելի պաշտպանական սահմանափակումները շրջանցելու փորձերի և այլ խնդիրների մասին։ Մոդելի պաշտպանական սահմանափակումները շրջանցելու փորձը կոչվում է «ջեյլբրեյք» (jailbreak)։
Սպիտակ տունը նաև Քլեյթոնին և կիբերանվտանգության ազգային տնօրեն Շոն Քերնքրոսին հանձնարարել է ղեկավարել համաձայնագրի իրագործման աշխատանքային խումբը։ Քլեյթոնի խոսքով՝ աշխատուժի և տնտեսության վրա ազդեցությունների մասին կզեկուցվի ԱՄՆ-ի աշխատանքի նախարարությանը, իսկ տեխնոլոգիայի կիրառմամբ կատարված իրավախախտումների դեմ միջոցներ կձեռնարկվեն Առևտրի դաշնային հանձնաժողովի կամ ԱՄՆ-ի արդարադատության նախարարության միջոցով։
Թրամփը հոկտեմբերի 4-ին հայտարարել է Քլեյթոնին «Գերբանականության աշխատանքային խմբի» ղեկավար նշանակելու մասին։ Թրամփի հայտարարությանը նվիրված հրապարակման մեջ Fortune-ը հայտնել է, որ խումբը կհամակարգի դաշնային աշխատանքը՝ ԱՄՆ-ի առաջատար դիրքը պահպանելու և ամերիկացիների շահերը պաշտպանելու հայտարարված նպատակներով։ Այն հաշվետու կլինի Թրամփին և նրա աշխատակազմի ղեկավար Սյուզի Ուայլսին ու կխորհրդակցի սպառողների, հանրային շահերը պաշտպանող խմբերի, կրոնական կազմակերպությունների, կենսական նշանակության ենթակառուցվածքներ ապահովողների և տեխնոլոգիական ընկերությունների հետ։
Հոկտեմբերի 4-ին TechCrunch-ը, վկայակոչելով The Wall Street Journal-ը, հայտնել է, որ աշխատանքային խմբի կանոնադրությունը նախատեսում է սպառնալիքներին արձագանքելու ծրագրերի մշակում։ Միաժամանակ այն նպատակ ունի թույլ չտալ, որ չափազանց խիստ կարգավորումը և կարգավորող մարմինների՝ ոլորտի շահերին ենթարկվելը խոչընդոտեն նորարարությանն ու մրցակցությանը։ Վերջինս նշանակում է, որ կարգավորող մարմինները ծառայում են ոլորտի, այլ ոչ թե հանրության շահերին։
Սեպտեմբերի 30-ին The Register-ը հայտնել է, որ համաձայնագրի ստորագրողների թվում են Meta-ն, Google-ը, OpenAI-ն, Anthropic-ը, Nvidia-ն և xAI-ն, և որ Թրամփը փաստաթուղթը հրապարակել է Truth Social-ի իր հաշվում։
The Register-ի հաղորդմամբ՝ համաձայնագիրը թվարկում է «հսկողության և աուդիտի չորս մակարդակ», որոնք, ըստ Սպիտակ տան, ստորագրողները պետք է ընդունեն «ցանկացած այլ նախազգուշական միջոցից բացի»․
Ընկերությունները հայտարարում են, որ «կարծում են, թե այս հսկողության և աուդիտի ներդրումը կենսական է բոլորի համար անվտանգ ապագա ապահովելու համար», և որ իրենցից յուրաքանչյուրը «հանձն է առել դա անել»։
Վերլուծություն
The Register-ը նշել է, որ համաձայնագիրը չի հստակեցնում ստուգումների պահանջվող խստությունն ու հաճախականությունը և կիրարկման մեխանիզմ չի պարունակում։ Փաստաթղթում ասվում է, որ ընկերությունները «կանոնավոր կերպով կհանդիպեն՝ սահմանելու ստանդարտներ և լավագույն փորձեր՝ իրենց համակարգերի անվտանգությունը բարելավելու համար»։ The Register-ը սա մեկնաբանել է այնպես, որ ընկերություններն իրենք են սահմանելու իրենց կանոնները, և համաձայնագիրը բնութագրել է որպես թույլ ու անորոշ։
Իրավական ուժի հարցում փաստաթուղթն ասում է, որ «միգուցե տրամաբանված լինի այս քայլերն ամրագրել օրենքներում կամ կանոնակարգերում»՝ առանց դա անելու պարտավորություն ստանձնելու։ Դաշնային գերատեսչությունների միջոցով իրավախախտումների դեմ միջոցներ ձեռնարկելու մասին Քլեյթոնի խոսքը կամավոր համաձայնագիրը չի դարձնում իրավական պահանջ։
The Register-ի հաղորդմամբ՝ Թրամփի սեպտեմբերի 29-ի գործադիր հրամանագիրը պահանջում է, որ դաշնային գերատեսչությունները պաշտոնական փաստաթղթերում և հաղորդակցություններում «Artificial Intelligence» և «AI» եզրույթների փոխարեն օգտագործեն «Super Intelligence» և «SI»։
Հրամանագիրը գիտության և տեխնոլոգիաների հարցերով Թրամփի օգնականին 60 օր է տվել՝ այլ գերատեսչությունների հետ սահմանում մշակելու համար։ Որպես մեկնարկային կետ նշվել է այն դիրքորոշումը, որ ամենաառաջադեմ համակարգերը «շատ ավելին են անում, քան մարդկային բանականության առանձին ասպեկտների նմանակումը կամ ավտոմատացումը», և «ավելի ու ավելի են ուժեղացնում մարդկային հնարամտությունը և բացում ստեղծարարության նոր ձևեր»։
The Register-ը կապել է համաձայնագիրն ու անվանափոխության հրամանագիրը՝ պնդելով, որ դրանք արտացոլում են Թրամփի այն համոզմունքը, թե ոլորտին խիստ կարգավորում պետք չէ՝ բացառությամբ տեխնոլոգիայի անվան հարցի։
Համաձայնագիրը ստանդարտների սահմանումը թողնում է ընկերություններին և չի հստակեցնում, թե նրանք ինչպես պետք է ապացուցեն դրանց պահպանումը։ Սեպտեմբերի 30-ին Ars Technica-ն հայտնել է, որ արտաքին աուդիտորների ընտրության և նրանց ստուգումների անցկացման եղանակի հարցերը դեռ լուծված չեն։
Անվանափոխության հրամանագիրը նաև պահանջում է սահմանված 60 օրվա ընթացքում մշակել դաշնային սահմանում, որը կուղղորդի գերատեսչություններին հանձնարարված տերմինաբանության կիրառումը։ Ըստ Քլեյթոնի խոսքի և Սպիտակ տան նկարագրության, որոնք ներկայացրել է Reuters-ը, աշխատանքային խմբի հանձնարարություններն այժմ ներառում են ռիսկերի ուսումնասիրությունը, համաձայնագրի իրագործումը և լաբորատորիաներում միջադեպերի մասին զգուշացման ընթացակարգերի մշակումը։



4 րոպե

Անվտանգության Mindgard ընկերությունն ասում է, որ շրջանցել է Moonshot ընկերության երկու Kimi մոդելների անվտանգության սահմանափակումները։ Mindgard-ը չի ստուգել, թե արդյոք ստացված պատասխաններն իրականում կաշխատեին։ Moonshot-ն ասում է, որ ուսումնասիրում է բացահայտումները, և իր փորձարկումները ցույց են տալիս, որ մոդելները սովորաբար մերժում են նման հարցումները։
4 րոպե