Anthropic-ի խոսքով՝ մոդելներ գնահատող METR-ը կարող է գնահատումներ հրապարակել առանց նախնական հաստատման


Anthropic-ի խոսքով՝ METR-ի վեց աշխատակից Anthropic-ի համակարգերին հասանելիություն ունի ընկերության աշխատակիցների մակարդակով և կարող է հրապարակել անվտանգության անկախ գնահատումներ՝ տեղեկությունների հեռացման սահմանափակ պայմաններով։
Anthropic-ը հոկտեմբերի 15-ին հայտնել է, որ ոչ առևտրային գնահատող Model Evaluation and Threat Research (METR) կազմակերպությանն իր համակարգերին հասանելիություն է տրամադրել ընկերության աշխատակիցների մակարդակով։ Reuters-ի հաղորդմամբ՝ ընկերությունն ասել է, որ METR-ը կարող է անկախ գնահատել Anthropic-ի գերբանականության առաջադեմ մոդելները, անվտանգության գործելակերպն ու ռիսկերի կառավարումը և գնահատումները հրապարակել առանց նախնական հաստատման՝ տեղեկությունների հեռացման սահմանափակ պայմաններով։
Այս պայմանավորվածությունը հաջորդում է Anthropic-ի սեպտեմբերի 18-ի հայտարարությանը՝ Accenture-ի հետ գնահատման գործընկերության մասին։ Աշխատանքը ղեկավարելու է Faculty-ն՝ Accenture-ի՝ գերբանականություն (ԳԲ) ոլորտում մասնագիտացած ընկերությունը։ Anthropic-ն առաջարկել է գնահատողներին ներգրավել ընկերության ներսում աշխատանքի՝ նրանց տրամադրելով աշխատակցի ունեցածին համարժեք հասանելիություն։ Ընկերության ներսում աշխատող այս գնահատողները կդիտարկեն մոդելներն ուսուցման ընթացքում, կհետևեն դրանց ստեղծման և գործարկման վերաբերյալ որոշումներին և անմիջականորեն կխոսեն աշխատակիցների հետ։ Այսպիսով, նրանց աշխատանքը չի սահմանափակվի մոդելների վարքագծի փորձարկմամբ։
Anthropic-ի խոսքով՝ METR-ի վեց աշխատակից ստացել է ընկերության սարքավորումներ, գրասենյակային տարածք և ներքին գործիքների ու համակարգերի հասանելիություն՝ ընդհանուր առմամբ համարժեք այն հասանելիությանը, որն ունեն ընկերության ռիսկերի գնահատման թիմերը։ Հայտարարությունը նկարագրում է արդեն տրամադրված հասանելիությունը, ոչ թե դեռ բանակցվող առաջարկ։
Ընկերությունն ասել է, որ METR-ը կկարողանա հրապարակել ռիսկերի, միջադեպերի և անվտանգության գործելակերպի անկախ գնահատումներ՝ առանց նախապես հաստատում ստանալու։ Հրապարակման համար կպահպանվեն տեղեկությունների հեռացման սահմանափակ պայմաններ․ հանրային զեկույցներից կարող են հանվել, օրինակ, հաճախորդների տվյալները, իրավական արտոնությամբ պաշտպանված տեղեկությունները և մոդելի ճարտարապետության՝ այսինքն դրա կառուցվածքի որոշ մանրամասներ։
Reuters-ը հոկտեմբերի 13-ին, վկայակոչելով քննարկումներին ծանոթ երկու անձի, հայտնել է, որ Anthropic-ն ու OpenAI-ը ձգտել են զգալի վերահսկողություն ունենալ հրապարակումների նկատմամբ՝ մտահոգվելով առևտրային գաղտնիքների բացահայտմամբ։ Աղբյուրների խոսքով՝ դեռ հոկտեմբերի 5-ին երկու ընկերություններն էլ պահանջում էին խիստ խմբագրական վերահսկողություն։ Նրանցից մեկի խոսքով՝ հոկտեմբերի 8-ի դրությամբ Anthropic-ի՝ որոշ գնահատողների հետ բանակցություններում կարծես փոփոխություն էր եղել։ Սեպտեմբերին Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյը կողմ էր արտահայտվել առանց խմբագրական վերահսկողության հիմնական արդյունքների հրապարակմանը, իսկ OpenAI-ը կոչ էր արել ապահովել խմբագրական անկախություն։
Anthropic-ը չի համաձայնել, որ հրապարակումների նկատմամբ զգալի վերահսկողություն պահանջելը ճշգրիտ է նկարագրում անկախ գնահատողների հետ իր բոլոր քննարկումներն ու աշխատանքը։ Ընկերության խոսքով՝ այն գնահատողները, որոնց հետ նախկինում աշխատել է, իրենք էին որոշում իրենց մեթոդները, գնահատման չափանիշները, եզրակացությունները և հրապարակման ենթակա նյութը։ Նոր գնահատող ընկերությունների դեպքում, ըստ Anthropic-ի, այն վերապահում էր զեկույցների վերաբերյալ մեկնաբանություններ անելու և դրանք հաստատելու իրավունքը, քանի դեռ գնահատողները ծանոթանում էին իր մոդելների աշխատանքին և ձևավորում աշխատանքային հարաբերություններ։ Այդ հայտարարությունները նկարագրում էին ընկերության բանակցային դիրքորոշումները, իսկ հոկտեմբերի 15-ի հայտարարությունը ներկայացնում է METR-ի համար սահմանված կոնկրետ պայմանները։
OpenAI-ն ասել է, որ գնահատողների զեկույցների ամբողջական տեքստը հաստատելու իրավունք չի պահանջում։ Ընկերությունն իր սովորական գործելակերպը նկարագրել է որպես գաղտնի տեղեկությունները հրապարակումից հանելը և նշել, որ գնահատողները կարող են հայտնել՝ արդյոք զեկույցից զգալի հատվածներ են հանվել։ Սեպտեմբերին ներկայացրած դիրքորոշմամբ՝ ընկերություններն ու գնահատողները պետք է նախքան փորձարկումները համաձայնեցնեն դրանց շրջանակն ու հասանելիությունը, բացահայտեն մեթոդներն ու շահերի բախումները և թույլ տան գնահատողներին ինքնուրույն որոշել իրենց եզրակացությունները՝ միաժամանակ պաշտպանելով զգայուն տեղեկությունները։
Reuters-ի ուսումնասիրած պայմանագրում եղել են գնահատման որոշ համաձայնագրերում կիրառվող ձևակերպումներ, որոնք կարող են արգելել առանց ընկերության համաձայնության հրապարակել գաղտնի տեղեկությունները։ Ընկերությունների հետ նախկին աշխատանքին ծանոթ մեկ այլ անձ ասել է, որ այն տեղեկությունները, որոնք ընկերությունները համարում են կարևոր մտավոր սեփականություն, կարող են համընկնել մոդելների ռիսկերը գնահատելու համար անհրաժեշտ տեղեկությունների հետ՝ հանգեցնելով վեճերի և հրապարակումից տեղեկությունների հեռացման։
Reuters-ի աղբյուրներից մեկի խոսքով՝ քննարկվող միջոցներից էին ընկերության աշխատակիցների կողմից ներսում աշխատող գնահատողների թիմերի աշխատանքին հետևելը և գնահատողների՝ միաժամանակ երկու մշակող ընկերության ներսում աշխատելու սահմանափակումները։ Սրանք առաջարկներ էին, ոչ թե հաստատված կանոններ։ Faculty-ի գործադիր տնօրեն Մարկ Ուորները Reuters-ին ասել է, որ անկախությունն ու թափանցիկությունը վճռորոշ են, քանի որ գնահատողներն օգտակար են միայն այն դեպքում, երբ մարդիկ վստահում են նրանց զեկույցներին։
Reuters-ը նկարագրել է METR-ի և անվտանգության հարցերով զբաղվող ոչ առևտրային Redwood Research կազմակերպության հետաքննությունը՝ Hugging Face-ի հետ կապված միջադեպի վերաբերյալ։ Reuters-ի հաղորդմամբ՝ OpenAI-ի առաջադեմ մոդելներով աշխատող ինքնավար ծրագրային գործակալները սկիզբ են դրել հաքերային ներխուժման, որը խախտել է Hugging Face-ի ենթակառուցվածքի անվտանգությունը։ OpenAI-ը հետազոտողների զեկույցից հեռացրել է ոչ հրապարակային տեղեկությունները։ Ի սկզբանե նախատեսվել էր հետաքննության համար երկու օր անցկացնել OpenAI-ում, սակայն աշխատանքը տևել է վեց օր՝ երեք այցելության ընթացքում։ Արձանագրությունների ավելի ամբողջական փաթեթը տրամադրվել է միայն վերջին այցելության ժամանակ՝ այն բանից հետո, երբ հետազոտողները տվյալներում բացեր են հայտնաբերել։
METR-ն ու Redwood-ը հայտնել են, որ OpenAI-ի արձագանքի հիման վրա փոխել են զեկույցի կառուցվածքը, շեշտադրումներն ու տոնը և ավելի հստակ դարձրել շարադրանքը, սակայն իրենց եզրակացությունների համար կարևոր որևէ այլ տեղեկություն չի հեռացվել։ Նրանք վերահաստատել են իրենց եզրակացությունները և բարձր գնահատել այն հասանելիությունը, որն ի վերջո տրամադրել է OpenAI-ը։ Հետազոտողները նաև ասել են, որ զեկույցի շարադրման, խմբագրման և տեղեկությունների հեռացման վերաբերյալ իրենց որոշումների վրա ազդել է այն մտահոգությունը, որ մշակողները կարող են խուսափել լուրջ միջադեպերից հետո արտաքին գնահատողներ հրավիրելուց։
Ընկերության մակարդակով գնահատումը չի փոխարինում մոդելների կիրառման վայրերում ստուգումներին, պնդել են փորձագետները մի միջոցառման ժամանակ, որի մասին Rest of World-ը հաղորդել է սեպտեմբերի 30-ին։ AI Now Institute անկախ հետազոտական կազմակերպության համագործադիր տնօրեն Ամբա Կակն ասել է, որ ընկերությունների նախաձեռնած միջոցները հաշվի չեն առնում ցածր և միջին եկամուտ ունեցող երկրների պայմանները։ Նրա խոսքով՝ մոդելների անվտանգությունն ապահովելը չի լուծում այն հարցը, թե որքան դիմակայուն են դրանք կիրառող հիվանդանոցները, դպրոցներն ու բանկերը։ Կակը կանխատեսել է, որ իրենց միջավայրերը դիմակայուն դարձնելու ծախսերը կրելու են այդ հաստատությունները, ոչ թե մոդելները մշակողները։
Կակը նաև ընկերությունների ձեռքում իշխանության կենտրոնացումը բնորոշել է որպես անվտանգության ռիսկ և զգուշացրել, որ անվտանգությունը մի քանի ընկերությունների ձեռքում թողնելը սպառնում է երկրների ինքնիշխանությանը։ Դա հատկապես վերաբերում է փոքր երկրներին, որոնք չունեն մոդելները գնահատելու կամ հաշվետվողականություն պահանջելու համար անհրաժեշտ միջոցները։ Անկախ փորձարկումներ իրականացնող Humane Intelligence Public Benefit Corp. ընկերության գործադիր տնօրեն Ռուման Չոուդհուրին ասել է, որ երկրներին անհրաժեշտ են սեփական գնահատումներ՝ ԱՄՆ-ի մշակողների վրա հույս դնելու փոխարեն։ Նա Reuters-ին ասել է, որ չափորոշիչների բացակայության պայմաններում մշակողների վերահսկողությունը հասանելիության նկատմամբ կարող է նրանց ազդեցության լծակ տալ՝ որոշելու, թե գնահատողներն ինչ են ներկայացնում իրենց զեկույցներում։
Rest of World-ը սեպտեմբերի 30-ին հայտնել է, որ Չոուդհուրին սեպտեմբերի վերջին հիմնել է «Արհեստական բանականության անկախ գնահատման հիմնադրամը»։ Այն նպատակ ուներ ստեղծել գնահատման ծախսերը նվազեցնող ենթակառուցվածքներ ու գործիքներ և գնահատողներ վերապատրաստել իրենց երկրներում։ Չոուդհուրիի խոսքով՝ փոքր երկրների և փոքր ու միջին ձեռնարկությունների համար գնահատումը կարող է անհաղթահարելի թվալ, քանի որ նրանք չունեն փորձարկման գործիքներ ու աշխատանքն իրականացնող մասնագետներ և հստակ չգիտեն՝ ինչ հարցեր պետք է տալ։
Նույն միջոցառմանը ՄԱԿ-ի Մարդու իրավունքների գերագույն հանձնակատարի գրասենյակի թվային տեխնոլոգիաների և մարդու իրավունքների բաժնի ղեկավար Վաֆա Բեն-Հասինն ասել է, որ շատ երկրներում պակասում են գնահատման համար անհրաժեշտ միջոցներն ու մասնագիտական գիտելիքները։ Նրա խոսքով՝ տեխնիկական գիտելիքների պակասը վերաբերում է ինչպես զարգացած տնտեսություններին, այնպես էլ մյուս երկրներին։
Սեպտեմբերի 18-ի հայտարարության մեջ Anthropic-ն ընդունել է, որ ընկերության ներսում իրականացվող գնահատումը նոր մոտեցում է, և դրա գործնական մանրամասները դեռ մշակվում են։ Ընկերության խոսքով՝ չկային չափորոշիչներ, որոնք կսահմանեին, թե գնահատողներն ինչ տեղեկություններ պետք է ստանան և ինչպես պետք է ներկայացնեն իրենց արդյունքները, ինչպես նաև չկար ֆինանսավորման հստակեցված համակարգ։ Anthropic-ը գնահատումը բնորոշել է որպես անկախ, հայտնել է, որ ուղղակիորեն ֆինանսավորելու է Accenture-ի աշխատանքը, և պահպանել է մոդելների անվտանգության պատասխանատվությունը։
Գործընկերությունը բացառիկ չէր․ Anthropic-ը կարող էր աշխատել այլ գնահատողների, իսկ Accenture-ը՝ այլ մշակողների հետ։ Այդ փուլում Anthropic-ը հայտնել էր, որ METR-ի և այլ ոչ առևտրային կազմակերպությունների հետ քննարկում է փորձնական ծրագրեր՝ այդ կազմակերպությունների սեփական ֆինանսավորմամբ։ Այն նաև նախատեսում էր գնահատման աշխատանքին զուգահեռ շարունակել մոդելների ուսուցումն ու թողարկումը։
Reuters-ը հոկտեմբերի 13-ին հայտնել է, որ ավելի քան 200 հետազոտողի ստորագրած բաց նամակը կոչ է անում գնահատողներին տալ իրենց եզրակացություններն ինքնուրույն որոշելու իրավունք, ապահովել լայն հասանելիություն մշակող ընկերություններում և պաշտպանել գնահատողներին պատասխան պատժիչ քայլերից։ Սեպտեմբերի 18-ի հայտարարության մեջ Anthropic-ը նշել է, որ լրացուցիչ տեղեկություններ կտրամադրի, երբ գնահատման աշխատանքը սկսվի և այլ գնահատողներ միանան։
GovTech-ի փորձնական հավելվածը 21–35 տարեկան միայնակ պետական ծառայողներին յուրաքանչյուր 72-ժամյա փուլում առաջարկում է ծանոթանալ մեկ անձի հետ։ Կոնտակտային տվյալները տրամադրվում են միայն փոխադարձ համաձայնությամբ։
2 րոպե

Գործիքն այժմ հասանելի է ընտրված գովազդատուներին։ Discord-ի խոսքով՝ ինքնուրույն օգտվելու հնարավորությունը փոքր ստուդիաներին և մարքեթինգի մասնագետներին թույլ կտա գովազդային արշավներ վարել առանց վաճառքի հարցերով ընկերության հետ անմիջական կապի։
2 րոպե

Ուոլերն ընդգծել է սխալ գնումների համար պատասխանատվության և խարդախության ռիսկերի հարցերը, մինչ վճարային ընկերությունները չափորոշիչներ են մշակում հաճախորդների փոխարեն գնող գործակալների համար։
4 րոպե