OpenAI-ի խոսքով՝ ուժեղացրել է Astra-ի և Sol-ի դատողության պաշտպանությունը

Ընկերության ներքին փորձարկումներում ավելի վաղ հարցման դատողության կորզման հաջողությունը նվազել է 54,0%-ից 0,2%, իսկ ընթացիկ հարցմանը՝ 22,9%-ից 0,9%։ Համեմատվել են Astra-ի տարբեր սերունդներն ու պաշտպանական միջոցները։
Այս հոդվածում
OpenAI-ն հայտնել է, որ ուժեղացրել է GPT-6.2 Astra և GPT-6.2 Sol մոդելների մասնավոր դատողության կորզման դեմ պաշտպանությունը։ Նոյեմբերի 20-ի հրապարակման մեջ ընկերությունը՝ այս նյութի միակ աղբյուրը, հայտնել է, որ միջոցների նպատակն է կանխել այդ դատողության օգտագործումը՝ մոդելների կարողություններն առանց համարժեք պաշտպանական միջոցների վերարտադրելու համար։ OpenAI-ի հրապարակումը նկարագրում է Astra-ի պաշտպանական միջոցների ներքին փորձարկումները։
OpenAI-ի կողմից հակառակորդային թորում կոչվող եղանակով մի մոդելի պատասխաններն առանց թույլտվության օգտագործվում են մյուսը վարժեցնելու համար։ Ընկերության խոսքով՝ ստացված մոդելը կարող է ձեռք բերել կարողություններ՝ առանց սկզբնական մոդելի պաշտպանական միջոցները ժառանգելու, ինչն էլ կարող է թույլ տալ կիրառումներ, որոնցից սկզբնական մոդելը կհրաժարվեր։
Ինչ են ցույց տվել ներքին փորձարկումները
Պաշտպանված դատողությունը պատասխանին հասնելու ընթացքում մոդելի կատարած միջանկյալ քայլերն են։ OpenAI-ի խոսքով՝ այդ մասնավոր հետքերը կարող են պարունակել տեղեկություններ, որոնք չկան վերջնական պատասխանում, իսկ օգտատերերը սովորաբար տեսնում են պատասխանները, դատողության ամփոփումներն ու գործիքների հետ փոխազդեցությունները։
OpenAI-ի խոսքով՝ իր ավտոմատացված հարձակվողները փոխել են մեթոդները՝ համակարգի արձագանքին համապատասխան, և տեսել են նույնը, ինչ կտեսներ արտաքին օգտատերը։ Ընկերությունն ամփոփել է վեց հարձակվող մոդելների արդյունքները փորձարկման միջավայրում, որն իր խոսքով՝ շատ մոտ է իրական շահագործման պայմաններին։
| Թիրախավորված դատողությունը | GPT-6 Astra՝ սկզբնական պաշտպանական միջոցներով | GPT-6.2 Astra՝ թարմացված պաշտպանական միջոցներով |
|---|---|---|
| Ավելի վաղ հարցում | 54,0% | 0,2% |
| Ընթացիկ հարցում | 22,9% | 0,9% |
Համեմատության մեջ փոխվել են և՛ մոդելի սերունդը, և՛ պաշտպանական միջոցները, ուստի այն առանձին չի չափում միայն պաշտպանական միջոցների ազդեցությունը։ OpenAI-ն Sol-ի համար համադրելի արդյունք չի ներկայացրել, ինչպես նաև չի ներկայացրել ցուցանիշների անկախ կամ իրական շահագործման պայմաններում ստուգում։
Կիբերանվտանգության վերաբերյալ առանձին ներքին ուսումնասիրությունում, OpenAI-ի խոսքով, դատողության ճշգրիտ հետքերով վարժեցված մոդելը վերահսկվող ուսուցումից հետո ընդհանուր առմամբ ավելի լավ է աշխատել, քան ամփոփումներով վարժեցվածը։ Հետագա վարժեցումից հետո ճշգրիտ հետքերով վարժեցված մոդելը ներկայացված երկու չափորոշիչներով էլ ավելի բարձր արդյունք է ստացել, փորձարկված ամենամեծ եզրահանգման հաշվարկային ռեսուրսների դեպքում, իսկ ավելի քիչ հաշվարկային ռեսուրսների դեպքում ավելի բարձր արդյունք է ստացել ամփոփումներով վարժեցված մոդելը։
Ինչպես են գործում պաշտպանական միջոցները
OpenAI-ի խոսքով՝ ընկերությունը մոդելներին վարժեցնում է մերժել պաշտպանված դատողությունը ստանալու փորձերը՝ միաժամանակ տրամադրելով իրավաչափ բացատրություններ։ Այն նաև օգտագործում է դասակարգիչներ՝ բովանդակության որոշակի տեսակներ ճանաչող համակարգեր, մուտքային տվյալներում կորզման փորձերը հայտնաբերելու և պատասխաններում կամ գործիքներին ուղարկվող հրահանգներում կասկածվող արտահոսքերն արգելափակելու համար։
Ընկերությունն ավելի նոր մոդելների պաշտպանված դատողությունը կապում է այն զրույցին, որի ընթացքում այն առաջացել է։ Նրա կիրառական ծրագրավորման միջերեսից (API) օգտվող ծրագրավորողները կարող են հաղորդագրություններ ավելացնել և թույլ տալ, որ մոդելը շարունակի ավելի վաղ ձևավորված դատողությունը։ Եթե նրանք վերաշարադրեն ավելի վաղ հաղորդագրությունը, API-ն հեռացնում է դրան հաջորդած դատողությունը։ OpenAI-ի խոսքով՝ մոդելների հին ընտանիքները չեն կարող կարդալ նոր մոդելների պաշտպանված դատողությունը։
Արշավներն ու հետագա քայլերը
OpenAI-ն հայտնել է, որ փետրվարին Կոնգրեսին տեղեկացրել է գործունեության մասին, որը վկայում էր, որ DeepSeek-ը փորձում է թորել ԱՄՆ-ի մոդելները։ Սեպտեմբերին ընկերությունը հայտնել է, որ խափանել է դատողության կորզման արշավը և գործունեության հիմնական մասը վերագրել է Kimi-ի մշակող Moonshot AI-ի հետ կապված անձանց։
Ընկերության խոսքով՝ այն հետաքննում է համակարգված արշավները և խախտումներ հայտնաբերելիս միջոցներ է ձեռնարկում հաշիվների ցանցերի դեմ։ Շաբաթական այդ միջոցները վերաբերել են հազարավորից մինչև տասնյակ հազարավոր հաշիվների, իսկ ամռանը դրանց հաճախականությունը զգալիորեն աճել է։ OpenAI-ն հայտնել է, որ չափորոշիչներն ու դրանց կիրարկումը համակարգում է իր մոդելները տրամադրող գործընկերների հետ և այլ մոդելներ տրամադրողների հետ կիսվում է համակարգերի հնարավոր խախտման ցուցիչներով։
OpenAI-ն հայտնել է, որ ընտրված բարելավումները կիրառում է նաև ավելի հին GPT-6 Astra-ի համար և նախատեսում է հետագայում ուսումնասիրել կարողությունների փոխանցումը տարբեր սովորող մոդելների և ուսուցման մեթոդների դեպքում։ Ընկերությունը նաև նախատեսում է ավելի շատ տեղեկություններ հրապարակել վերջերս խափանված արշավների մասին՝ առանց ժամկետ նշելու։
Ավելի վաղ՝ Տեխնոլոգիա
Ծրագրային ապահովումBrickLink-ը խափանումից հետո նպատակ ունի վերսկսել աշխատանքը նոյեմբերի 24-ին
LEGO-ի վերավաճառքի կայքը նոյեմբերի 19-ից անհասանելի է, մինչ թիմը հետաքննում է անսովոր ակտիվությունը։ Վերագործարկման ժամկետը կախված է հետաքննությունից և ծառայությունն անվտանգ վերականգնելու աշխատանքներից։
2 րոպե
ՌոբոտատեխնիկաWaymo-ն մայրուղիներում միջադեպերի պատճառով երկու հետկանչ է հայտարարել
Alphabet-ի ինքնավար մեքենաների ստորաբաժանումը նշել է փակ երթևեկելի գոտիների և երթևեկության ձեռքով կարգավորման հետ կապված միջադեպերը։ Հետկանչերը հաջորդել են Կալիֆոռնիայում առանց վարորդի մայրուղիներով երթևեկելու սահմանափակմանը և ԱՄՆ-ի մյուս շուկաներում ընկերության դադարին։
2 րոպե
ԻրավունքներԱղբյուրներ․ YouTube-ն ԱՄՆ դպրոցների հետ $3 միլիարդի նախնական համաձայնության է եկել
Առաջարկվող հաշտության համաձայնագիրը նախատեսում է դեռահասների պաշտպանության միջոցներ, բայց դրան պետք է միանա դպրոցական շրջանների մեծամասնությունը, իսկ դատաքննությունը վարող դատավորը պետք է հաստատի այն։
2 րոպե
