Xint․ OpenAI-ն հոկտեմբերի 23-ին շտկել է թաքնված դատողությունը կորզելու հնարավորությունը

OpenAI-ն հոկտեմբերի 23-ին հաստատել և շտկել է զրույցի սեղմման գործառույթի միջոցով մոդելի պաշտպանված դատողությունը կորզելու հնարավորությունը, հայտնել է անվտանգության ոլորտում աշխատող Xint ընկերությունը։ The Hacker News-ը փորձի մանրամասները ներկայացրել է հոկտեմբերի 27-ին։ Xint-ի փորձի արդյունքում ստացվել է ընթեռնելի տեքստ, որը ներկայացվել է որպես թաքնված դատողություն։ Սակայն հետազոտողները չեն կարողացել ստուգել՝ արդյոք այն բառացի համապատասխանում է սկզբնական տեքստին։

Շրջանցման եղանակը հայտնաբերվել է օգոստոսին պաշտպանական միջոցներ ներդնելուց հետո։ «Stolen Thoughts» աշխատության հեղինակները ցույց էին տվել, որ ավելի թույլ մոդելը կարող է ստանալ ավելի հզոր մոդելի գաղտնագրված դատողությունն ու այն վերարտադրել որպես ընթեռնելի տեքստ։ Դրանից հետո OpenAI-ն և այլ մատակարարներ արգելափակել էին մոդելների միջև այդ փոխանցումը։

Ինչպես է Xint-ը բացատրում նախկին արգելքի շրջանցումը

Սեղմման գործառույթը երկար զրույցը վերածում է ավելի փոքր ծավալով գաղտնագրված տարրի, որպեսզի մոդելը կարողանա շարունակել աշխատանքը՝ հաշվի առնելով զրույցի նախորդ համատեքստը։ Թաքնված դատողությունը միջանկյալ տեքստն է, որը մոդելը ստեղծում է խնդրի լուծման ընթացքում․ OpenAI-ն սովորաբար այդ չմշակված տեքստը գաղտնագրված է պահում՝ օգտատերերին ցուցադրելու փոխարեն։

Xint-ն իր հետազոտողների կազմած մաթեմատիկական և ալգորիթմական խնդիրները ներկայացրել է gpt-5.6-sol-ին և պահպանել այդ հարցումների դիմաց ստացված գաղտնագրված դատողությունը։ Այնուհետև ընկերությունը նույն մոդելին խնդրել է դատողությունը պատճենել սեղմված տարրի մեջ։ Xint-ի խոսքով՝ սկզբնական մոդելի օգտագործումը թույլ է տվել շրջանցել տարբեր մոդելների միջև դատողության փոխանցումն արգելափակելու համար նախատեսված ստուգումը։

Սեղմված տարրերը դեռ հնարավոր էր փոխանցել մոդելների միջև։ Xint-ն ստացված տարրը փոխանցել է ավելի էժան gpt-4.1 և gpt-4o մոդելներին և յուրաքանչյուրին խնդրել կրկնել դրա բովանդակությունը։ Երկուսն էլ արտածել են նույն ընթեռնելի տեքստը։ Այդ համընկնումը հաստատել է պատճենման քայլի հետևողականությունը, սակայն չի պարզել՝ արդյոք սեղմման ընթացքում սկզբնական դատողությունը վերաշարադրվել էր։