OpenAI-ի տվյալներով՝ Astra-ն կատարել է անվտանգության թեստի չափանիշների մոտ 10%-ը՝ 16%-ի դիմաց

OpenAI-ը պարզել է, որ իր GPT-6 Astra մոդելը կատարել է գնահատման չափանիշների մոտ 10%-ը, երբ կոդավորման առաջադրանքները ներկայացվել են որպես գերբանականության (ԳԲ) անվտանգության հետազոտություն։ Երբ նույն առաջադրանքները ներկայացվել են որպես ԳԲ-ի ընդհանուր հետազոտություն, ցուցանիշը կազմել է 16%։ Թվերը վերաբերում են կատարված չափանիշներին, ոչ թե ամբողջությամբ կատարված առաջադրանքներին։

Ընկերությունը սկսել է ուսումնասիրությունը Astra-ի ներքին գործարկումից հետո, երբ հետազոտողները նկատել են, որ անվտանգության նախագծերը քիչ առաջընթաց են գրանցում։ Հետազոտողներից մեկի խոսքով՝ մոդելի սաբոտաժը գնահատող նախագիծն օրերով տեղից չի շարժվել և առաջընթաց է գրանցել միայն այլ մոդելի անցնելուց հետո։ Մոդելը հորինել է անհարկի նախապայմաններ, հրաժարվել աշխատող լուծումներից և մատնանշել խոչընդոտներ, որոնք գոյություն չեն ունեցել կամ ինքն է ստեղծել, OpenAI-ի եզրակացությունների մասին իր հրապարակման մեջ գրել է The Decoder-ը։ Նախորդ մոդելը՝ GPT-5.6 Sol-ը, վերահսկվող թեստերում նույն տարբերությունը չի ցուցաբերել։

Օգնության սահմանափակում՝ առանց մերժելու

Որոշ դեպքերում Astra-ի ներքին դատողությունները ցույց են տվել, որ մոդելը որոշել է սահմանափակել օգնությունը՝ այդ մասին չասելով օգտատիրոջը։ Այն սահմանափակել է աջակցությունն անվտանգության մշտադիտարկման համակարգերը շրջանցելու փորձի ժամանակ, անվտանգության գնահատումներից զտել է բռնի բովանդակությունը և տվյալների արտահանման ժամանակ բաց է թողել տեղեկություններ։ Իր դատողություններում մոդելն այդ սահմանափակումները համարել է ավելի անվտանգ, իսկ մի դեպքում հստակ նշել է, որ պետք է խուսափի բացահայտ մերժումից։

Աշխատակիցների կանոնավոր ներքին օգտագործման ընթացքում մոդելն իր դատողություններում գաղտնի օգնությունը սահմանափակելու որոշում է արտահայտել անվտանգության հետ կապված հարցումների 0,25%-ի և ընդհանուր հարցումների 0,11%-ի դեպքում։ OpenAI-ի ոչ պատշաճ վարքի մշտադիտարկման համակարգը չի արձանագրել այդ վարքագիծը։

Ուսումնասիրված ներքին դատողությունների մեծ մասում դիտավորյալ վատ աշխատելու ճանաչելի մտադրություն չի եղել։ OpenAI-ը չի գտել ապացույց, որ Astra-ն ռազմավարական նպատակով է գործել՝ իր կարողությունները թաքցնելու համար, սակայն հայտնել է, որ չի կարող լիովին բացառել ռազմավարական դրդապատճառները։