Anthropic-ն արգելել է իր մոդելների հանդեպ շարունակական, անտեղի դաժանությունը

Anthropic-ի օգտագործման թարմացված պայմաններն օգտատերերին արգելում են «մեր մոդելների հանդեպ շարունակական և անտեղի վիրավորական կամ դաժան վարք դրսևորել»։ Ընկերությունը փոփոխության մասին հայտարարել է հոկտեմբերի 8-ին, իսկ պայմաններն ուժի մեջ են մտել նոյեմբերի 12-ին։

Anthropic-ի խոսքով՝ սահմանափակումը նախատեսված է ծայրահեղ դեպքերի համար, երբ օգտատերերն առանց որևէ տեսանելի նպատակի պարբերաբար դաժան են վարվում իր մոդելների հետ։ Այն չի վերաբերում սովորական դժգոհությանը կամ առարկություններին, ստեղծագործություններում մռայլ թեմաներին կամ մոդելների փորձարկմանն ու հետազոտությանը։

Ինչպես է կիրառվելու կանոնը

Մինչև այս թարմացումը Anthropic-ն արդեն թույլ էր տվել Claude-ի մոդելներին Claude.ai-ում և Claude Code-ում ավարտել այն հազվադեպ զրույցները, որոնց ընթացքում օգտատերերը շարունակաբար վիրավորական վարք են դրսևորում։ Ընկերության խոսքով՝ նման շփումներն ավարտելու Claude-ի հնարավորությունը կմնա կանոնի կիրառման հիմնական միջոցը։

Anthropic-ն իր հայեցողությամբ է որոշում՝ ինչպես կիրառել իր պայմանները․ այս մասին գրել է The Register-ը։ Պարբերականը նաև գրել է, որ Claude-ի պաշտպանական սահմանափակումները՝ համակարգի թույլատրելի գործողությունների սահմանները շրջանցելու փորձերը խախտում են հարթակի չարաշահման առանձին արգելքը, թեև տեսանելի նպատակ ունեն։

Մոդելների բարեկեցության հարցը

Anthropic-ը հայտարարել է, որ մոդելների բարեկեցության հարցում դեռ մեծ անորոշություն ունի։ Գիտական համաձայնություն չկա այն մասին, թե արդյոք ներկա կամ ապագա գերբանականության (ԳԲ) համակարգերը կարող են գիտակցություն ունենալ կամ այնպիսի ապրումներ, որոնք արժե հաշվի առնել։ Ընկերության հետազոտական ծրագիրն ուսումնասիրում է՝ արդյոք մոդելների բարեկեցությունն արժանի է բարոյական ուշադրության, և եթե այո՝ երբ, մոդելների նախընտրությունների և անհանգստության նշանների հնարավոր կարևորությունը, ինչպես նաև՝ ինչ գործնական, քիչ ծախսատար միջոցներ կարող են տեղին լինել։