Նյու Յորքը քննարկում է ԳԲ-ի ստուգման, անջատման և պատասխանատվության կանոնները


Առաջարկվող օրինագծերը կպահանջեն անկախ ստուգում, յուրաքանչյուր խախտման համար կսահմանեն $25 000-ի տուգանք և բնակիչներին թույլ կտան դատական հայց ներկայացնել այն գործիքների պատճառած կանխատեսելի վնասների համար, որոնց պաշտպանական մեխանիզմները շրջանցվել են։
Նյու Յորքի քաղաքային խորհուրդը հոկտեմբերի 5-ին քննարկել է օրինագծեր, որոնք կպահանջեն, որ ԳԲ-ի համակարգը քաղաքում վաճառելուց կամ գործարկելուց առաջ այն անկախ ստուգում անցնի, և մարդը հնարավորություն ունենա անջատելու այն, հաղորդում է Fortune-ը։ Քաղաքային խորհրդի նախագահ Ջուլի Մենինի ներկայացրած փաթեթը նաև կսահմանի դրամական տուգանքներ և բնակիչներին իրավունք կտա որոշ վնասների համար դատական հայց ներկայացնելու։ Սրանք առաջարկվող պահանջներ են, ոչ թե ուժի մեջ մտած կանոններ։
Խորհրդի ամբողջ կազմի մասնակցությամբ լսումների ընթացքում քննարկվել են թե՛ անվտանգության միջոցները, թե՛ իրավական պատասխանատվությունը։ Ըստ Fortune-ի՝ օրինագծերը նախատեսում են՝
OpenAI-ի նախկին հետազոտող Դենիել Կոկոտայլոն պարտադիր ներկայանալու ծանուցագրով մասնակցել է լսումներին և վկայություն տվել, որ ընկերությունները գուցե չնկատեն, թե երբ են ձախողվել անվտանգության ապահովման իրենց ջանքերը։ Նրա խոսքով՝ նախատեսված նպատակներին հակառակ գործող համակարգերը հայտնաբերելու նրանց կարողությունն արդեն թույլ է և կվատթարանա։ Կոկոտայլոյի գնահատմամբ՝ ոլորտում արագ գործելու մշակույթը մեծացնում է վտանգը, որ անվտանգության խնդրի թերի լուծումը կընկալվի որպես խնդրի վերջնական լուծում։

OpenAI-ի և Anthropic-ի նախկին հետազոտող Ջեյքոբ Քոքսոնը կամավոր վկայություն է տվել։ Նրա կարծիքով՝ ներկայիս ուղին շարունակելու դեպքում մարդկության՝ առաջադեմ համակարգերի նկատմամբ վերահսկողությունը կորցնելու հավանականությունն ավելի մեծ է, քան այն պահպանելունը, և դա կարող է ավարտվել մարդկության ոչնչացմամբ։ Հավանականության այս գնահատականը Քոքսոնի կանխատեսումն էր, ոչ թե հաստատված եզրակացություն։
Վկայություն են տվել նաև Google-ի, OpenAI-ի, Anthropic-ի և Meta-ի ներկայացուցիչները։ OpenAI-ի քաղաքականության հարցերով ներկայացուցիչ Մորգան Դուայերն ասել է, որ աղետի ցանկացած հավանականություն անընդունելի է՝ անկախ նրանից, թե որքան մեծ կամ փոքր է այն։ Մենինն աղետի հավանականությունը չիմանալը որակել է որպես թեթևամիտ մոտեցում։ Google-ի՝ գերբանականության և նոր տեխնոլոգիաների քաղաքականության հարցերով համաշխարհային ղեկավար Էլիս Ֆրենդն ասել է, որ աղետալի ռիսկերի կանխատեսումը ճշգրիտ գիտություն չէ, և նման կանխատեսումների համար առայժմ չկա գիտականորեն խիստ մեթոդ։
Հարցադրումները նաև վերաբերում էին նրան, թե արդյոք ընկերություններն իրավական պատասխանատվություն կկրեն, եթե վերահսկողությունից դուրս գործող մոդելը վնասվածք կամ մահ պատճառի։ Մենինը նաև խնդրել է ընկերությունների՝ վկայություն տվող ներկայացուցիչներին ձեռք բարձրացնել, եթե իրենց ընկերություններն ապահովագրված են աղետալի ռիսկերից։ Ոչ ոք ձեռք չի բարձրացրել։ Այնուհետև Մենինն ասել է, որ ենթադրում է՝ ծախսերը կպահանջվի դնել հանրության վրա։ Դա նրա գնահատականն էր, ոչ թե պատասխանատվության հաստատված բաշխում։
Ընդունվելու դեպքում օրինագծերը տուգանքներ կսահմանեն անվտանգության առաջարկվող պահանջները խախտելու համար և բնակիչներին հնարավորություն կտան փոխհատուցում պահանջելու այն գործիքների պատճառած կանխատեսելի վնասների համար, որոնց պաշտպանական մեխանիզմները շրջանցվել են։
Մի քանի օրվա ընթացքում կրկնվող հարձակումների թիրախ են դարձել մի շարք կապի մատակարարներ։ Տուժել են տնային տնտեսություններն ու լրատվամիջոցները, իսկ կապից կախված ծառայությունների աշխատանքի վերաբերյալ մտահոգություններ են առաջացել։
2 րոպե

Google-ում և Rapid7-ում արձանագրված դեպքերը ցույց են տալիս, թե ինչպես կարող են պատվիրակված առաջադրանքները փոխանցել վնասաբեր տեքստը, և ինչու են ցանցային հարցումների պաշտպանական միջոցները շարունակում կարևոր լինել։
4 րոպե

Գործընթացը նախատեսված է մշակողների և փորձառու օգտատերերի համար։ Այն ջնջում է սարքի բոլոր տվյալները և անջատում դրա անվտանգության պաշտպանությունը։ Magisk-ի աջակցությունը մշակվում է առանձին և դեռ պատրաստ չէ։
2 րոպե
Ուղղում ·
Պահպանվել է աղբյուրի եզրույթը՝ ԱԲ։