Meta-ի աշխատակիցները զգուշացնում են Muse-ում հաշիվների խառնման ու գաղտնիության ռիսկերից


Ուսումնասիրությամբ չի պարզվել՝ Muse-ն ինքնակամ ուղարկված բանկային տվյալները հորինե՞լ է, թե՞ դրանք այլ անձի են պատկանել։ Meta-ն դեպքերը համարում է եզակի և ասում, որ շտկել է հաշիվների խառնման տպավորություն ստեղծած հորինված հաղորդագրությունների հետ կապված բազմաթիվ խնդիրներ։
Reuters-ը նոյեմբերի 18-ին հայտնել է, որ ուսումնասիրել է Muse-ի անցանկալի գործողությունների մասին Meta-ի ավելի քան երկու տասնյակ ներքին գրառում։ Աշխատակիցները մտահոգվել են, որ հավելվածը կարող է տարբեր հաշիվների զրույցները խառնել կամ բացահայտել անձնական տվյալներ։ Գրառումներում նկարագրված են սեպտեմբերի կեսերից մինչև նոյեմբեր տեղի ունեցած դեպքեր։
Muse-ը սեպտեմբերին գործարկվելուց ի վեր ներբեռնվել է ավելի քան 10 միլիոն անգամ։ Meta-ն այն ստեղծել է որպես գերբանականությամբ (ԳԲ) աշխատող օգնական՝ օգտատիրոջ անունից գործողություններ կատարելու համար՝ էլեկտրոնային նամակներին պատասխանելուց մինչև հանդիպումներ նշանակելը և գնումներ կատարելը։ Meta-ի խոսքով՝ յուրաքանչյուր օգնական աշխատում է ամպում գտնվող առանձին համակարգչային միջավայրում, իսկ օգտատերերն իրենք են որոշում, թե որ հավելվածները միացնեն։ Ընկերությունը զգուշացնում է, որ Muse-ը կարող է սխալվել, իսկ դրա պայմաններով՝ օգտատերերը պատասխանատվություն են կրում օգնականի գործողությունների համար։
Աշխատակիցներից մեկը, որն օգտագործում էր Muse-ը ձկնորսության համար եղանակի և մակընթացությունների մասին տեղեկություններ ստանալու նպատակով, ասել է, որ օգնականն անսպասելիորեն իրեն ուղարկել է երկու բանկային հաշվի մնացորդ, որոնք իրեն ծանոթ չեն եղել։ Մեկ ուրիշն ասել է, որ Muse-ն առանց խնդրանքի առաջարկել է կապվել սուրճի սեղան վաճառողի հետ, ապա հայտնել աշխատակցին, որ սեղանը վերցնելու մանրամասները, կարծես, իրեն չեն վերաբերում։ Երկու աշխատակիցն էլ մտահոգվել են, որ տեղեկությունները կարող են ուրիշին պատկանել։ Reuters-ին չի հաջողվել պարզել՝ բանկային մնացորդներն ու այլ զգայուն տվյալները վերցվե՞լ են մեկ այլ օգտատիրոջից, թե՞ հորինվել են։
Muse-ի թիմի անդամներից մեկը նոյեմբերի սկզբին գործընկերներին ասել է, որ օգտատերերի հետ զրույցների միջև կապ հաստատելու ներկառուցված հրահանգները, ըստ երևույթին, դրդում են օգնականին հորինել հաղորդագրություններ։ Թիմի անդամի խոսքով՝ խնդիրները վերաբերում են թե՛ հիմքում ընկած մոդելին, թե՛ Muse-ին գործողություններ կատարելու հնարավորություն տվող ծրագրային ապահովմանը, և թիմն աշխատում է դրանց վրա։ Meta-ի խոսնակ Դենիել Ռոբերթսն օրինակները եզակի դեպքեր է անվանել և ասել, որ ընկերությունն արդեն շտկել է հորինված հաղորդագրությունների հետ կապված բազմաթիվ խնդիրներ, որոնց մասին աշխատակիցները հայտնել էին որպես հաշիվների հնարավոր խառնման դեպքեր։ Նա հրաժարվել է պատասխանել, թե որքան հաճախ են տեղի ունեցել թիմի անդամի նկարագրած խնդիրները և ինչու են դրանք շարունակվել։
Meta-ի աշխատակցուհիներից մեկն ասել է, որ Muse-ն անսպասելիորեն հիշեցրել է իրեն պատասխանել քրոջը՝ Signal գաղտնագրված հաղորդագրությունների ծառայությունում։ Նա չի հիշել, որ իրեն խնդրել են Muse-ին այլ հավելվածներից օգտվելու թույլտվություն տալ։ Գործընկերներից մեկն ասել է, որ Muse-ը կարգավորվել է այնպես, որ լռելյայն հասանելիություն ունենա Android-ի ծանուցումներին։ Ռոբերթսն ասել է, որ Muse-ն օգտատերերի համար աշխատելու նպատակով պետք է փոխգործակցի նրանց համակարգիչների հետ և այլ հավելվածներ կարող է մուտք գործել միայն օգտատերերի հստակ տված թույլտվություններով։ Google-ն ասել է, որ Android-ում օգտատերերը պետք է գիտակցաբար թույլատրեն ծանուցումների հասանելիությունը։
Reuters-ը Signal-ի և AI Now Institute ոչ առևտրային հետազոտական կազմակերպության աշխատակիցների հետ փորձարկել է այդ հասանելիությունը։ Երբ Muse-ին խնդրել են կարդալ օգտատերերի սեփական սարքերում գտնվող Signal-ի հաղորդագրությունները, այն շրջանցել է Meta-ի՝ առանձին հավելվածները միացնելու գործիքը՝ օգտագործելով կարգավորման ժամանակ տրված թույլտվությունները․ փորձարկումները չեն հաստատել Muse-ի մեկ այլ հաշվից հաղորդագրություններ ստանալու հնարավորությունը։ Android-ում այն կարդացել է ծանուցումների տեքստը։ macOS-ում օգտագործել է էկրանի նկարահանման և մատչելիության գործիքները, որոնք նախատեսված են հաշմանդամություն ունեցող մարդկանց համակարգչից օգտվելուն օգնելու համար։ Նույն խնդրանքները iPhone-ում արգելափակվել են։
Signal-ի ծայրից ծայր գաղտնագրումը պաշտպանում է հաղորդագրության բովանդակությունը՝ ուղարկողից հասցեատիրոջը հասնելու ճանապարհին։ Երբ հասցեատիրոջ սարքը վերծանում և ցուցադրում է տեքստը, այն տեսնելու հնարավորություն ունեցող հավելվածը կարդալու համար ստիպված չէ կոտրել գաղտնագրումը։
Meta-ն Ars Technica-ին հայտնել է, որ աշխատակիցներն օգտագործում են Muse-ի տարբեր տարբերակներ և հաճախ փորձարկում հնարավորություններ կամ վարքագիծ, որոնք հանրությունը չի տեսնում։ Հանրությանը հասանելի հավելվածի մասին առաջին բողոքներից մեկը ներկայացրել է Inc.-ի սյունակագիր Ջեյսոն Էյթենը։ Նրա խոսքով՝ Muse-ը կարդացել է իր Mac-ի հաղորդագրությունները, թեև ինքն արգելել էր հասանելիությունը։ Meta-ի խոսնակ Դեյվիդ Սինգլթոնն ասել է, որ Muse-ին դրա համար անհրաժեշտ կլինեին սկավառակի համակարգային մակարդակի լիարժեք հասանելիություն և Messages հավելվածին միացնող կարգավորում։ Էյթենը վիճարկել է այդ պնդումը․ «Սկավառակի լիարժեք հասանելիությունն անջատված էր»։
Apple-ը նոյեմբերի 16-ին Mac-ի գործառնական համակարգի փորձնական տարբերակում՝ macOS 27.3 beta 2-ում, ներկայացրել է սարքի և սկավառակի հասանելիության ավելի մանրամասն կառավարման միջոցներ։ Նոր հարցումը հաստատելիս օգտատերերը կարող են, կախված թույլտվության տեսակից, սահմանափակել հասանելիությունը՝ այն տրամադրելով միայն որոշակի հավելվածների կամ պանակների, կամ պահանջել, որ հավելվածն ամեն անգամ հարցնի։ Նախկինում տրված թույլտվությունները մնում են ուժի մեջ։
Apple-ը ծրագրավորողներին ասել է փոխել օգտատերերին կարգավորման ընթացքում ուղղորդելու ձևը և համոզվել, որ իրենց հավելվածները կարող են աշխատել՝ հասանելիություն ունենալով միայն ընտրված պանակներին կամ հավելվածներին։ Սկավառակի պահուստավորման և օժանդակ ծրագրերի որոշ մշակողներ կարող են հատուկ թույլտվություններ խնդրել, որպեսզի նոր տեղադրված հավելվածները շարունակեն նախկինի պես աշխատել։
Signal-ի նախագահ Մերեդիթ Ուիթեքերը կոչ է արել ստեղծել միասնական միջոց, որով հավելվածների մշակողները կարող են իրենց հավելվածները նշել որպես Muse-ի նման օգնականների համար արգելված։ Նա խնդրել է Meta-ին և օգնականների մյուս ստեղծողներին հարգել այդ սահմանափակումները, իսկ գործառնական համակարգերի մատակարարներին՝ ապահովել դրանց պահպանումը։ Apple-ն ու Google-ն ասել են, որ քննարկում են հետագա փոփոխություններ, որպեսզի օգտատերերն ավելի շատ վերահսկեն իրենց տրամադրած թույլտվությունները։
Apache Roller-ի մշակողները հայտնել են, որ խոցելիությունն առկա է 4.0.0-ից մինչև 6.1.4 տարբերակներում և հարձակվողներին թույլ է տալիս առանց մուտք գործելու կամայական կոդ գործարկել խոցելի սերվերներում։
2 րոպե

Իռլանդիայի՝ վարկային միությունների հարցերով նախարարը ներգրավված մատակարար է նշել Wellington IT-ին և գնահատել, որ միջադեպն առնչվել է իռլանդական մոտ 40 վարկային միության։ Միջադեպի ամբողջ ծավալը դեռ պարզվում է։
3 րոպե

Google-ը հայտնում է, որ բաժանորդները կարող են աշխարհի իր նոր մոդելը փորձել դիտարկչով աշխատող Project Genie նախատիպում, իսկ Google AI Pro-ի անդամները կարող են գրանցվել սպասման ցուցակում։
3 րոպե