Մարդկային մաթեմատիկայի ասոցիացիան կոչ է անում բոյկոտել OpenAI-ը


Կոչը հաջորդել է հարյուրավոր ենթադրյալ լուծումների հրապարակմանն ու վեճին, թե ինչպես ստուգել և բացատրել գերբանականությամբ ստացված ապացույցներն ու նշել դրանցում օգտագործված աշխատանքների հեղինակներին։
Հոկտեմբերի 8-ին The Decoder-ը հայտնել է, որ Մարդկային մաթեմատիկայի ասոցիացիան մաթեմատիկոսներին կոչ է անում դադարեցնել OpenAI-ի հետ համագործակցությունը՝ ընկերության կողմից գերբանականությամբ ստացված ապացույցների հրապարակման պատճառով։ Ասոցիացիան ընկերությանը մեղադրում է գիտական հետազոտության նորմերը խախտելու մեջ։ Նրա հայտարարությունը բոյկոտի կոչ է, ոչ թե հետազոտողների համար սահմանափակումներ սահմանող կանոն։
Ըստ The Verge-ի՝ հոկտեմբերի 6-ի հաղորդման՝ հրապարակված հավաքածուն պարունակում է դեռ անհասանելի գերբանականության մոդելի ստացած 722 ձեռագիր, որոնք ընդգրկում են 372 «արդյունքների խումբ»՝ փոխկապակցված հոդվածների խմբեր։ Հրապարակմանը նախորդել էր OpenAI-ի՝ սեպտեմբերին արած պնդումը, որ լուծել է մաթեմատիկայի ոլորտների մեծ մասում երկար ժամանակ չլուծված ավելի քան 100 խնդիր։ Այդ ժամանակ ընկերությունը դեռ չէր բացահայտել խնդիրները կամ հրապարակման հստակ ամսաթիվը։ Հոդվածները տեղադրված են GitHub-ում՝ ծրագրային կոդն ու նախագծերի ֆայլերը տեղադրելու հարթակում, վերանայումների գրանցումներով և հղումներով։ Մաթեմատիկայի և գերբանականության հարցերով անկախ խորհրդատվական խմբի համաձայն՝ հավաքածուն պարունակում է «հարյուրավոր» չլուծված հարցերի լուծումներ։ Դեռ պարզ չէ, թե ներկայացված լուծումներից քանիսը կհաստատեն անկախ մաթեմատիկոսները։
Վեճն այն մասին է, թե արդյոք խնդիրը կարելի է լուծված համարել, քանի դեռ անկախ մաթեմատիկոսները չեն ուսումնասիրել դրա ապացույցը և այն մարդկանց համար հասկանալի չեն դարձրել։ Մարդկային մաթեմատիկայի ասոցիացիան ավելի քան 700 ֆայլի միաժամանակյա հրապարակումը համարում է ոչ թե գիտական աշխատանքի, այլ ուժի ցուցադրություն։ Այն նաև պնդում է, որ OpenAI-ն անտեսել է խորհրդատվական խմբի առաջարկությունների այն դրույթը, որն ասոցիացիան առանցքային է համարում․ մաթեմատիկական բարդ խնդիրները չպետք է փորձարկվեն ընկերության ներքին մոդելներով։
Ասոցիացիայի նախագահ Թերենս Տաոն դրա հայտարարությունը տարածել է իր բլոգում։ Ավելի վաղ հայտարարության մեջ Տաոն և մաթեմատիկական մրցանակի՝ Ֆիլդսի մեդալի 24 այլ դափնեկիրներ պնդել էին, որ խնդիրների լուծումն ավելի լայն նպատակի է ծառայում՝ հասկանալ դրանց հիմքում ընկած մաթեմատիկական գաղափարները։ Նրանք զգուշացրել էին, որ լուծումների արագ ստացումը կարող է նվազեցնել նոր գաղափարներ զարգացնելու հնարավորությունները։
Հայտարարությունը ստորագրած մաթեմատիկոսները քննադատել էին նաև հապճեպ հայտարարությունները, որոնք չունեն պատշաճ բացատրություններ կամ համապատասխան նախորդ աշխատանքների հղումներ։ Նրանց խոսքով՝ այս գործելակերպը «լուրջ հարցեր է առաջացնում հեղինակների նշման և գրագողության առնչությամբ»։ Սրանք մաթեմատիկոսների մտահոգություններն են, ոչ թե հաստատված եզրակացություններ, որ OpenAI-ը գրագողություն է արել։
The Decoder-ն ընթեռնելիության խնդիրը ներկայացնում է հետազոտող Դանա Մոշկովիցի արձագանքի օրինակով։ Խոսքը տեսական համակարգչային գիտության չլուծված խնդրի՝ եզակի խաղերի վարկածի ենթադրյալ ապացույցի մասին է։ Բարդության տեսության մասնագետ Սքոթ Աարոնսոնի հրապարակած հաղորդագրություններում Մոշկովիցն ասել է, որ հոդվածի մեծ մասն անհասկանալի է, և դրանում հղումներ են տրվում նախորդ աշխատանքներին՝ առանց բացատրելու, թե ինչու են դրանք կիրառելի։ Նրա խոսքով՝ հոդվածն անհնար էր կարդալ առանց գերբանականության օգնության։ Նրա քննադատությունը վերաբերում է այդ ենթադրյալ ապացույցի ներկայացմանը․ այն չի հաստատում, որ յուրաքանչյուր ձեռագիր անընթեռնելի է կամ սխալ։
Տաոյի պնդմամբ՝ երկար ժամանակ չլուծված խնդիրների ավանդական լուծումներին հաջորդում են զեկուցումներ, աշխատաժողովներ և համագործակցություններ, որոնց միջոցով հետազոտողները հասկանում են արդյունքներն ու զարգացնում դրանք։ Նրա խոսքով՝ գերբանականության ինքնուրույն ստացած լուծումները կարող են ավելի քիչ նման փոխանակման հանգեցնել, երբ դրանք ներկայացնող մարդիկ չեն կարող բացատրել ապացույցները կամ պատասխանել հարցերին։ Նա առաջարկում է առաջընթացը գնահատելիս ավելի մեծ տեղ տալ բացատրություններին, գիտական հանրության ձևավորմանն ու հետազոտական նոր ուղղություններին՝ համապատասխանաբար փոխելով ուսուցման, հրապարակման և մասնագիտական առաջխաղացման մոտեցումները։
Այլ մաթեմատիկոսներ աշխատանքն այլ կերպ են գնահատում։ Fortune-ի՝ հոկտեմբերի 7-ի հրապարակման մեջ Տորոնտոյի համալսարանի մաթեմատիկայի պրոֆեսոր Դեն Լիթը ողջունել է իրեն հետաքրքրող խնդիրներին առնչվող լուծումները և դրական գնահատել դրանց հասանելիությունը GitHub-ում։ Լիթը, որը խորհրդատվական խմբի անդամ չէր, ասել է, որ արդյունքները հասկանալու համար մարդկային մեծ աշխատանք կպահանջվի, բայց այն համեմատել է մաթեմատիկոսների վաղուց կատարած աշխատանքի հետ։
Լիթը հավանություն է տվել հրապարակման կազմակերպման մեծ մասին։ Նրա գնահատմամբ՝ OpenAI-ը չէր կարող յուրաքանչյուր արդյունքի համար խիստ գիտական չափանիշներին համապատասխանող հոդված պատրաստել․ ընկերության մոդելները դժվարանում են բացատրել մաթեմատիկան և հղումներ տալ նախորդ աշխատանքներին, իսկ ընկերությունը չունի համապատասխան ոլորտներում մասնագիտացած բավարար թվով մաթեմատիկոսներ։ Նրա գնահատականը չի հաստատում ներկայացված յուրաքանչյուր լուծումը։
Մաթեմատիկայի և գերբանականության հարցերով խորհրդատվական խմբի դիրքորոշումը տարբերվում է բոյկոտի կոչ անող ասոցիացիայի դիրքորոշումից։ Ըստ The Decoder-ի՝ խումբը հրապարակումը համարում է առաջին քայլ՝ նշելով, որ արդյունքների մաթեմատիկական ըմբռնումը նոր է սկսվում։ Խորհրդատվական խումբը չի կարող ազդել OpenAI-ի ներքին հետազոտությունների տեմպի վրա։
Այնուամենայնիվ, խորհրդատվական խումբը զգուշացնում է, որ մաթեմատիկան չի կարող վերածվել բացառապես գերբանականության լաբորատորիաների ստացած արդյունքները մեկնաբանելու աշխատանքի։ Նրա խոսքով՝ հետազոտողներին անհրաժեշտ են հզոր գործիքներից օգտվելու արդար հնարավորություններ և բավարար հաշվարկային ռեսուրսներ՝ իրենց սեփական հարցերն ուսումնասիրելու համար։
Մաթեմատիկոսները պետք է կարողանան ձևակերպել իրենց սեփական հարցերը, մշակել սեփական մոտեցումները և ուսումնասիրել ուղղություններ, որոնք չեն ընտրվել որպես արհեստական բանականության համակարգի հնարավորությունների օրինակներ։
Շատ ապացույցներ ունեն Lean-ով ֆորմալացված տարբերակներ։ Դրանք գրված են ծրագրավորման լեզվով, որը ծրագրային ապահովմանը թույլ է տալիս ստուգել մաթեմատիկական տրամաբանությունը։ Հոկտեմբերի 7-ին The Decoder-ը հայտնել է, որ այս ստուգումները կարող են օգնել արդյունքների այնպիսի ծավալի դեպքում, որը կարող է գերազանցել դրանք ձեռքով ստուգելու հնարավորությունները։ Դրանք չեն կարող հաստատել արդյունքների մաթեմատիկական կարևորությունը կամ ինքնատիպությունը, իսկ շատ ապացույցների ֆորմալացված տարբերակների առկայությունը չի նշանակում, որ ամբողջ հավաքածուն ծրագրով ստուգելի է։
OpenAI-ի խոսքով՝ կհրապարակի նաև այլ ֆորմալացված տարբերակներ, երբ դրանք ստանա։
Ըստ OpenAI-ի՝ գրեթե յուրաքանչյուր արդյունք ստացվել է գերբանականության մեկ գործակալին մեկ մուտքային հարցում՝ մոդելին տրվող մուտքային տվյալ, տրամադրելով, թեև որոշ արդյունքների համար պահանջվել են մի քանի փորձեր։ Ընկերության գնահատմամբ՝ միջինում օգտագործվել են մոտավորապես այնքան հաշվարկային ռեսուրսներ, որքան ChatGPT Pro Thinking-ն օգտագործում է երեք ժամում։ Ընկերությունը տրամադրում է դատողությունների որոշ ամփոփումներ և փորձերի վիճակագրություն։ Նրա խոսքով՝ շտեմարանը ներառում է նաև հոդվածները վերանայելու և դրանց հղումներ տալու կարգեր։
Սեպտեմբերի վերջին խորհրդատվական խումբն առաջարկել էր հետևել մաթեմատիկական գիտական հոդվածների ընդունված կանոններին, որպեսզի հետազոտողները կարողանան մանրակրկիտ ուսումնասիրել գերբանականությամբ ստացված ապացույցները և դրանցից նոր գիտելիք ստանալ։ Խումբը նաև կոչ էր արել արդյունքները հրապարակել առանց հապաղելու՝ հնարավորության դեպքում օգտվելով ընդունված գիտական հրապարակման հարթակներից։
Յուրաքանչյուր լուծման համար խումբը խնդրել էր ներկայացնել մոդելի անունը, մուտքային հարցումները, դատողությունների քայլերը, պահանջված ժամանակը, հաշվարկային մոտավոր ծախսը և բացատրել, թե ինչու է ընտրվել տվյալ խնդիրը։ Միանգամից բազմաթիվ արդյունքներ հրապարակելու դեպքում խումբը նաև ցանկանում էր ստանալ բացատրություն, թե ինչու են ընտրվել հենց այդ խնդիրները և համադրելի բարդության քանի խնդիր է մոդելը փորձել լուծել ու ձախողվել։
Հոկտեմբերի 7-ին Fortune-ը հայտնել է, որ OpenAI-ը հետևել է այդ առաջարկությունների մի մասին, բայց ոչ բոլորին։ OpenAI-ի խոսքով՝ դատողությունների ամփոփումներ, հաշվարկային ռեսուրսների գնահատականներ և փորձերի վիճակագրություն տրամադրել է տասը խնդրի, ոչ թե յուրաքանչյուր լուծման համար։ Ընկերությունը մուտքային հարցումները չի հրապարակել։ The Decoder-ի՝ հոկտեմբերի 7-ի հաղորդման մեջ ներկայացվել էին հաշվարկային ռեսուրսների օգտագործման միջին ցուցանիշներ, իսկ Fortune-ը նկարագրել էր տասը խնդրի համար գնահատականներ, ոչ թե յուրաքանչյուր լուծման հաշվարկային ծախսերի բացահայտումը։
Հոկտեմբերի 6-ի հայտարարությամբ խորհրդատվական խումբը վերահաստատել է իր առաջարկությունները, OpenAI-ի հետ քննարկումները համարել կառուցողական և մաթեմատիկական հանրությանը թողել գնահատել դրանց կատարման աստիճանը։ Ավելի վաղ առաջարկություններում խումբը նաև ընկերություններին կոչ էր արել մաթեմատիկական արդյունքները չօգտագործել իրենց մոդելները գովազդելու համար՝ պնդելով, որ այդ գործելակերպը զգալի վնաս է հասցնում մաթեմատիկական հանրությանը։
OpenAI-ի խոսքով՝ այս նյութերի հրապարակման համար ուսումնասիրում է հանրության կողմից սպասարկվող այլընտրանքային հարթակներ, որոնք համապատասխանում են խորհրդատվական խմբի ուղեցույցներին։ Ընկերությունը պարտավորվել է հետագա հրապարակումներում բարելավել հղումները, մաթեմատիկական բացատրություններն ու արդյունքների ներկայացումը։ Այն նաև ասում է, որ կֆինանսավորի աշխատաժողովներ, գիտաժողովներ և ծրագրեր՝ մաթեմատիկոսներին օգնելու հասկանալ արդյունքները։
Sierra-ն, Walmart-ը և Stripe-ը Meta-ի հետ մշակում են կանոններ, որոնք, գործընկերների խոսքով, բիզնեսներին կօգնեն ճանաչել լիազորված գործակալներին և տեսնել նրանց գործողությունները։
2 րոպե

Ըստ հաղորդման՝ թողարկված շտկումը վերացնում է խոցելիությունը։ CISA-ն նաև խորհուրդ է տալիս սահմանափակել կառավարման համակարգերի հասանելիությունը ցանցից։
2 րոպե

Ընկերության փոխանցմամբ՝ խոցելիությունն առկա է SOI-ի 2.0.0–2.2.0 տարբերակներում։ Այն խորհուրդ է տալիս տեղադրել EP2 շտկող փաթեթը, որը ներառում է նաև նախորդ շտկումները։ CISA-ն բառացի վերահրապարակել է ծանուցումը։
2 րոպե