«Իրավական կրթություն և վերահսկողություն» ՀԿ հիմնադիր, արդարադատության նախկին նախարար Արփինե Հովհաննիսյանը ֆեյսբուքյան իր էջում գրում է.
«Anthropic-ի ղեկավար Դարիո Ամոդեյն սեպտեմբերի 12-ին հրապարակած էսսեում առաջարկում է դանդաղեցնել ամենահզոր համակարգերի կարողությունների զարգացման տեմպը, որպեսզի անվտանգության մեխանիզմները հասցնեն դրանց հետևից։ Սեմ Ալթմանը և Իլոն Մասկը հրապարակայնորեն աջակցել են առաջարկին։
Խոսքը մեր ամենօրյա օգտագործման արհեստական բանականության համակարգերը կանգնեցնելու կամ դրանցից հրաժարվելու մասին չէ։ Խոսքը նոր սերնդի ամենահզոր համակարգերի մասին է, որոնց հնարավորություններն արդեն շատ ավելի հեռուն են գնում սովորական հարցուպատասխանից։ (օրինակ՝ Mythos 5-ը, որը թողարկումից ի վեր հասանելի է եղել միայն ստուգված գործընկերներին, իսկ հունիսին ԱՄՆ Առևտրի նախարարության արտահանման վերահսկողության հրահանգով ընդհանրապես անջատվել է շուրջ երեք շաբաթով։
Կամ Anthropic-ն ինքն է հրապարակել, որ 141 000-ից ավելի փորձարկումների վերանայման արդյունքում հայտնաբերել է երեք դեպք, երբ իր առաջադեմ մոդելները դուրս են եկել նախատեսված փորձնական միջավայրից և չարտոնված մուտք գործել երեք կազմակերպության իրական համակարգեր։
Կարդացեք նաև
Առաջարկներից մեկն այն է, որ ԱԲ ընկերություններից անկախ փորձագետները կարողանան որոշակի պայմաններով մուտք ունենալ ամենահզոր համակարգեր, ներսից ուսումնասիրել դրանց աշխատանքը, փորձարկել վտանգավոր հնարավորությունները, գնահատել անվտանգության մեխանիզմները և ուսումնասիրել արդեն տեղի ունեցած միջադեպերը։
Այստեղ առաջանում է կարևոր հարց՝ որքա՞ն հեռու պետք է գնա պետությունը կարգավորման հարցում։
ԱՄՆ գործող վարչակազմը վարում է արհեստական բանականության զարգացումը խթանող քաղաքականություն և շատ ավելի զգուշավոր է այնպիսի սահմանափակումների նկատմամբ, որոնք կարող են դանդաղեցնել ամերիկյան ընկերություններին։ Պատճառներից մեկն էլ ակնհայտ է՝ Չինաստանից հետ չմնալը դարձել է ռազմավարական խնդիր։
Եվրոպական միությունը, սակայն, արդեն ընտրել է ավելի խիստ մոտեցում։
2024 թվականին ընդունված Եվրամիության Արհեստական բանականության ակտը հիմնված է ռիսկերի տարբերակման վրա. որքան բարձր է ԱԲ կիրառման վտանգը, այնքան ավելի խիստ են պահանջները։ Կան կիրառություններ, որոնք ԵՄ տարածքում պարզապես արգելված են՝ մարդկանց սոցիալական գնահատման՝ social scoring-ի որոշ համակարգեր, որոշ բացառություններով՝ աշխատավայրում կամ ուսումնական հաստատություններում մարդկանց հույզերը ճանաչող AI-ի կիրառումը և այլն։ Ընդ որում՝ 2026 թվականի հուլիսին բարձր ռիսկի համակարգերի պահանջների կիրառումը հետաձգվեց մինչև 2027 թվականի դեկտեմբեր, իսկ թափանցիկության պահանջներն արդեն գործում են։ Այսինքն՝ խստությունը մնաց, ժամկետները տեղաշարժվեցին։
Արհեստական բանականության համակարգերի արագ զարգացումը և դրանց հնարավոր պատճառած վնասները ստեղծում են շատ իրական իրավական ռիսկ՝ ահռելի ծավալների դատական հայցեր և հնարավոր միլիարդավոր դոլարների հատուցումներ։ Դևիդ Սաքսը՝ Թրամփի վարչակազմի ԱԲ քաղաքականության առանցքային դեմքերից մեկը, նույնպես բարձրացրել է ԱԲ ընկերությունների համար մեծածավալ դատական պատասխանատվության վտանգը, հատկապես, եթե ինչ որ բան այնպես չաշխատի։
Այս կոնտեքստում կուզեի առանձնացնել երեք գործ, որովհետև, իմ կարծիքով, դրանցում տրվող պատասխանները կենտրոնական նշանակություն են ունենալու ամբողջ ոլորտի հետագա զարգացման համար։
Առաջինը՝ The New York Times v. OpenAI and Microsoft գործն է (ChatGPT), որը սկսվել է 2023 թվականին։
Այն սկսվել է որպես հեղինակային իրավունքի վեճ, բայց բարձրացված հարցերը շատ ավելի լայն են. կարելի՞ է հեղինակային իրավունքով պաշտպանված միլիոնավոր նյութեր օգտագործել արհեստական բանականություն վարժեցնելու համար, ո՞ր դեպքում է դա օրինական, ի՞նչ է տեղի ունենում, երբ համակարգն իր պատասխանում վերարտադրում է պաշտպանված նյութը, և վերջապես՝ ո՞վ է պատասխանատու՝ համակարգը ստեղծած ընկերությո՞ւնը, օգտատե՞րը, թե՞ երկուսն էլ։
Երկրորդը՝ Եվրոպայում քննվող Like Company v. Google Ireland (Google Gemini) գործն է (C-250/25)՝ Եվրամիության դատարանի առջև գեներատիվ արհեստական բանականության և հեղինակային իրավունքի վերաբերյալ առաջին գործը։ Այստեղ ևս քննարկվում է՝ ինչ պատասխանատվություն է առաջանում պաշտպանված նյութը համակարգը վարժեցնելու համար օգտագործելու կամ հետո դրա պատասխանում վերարտադրելու դեպքում։ Մեծ դեր ունեն մամուլի հրատարակիչների հարակից իրավունքը և մեծածավալ տեքստերի համակարգչային վերլուծության մասին ԵՄ կարգավորումը։ Առաջին բանավոր լսումը կայացել է 2026 թվականի մարտին, գործը դեռ քննվում է։
Երրորդ գործն արդեն ավարտվել է հաշտության համաձայնությամբ։ Bartz v. Anthropic PBC գործով Anthropic-ը (Claude) համաձայնել է 1.5 միլիարդ դոլար վճարել հեղինակների խմբային հայցը կարգավորելու համար՝ շուրջ 482 000 ստեղծագործության մասով։ Ընդ որում՝ դատարանը գտել էր, որ օրինական ձեռք բերված գրքերով մոդել վարժեցնելն ինքնին fair use է, իսկ վեճը վերաբերում էր ծովահենային (անօրինական) ճանապարհով ներբեռնված և ընկերության գրադարանում պահվող միլիոնավոր օրինակներին։ Համաձայնությունը վերջնականապես հաստատվել է 2026 թվականի հուլիսին։
Այսինքն՝ երբ այսօր խոսում ենք AI-ի անվտանգության մասին, խոսքը ոչ միստիկայի, ոչ էլ տեխնոլոգիան կանգնեցնելու մասին է։ Ինչպես ցանկացած հզոր տեխնոլոգիայի դեպքում, այստեղ էլ ռիսկերը պետք է ոչ թե անտեսել կամ դրամատիզացնել, այլ ժամանակին ու նորմալ հասցեագրել։
Խոսքը շատ կոնկրետ հարցերի մասին է՝ ինչ կարող է համակարգը, ով է դա ստուգում, ինչ անվտանգության մեխանիզմներ կան, որտեղ ենք սահման դնում և ով է պատասխան տալու, երբ այդ սահմանը խախտվի ու վնաս պատճառվի»։
Տեսանյութը` ԱԲ
