Գեներատիվ արհեստական բանականության (ԱԲ) արագընթաց ժողովրդավարացումը մեզ կանգնեցրել է պարադոքսալ իրավիճակի առջև։ Մի կողմից՝ մենք ականատես ենք լինում արտադրողականության, ստեղծագործական ներուժի և բարդ աշխատանքային գործընթացների ավտոմատացման աննախադեպ աճի։ Մյուս կողմից՝ այս գործիքների անարգել օգտագործման հնարավորությունը բացահայտել է «անվտանգությունը՝ նախագծման փուլում» սկզբունքի զգալի բացը, որն այժմ առկա է բաց կոդով (open-source) էկոհամակարգում։ Hugging Face-ում՝ մեքենայական ուսուցման մոդելների համար արդյունաբերության փաստացի կենտրոնում, տեղակայված պատկերների գեներացման առաջատար մոդելների վարքագծի վերլուծությունը ցույց է տվել, որ այն պաշտպանիչ մեխանիզմները, որոնք, մեր կարծիքով, գործում են, հաճախ չափազանց խոցելի են, ինչը հանգեցնում է անպարկեշտ բովանդակության ոչ պատշաճ ստեղծմանը։
Բիզնես ղեկավարների և տեխնոլոգիական որոշումներ կայացնողների համար սա պարզապես ակադեմիական շրջանակներում քննարկվող նեղ մասնագիտական էթիկական վեճ չէ։ Սա ռիսկերի կառավարման կրիտիկական խնդիր է, որը գտնվում է բրենդի հեղինակության, թվային կառավարման և ձեռնարկություններում ԱԲ գործակալների անվտանգ ներդրման խաչմերուկում։ Երբ թվային տրանսֆորմացիայի համար օգտագործվող գործիքները կարող են ծառայել չարամիտ նպատակների, վստահության այն հիմքը, որի վրա հիմնված է ԱԲ-ի հաջող ներդրումը, սկսում է խարխլվել։
Բաց կոդով կառավարման փխրունությունը
Հիմնական խնդիրը բաց կոդով ծրագրաշարերի ճկունության և անվտանգության հուսալի զտիչների անհրաժեշտության միջև առկա լարվածությունն է։ Hugging Face-ը հանդիսանում է ժամանակակից ԱԲ շարժման հենասյունը՝ հյուրընկալելով հազարավոր մոդելներ, որոնք ստարտափներին և ձեռնարկություններին թույլ են տալիս նորարարություններ անել անհավանական արագությամբ։ Այնուամենայնիվ, պատկերների խմբագրման աշխատանքային գործընթացները ուսումնասիրող հետազոտողները պարզել են, որ մոդելները շահարկելու և առանց համաձայնության անպարկեշտ բովանդակություն ստեղծելու հեշտությունը մտահոգիչ է։ Վերլուծելով մոտ 1000 հանրային պատկերների խմբագրման հրահանգներ (prompts)՝ փորձագետները նկատել են հստակ օրինաչափություն. օգտատերերը հաջողությամբ շրջանցում են անվտանգության արձանագրությունները՝ մարդկային կերպարները մանիպուլյացիայի ենթարկելու համար՝ խախտելով անձնական գաղտնիության և անվտանգության չափանիշները։
Այս իրավիճակը ընդգծում է «արագ գործիր և փոփոխություններ արա» փիլիսոփայության հիմնարար թերությունը, երբ այն կիրառվում է գեներատիվ մեդիայի նկատմամբ։ Մինչ ընկերությունները սովորաբար առաջնահերթություն են տալիս արդյունավետության ցուցանիշներին և արագագործությանը, մոդելների անվտանգության ճարտարապետությունը հաճախ թողնված է համայնքի հայեցողությանը։ CIO-ի կամ CTO-ի համար սա հարց է առաջացնում. եթե բաց կոդով մոդելը կարող է զենքի վերածվել պարզ հրահանգների ինժեներիայի միջոցով, ապա ի՞նչ է դա նշանակում այն ներքին սեփական տվյալների բազաների համար, որոնց հետ աշխատակիցներն առնչվում են ամեն օր։
Բիզնեսի համար հետևանքները եռակի են.
- Բրենդի պատասխանատվություն. Եթե կազմակերպությունն անզգուշաբար օգտագործի, հավանություն տա կամ հյուրընկալի ԱԲ գործիքներ, որոնք կապված են անպարկեշտ բովանդակության ստեղծման հետ, հասարակայնության հետ կապերի (PR) հարվածը կարող է անդառնալի լինել։
- Կարգավորող ռիսկեր. Քանի որ աշխարհում իրավասու մարմինները խստացնում են deepfake-երի և գեներատիվ ԱԲ-ի վերաբերյալ օրենքները, այն կազմակերպությունները, որոնք չեն աուդիտի ենթարկում իրենց ԱԲ ենթակառուցվածքը, բախվում են իրավական հետապնդումների, հատկապես եթե պարզվի, որ իրենց թվային արտադրանքը նպաստում է վնասակար բովանդակության ստեղծմանը։
- Վստահության էրոզիա. Սպառողները գնալով ավելի զգուշավոր են դառնում ԱԲ-ի նկատմամբ։ Եթե էկոհամակարգը ընկալվի որպես «վայրի արևմուտք», որտեղ անձնական տվյալները կարող են շահագործվել առանց հետևանքների, ապա բարձր արժեք ունեցող ԱԲ գործառույթների (օրինակ՝ հիպեր-անհատականացված մարքեթինգ կամ զրուցակից գործակալներ) ներդրման խոչընդոտները զգալիորեն կմեծանան։
ԱԲ-ի ռազմավարական ներդրումը մանրակրկիտ ստուգումների դարաշրջանում
Քանի որ բիզնեսներն ավելի խորն են ընկղմվում թվային տրանսֆորմացիայի մեջ, նպատակը պետք է լինի ոչ թե գեներատիվ ԱԲ-ից խուսափելը, այլ այն ծագումնաբանության և անվտանգության խիստ շրջանակներում իրականացնելը։ Ավտոմատացումը և ԱԲ գործակալները հաջորդ տասնամյակի շարժիչ ուժերն են, բայց դրանք պահանջում են «վստահությունը՝ առաջին տեղում» ճարտարապետություն։ Մենք ականատես ենք լինում մի տեղաշարժի, երբ ձեռնարկությունները հրաժարվում են չմշակված, անվերահսկելի բաց կոդով մոդելներից՝ անցնելով մասնավոր, մեկուսացված (sandboxed) միջավայրերի, որտեղ օգտագործումը կարող է վերահսկվել, գրանցվել և սահմանափակվել։
ԱԲ-ի ներդրումից ստացվող եկամտաբերությունը (ROI) միայն արագության մեջ չէ, այլ բիզնես գործընթացների հուսալի, կրկնվող և համապատասխան կատարման մեջ։ Եթե CRM համակարգը կամ հատուկ կառուցված չաթ-բոտը օգտվում են գեներատիվ մոդելից, որը չի անցել չարամիտ հրահանգների (prompt injections) կամ էթիկական խախտումների սթրես-թեստեր, բիզնեսը ենթարկվում է գործառնական ռիսկի։
Այս ռիսկերը մեղմելու համար առաջադեմ կազմակերպությունները կիրառում են հետևյալ ռազմավարությունները.
- Մոդելների ստուգում և աուդիտ. ԱԲ մոդելին վերաբերվել ինչպես ցանկացած այլ երրորդ կողմի մատակարարի։ Սա ներառում է տեղակայումից առաջ կողմնակալության, անվտանգության շրջանցումների և ընկերության քաղաքականությանը համապատասխանության ստուգումը։
