Գեներատիվ արհեստական բանականության (AI) տարածումը ստեղծագործական արագության նախադեպը չունեցող մի ժամանակաշրջան է բացել։ Մենք տեսնում ենք, թե ինչպես են ընկերությունները ներդնում մեծ լեզվական մոդելներ (LLM) և համակարգչային տեսողության տեխնոլոգիաներ իրենց աշխատանքային գործընթացներում՝ թվային տրանսֆորմացիան արագացնելու, գործառնական ծախսերը նվազեցնելու և հաճախորդների փորձառությունը բարելավելու նպատակով։ Սակայն տեխնոլոգիաների այս ժողովրդավարացումն ունի նաև իր մութ կողմը։ Թվային էկոհամակարգի վերջին դատա-տեխնիկական վերլուծությունները ցույց են տալիս, որ սոցիալական մեդիայի խոշոր հարթակները՝ մասնավորապես YouTube-ը և X-ը, ակամայից դարձել են «nudify» հավելվածների հայտնաբերման հիմնական օջախներ։ Այս ծառայությունները չարամիտներին թույլ են տալիս զարմանալի հեշտությամբ և աննշան գնով ստեղծել առանց համաձայնության ստացված, սեռական բնույթի դիփֆեյքեր (deepfakes):
Բիզնեսի ղեկավարների և տեխնոլոգիական ճարտարապետների համար այս միտումը պարզապես աղմկահարույց վերնագիր չէ, այլ կարևոր ազդակ՝ կապված թվային վստահության, հարթակների անվտանգության և ժամանակակից ինտերնետին բնորոշ հեղինակային ռիսկերի հետ։ Մինչ մենք ավելի բարդ AI գործակալներ ենք ներդնում մեր գործառնական գործընթացներում, պետք է հասկանանք այն միջավայրը, որում զարգանում են այս տեխնոլոգիաները, և գեներատիվ ճարտարապետությունների չարաշահման հետևանքով առաջացած կողմնակի վնասները։
Չարաշահման ենթակառուցվածքը և վստահության քայքայումը
Այստեղ հիմնական խնդիրը ոչ թե տեխնոլոգիայի բարդությունն է, այլ դրա հասանելիությունը։ Հետազոտությունը ցույց է տալիս, որ վնասակար բովանդակություն ստեղծելու համար մուտքի շեմը նվազել է մինչև մոտավորապես 1 դոլար՝ մեկ պատկերի համար։ Դիփֆեյքերի գեներացման այս «ապրանքայնացումը» լուրջ մարտահրավեր է ստեղծում թվային ինքնության և ապրանքանիշի ամբողջականության համար։ Երբ գեներատիվ գործիքները օպտիմիզացվում են վնաս պատճառելու համար, դրա հետևանքները զգացվում են ամբողջ թվային տնտեսության մեջ։
Կորպորատիվ տեսանկյունից հետևանքները եռակի են.
- Ապրանքանիշի հափշտակում (Brand Hijacking): Բարձրաստիճան ղեկավարներ կամ ապրանքանիշի դեսպաններ ունեցող ընկերությունները գնալով ավելի խոցելի են դառնում դիփֆեյք արշավների նկատմամբ, որոնք նախագծված են ապատեղեկատվություն տարածելու կամ հանրային ընկալումը վնասելու համար։
- Հաճախորդների վստահություն: Երբ ինտերնետը դառնում է սինթետիկ պատկերների «ականադաշտ», սպառողները բնականաբար ավելի թերահավատ են դառնում ցանկացած թվային մեդիայի նկատմամբ։ Այս «զրոյական վստահության» (zero-trust) միջավայրը դժվարացնում է օրինական ընկերությունների համար իսկական թվային մարքեթինգի միջոցով իրենց լսարանի հետ կապ հաստատելը։
- Հարթակի պատասխանատվություն: Քանի որ YouTube-ի և X-ի նման սոցիալական մեդիա հսկաները շարունակում են պայքարել բովանդակության մոդերացիայի խնդիրների հետ, դեպի վնասակար կայքեր երթևեկությունը զսպելու նրանց անկարողությունը բիզնեսի վրա է դնում սեփական պաշտպանիչ միջոցառումներ և AI կառավարման շրջանակներ ներդնելու պատասխանատվությունը։
Ձեռնարկություններում AI-ի ընդունումը հաճախ հիմնված է հուսալի թվային էկոհամակարգի ենթադրության վրա։ Եթե մեր թվային ենթակառուցվածքի «դարպասները» արտահոսք են ունենում դեպի համացանցի անօրինական անկյուններ, ապա անվտանգ և իսկական թվային ներկայություն պահպանելու արժեքը մեծանում է։ Բիզնեսները պետք է հաշվի առնեն այս ռիսկերը իրենց թվային տրանսֆորմացիայի ճանապարհային քարտեզներում՝ թվային անվտանգությունը դիտարկելով որպես իրենց ենթակառուցվածքի հիմնական հենասյուն, այլ ոչ թե երկրորդական խնդիր։
AI կառավարման հորիզոնում կողմնորոշվելը
Այս «nudify» ծառայությունների գոյությունը ընդգծում է AI-ի ներդրման ներկայիս ցիկլի համակարգային ավելի լայն թերությունը։ Նշված վնասակար բովանդակության մեծ մասը ստեղծվում է բաց կոդով մոդելների միջոցով, որոնցից հանվել են անվտանգության սահմանափակումները։ Երբ այս մոդելները զուգակցվում են ավտոմատացման համար հարմար ինտերֆեյսների հետ, դրանք ստեղծում են թվային չարաշահման բարձր արդյունավետությամբ և նվազագույն ջանք պահանջող գործիքակազմ։
Կազմակերպչական փոփոխություններ իրականացնող առաջնորդների համար սա պահանջում է փոխել AI-ի ընդունման մոտեցումը։ Այլևս բավարար չէ պարզապես հարցնել. «Ի՞նչ կարող է այս AI գործակալն անել իմ շահույթի համար»։ Մենք պետք է նաև հարցնենք. «Ո՞րն է այս գործիքի ծագումը, և ի՞նչ կառավարման արձանագրություններ են կանխում դրա՝ որպես զենք օգտագործումը»։
Այս ռիսկերը մեղմելու համար կազմակերպությունները պետք է կենտրոնանան հետևյալ ռազմավարական առաջադրանքների վրա.
- AI էթիկայի ամուր քաղաքականություն. Մշակել ներքին շրջանակներ, որոնք թելադրում են ոչ միայն այն, թե ինչպես օգտագործել AI-ն, այլև ինչպես այն ձեռք բերել և ստուգել (vetted): Խուսափել երրորդ կողմի AI ինտեգրումներից, որոնք չունեն թափանցիկ անվտանգության ուղեցույցներ։
- Ներդրումներ սինթետիկ բովանդակության հայտնաբերման մեջ. Ներդնել AI-ով աշխատող հայտնաբերման ծրագրակազմ, որը կարող է ստուգել մեդիայի իսկությունը՝ հատկապես հաճախորդների հետ բարձր ռիսկայնության փոխգործակցության կամ բարձրագույն ղեկավարության հաղորդակցության դեպքում։
- Տվյալների գաղտնիության և CRM ամբողջականության ամրապնդում. Համոզվել, որ ձեր CRM-ը և հաճախորդների պրոֆիլները սնող տվյալները պաշտպանված են հնարավոր թունավորումից կամ չարտոնված սինթետիկ համադրումից: Որքան շատ ենք ավտոմատացնում, այնքան «մարդը գործընթացում» (human in the loop) դառնում է
