Արհեստական բանականության (ԱԲ) կառավարման ոլորտը այս շաբաթ հետաքրքիր շրջադարձային կետի հասավ։ Մինչ Սպիտակ տունը կազմակերպում էր բարձր մակարդակի «ԱԲ անվտանգության համաձայնագիրը» (AI Safety Accord), ոլորտի հսկաները՝ OpenAI-ը, Google-ը, Microsoft-ը, Anthropic-ը, Meta-ն և Amazon-ը, հավաքվել էին՝ պարտավորվելով հետևել անվտանգության կամավոր սահմանափակումներին։ Թեև տեխնոլոգիական հսկաների՝ դաշնային հրահանգներին հարմարվելու այս տեսարանը կարող է թվալ կորպորատիվ պատասխանատվության նոր դարաշրջանի սկիզբ, փորձառու դիտորդը պետք է տեսնի մամուլի հաղորդագրություններից այն կողմ՝ հասկանալու համար, թե ինչ է սա իրականում նշանակում գլոբալ բիզնես էկոհամակարգի և ձեռնարկությունների շահութաբերության համար։

Ըստ էության, այս համաձայնագիրն ավելի շատ «ջենթլմենական պայմանավորվածության» է նման, քան կարգավորող խիստ շրջանակի։ Այն առաջնահերթություն է տալիս կամավոր թափանցիկությանը, ներքին թեստավորմանն ու էթիկական ուղեցույցներին, սակայն ակնհայտորեն խուսափում է կիրարկման այն մեխանիզմներից, որոնք սովորաբար բնորոշ են ոլորտային ստանդարտներին։ Բիզնեսի ղեկավարների համար սա առաջ է քաշում կենսական հարց. արդյո՞ք այս համաձայնագիրը նշանակալի տեղաշարժ է ԱԲ-ի ներդրման մեջ, թե՞ ընդամենը հնազանդության ցուցադրություն՝ նպատակ ունենալով զերծ մնալ օրենսդրական ավելի կոշտ միջամտություններից։

Անվտանգության պատրանքը ընդդեմ ձեռնարկատիրական իրականության

Շատ CTO-ների և CIO-ների համար, ովքեր այժմ ղեկավարում են թվային փոխակերպման (Digital Transformation) նախաձեռնությունները, վերջին վերնագրերը անվտանգության կեղծ զգացում են հաղորդում։ Կամավոր պարտավորությունները հաճախ հանրային ընկալումը գերադասում են ռիսկերի մանրակրկիտ կառավարումից։ Եթե դիտարկենք, թե ինչպես են գործում այս ընկերությունները, նրանց ներքին զարգացման ցիկլերը պայմանավորված են մրցակցային ճնշմամբ և Արհեստական ընդհանուր բանականության (AGI) ստեղծման մրցավազքով։ Անվտանգությունը, թեև կարևորվում է, հաճախ ստորադասվում է շուկայական մասնաբաժինը պահպանելու համար անհրաժեշտ արագ տեղակայմանը։

Բիզնեսի շարունակականության տեսանկյունից՝ միայն կամավոր հայտարարագրերին ապավինելը բավարար չէ։ Խոշոր լեզվական մոդելներում (LLMs) մեծ ներդրումներ կատարող ընկերությունները պետք է գիտակցեն, որ անվտանգության այս պայմանագրերն իրենց չեն ազատում պատասխանատվությունից։ Երբ ձեռնարկությունը երրորդ կողմի ԱԲ ծառայությունը ներդնում է իր Հաճախորդների հետ հարաբերությունների կառավարման (CRM) հարթակում կամ օգտագործում այն զգայուն ֆինանսական աշխատանքային հոսքերն ավտոմատացնելու համար, տվյալների կառավարման, «հալյուցինացիաների» և կողմնակալության պատասխանատվությունը մնում է վերջնական օգտագործողի վրա։

Ներդրումների եկամտաբերության (ROI) վրա ազդեցությունը էական է.

  • Կարգավորող ռիսկերի կառավարում (Regulatory Hedging). Միայն մատակարարի տրամադրած անվտանգության արձանագրություններին ապավինելը ընկերությանը խոցելի է դարձնում քաղաքական փոփոխությունների և հնարավոր իրավական հետևանքների նկատմամբ։
  • Գործառնական կայունություն. Բիզնեսի ղեկավարները պետք է ներդնեն իրենց սեփական «մարդը՝ օղակում» (Human-in-the-Loop) վավերացման շերտերը՝ փոխանակ ենթադրելու, որ մատակարարի կամավոր անվտանգության մեխանիզմները բավարար են ձեռնարկատիրական մակարդակի համար։
  • Վստահության ստուգում. Քանի որ հաճախորդների տվյալների գաղտնիության վերաբերյալ մտահոգություններն աճում են, բիզնեսները պետք է ստուգեն՝ արդյո՞ք իրենց ԱԲ գործընկերները միայն հանրային համաձայնագրերով են «խոստանում» անվտանգություն, թե՞ իրականում տրամադրում են անվտանգության աուդիտների և համապատասխանության սերտիֆիկատների հավաստի փաստաթղթեր։

Դեպի ինքնավար կառավարում գործակալների դարաշրջանում

Այն տեղաշարժը, որին մենք այժմ ականատես ենք լինում՝ պարզ չաթ-բոտերից դեպի բազմաքայլ առաջադրանքներ կատարող բարդ ԱԲ գործակալներ (AI Agents), ավելի վտանգավոր է դարձնում անվտանգության նկատմամբ մակերեսային մոտեցումը։ Երբ ինքնավար գործակալին տրվում են CRM-ի բանալիները՝ տվյալներ թարմացնելու, հարցումներին պատասխանելու կամ վաճառքի աշխատանքային հոսքեր գործարկելու համար, սխալի հավանականությունը կտրուկ մեծանում է։ Այս շաբաթ ստորագրված կամավոր համաձայնագրերն անդրադառնում են ընդհանուր էթիկական մտահոգություններին, սակայն քիչ են օգնում այն գործառնական ռիսկերին, որոնք ծագում են, երբ գործակալը սխալ է կատարում առաջադրանքը անկանխատեսելի իրավիճակների պատճառով։

Կայուն արժեք ստեղծելու համար կազմակերպությունները պետք է դուրս գան Սիլիկոնյան հովտի «անվտանգության թատրոնին» հետևելուց և որդեգրեն «ոչինչ մի՛ ենթադրիր, ստուգի՛ր ամեն ինչ» սկզբունքը։ Սա նշանակում է ԱԲ-ի տեղակայումը դիտարկել որպես մասնագիտացված ինժեներական մարտահրավեր, այլ ոչ թե «plug-and-play» ծրագրային թարմացում։

Շուկայում հստակ միտում ենք տեսնում. հաջողության են հասնում այն ղեկավարները, որոնք ԱԲ անվտանգությունը դիտարկում են որպես իրենց ներքին համապատասխանության և ՏՏ ենթակառուցվածքային արձանագրությունների ընդլայնում։ Դաշնային հրահանգներին սպասելու կամ մոդել մատակարարողների կամավոր հայտարարություններին ապավինելու փոխարեն՝ առաջատար ընկերությունները կառուցում են սեփական կառավարման շրջանակները։ Այս մոտեցումը ներառում է.

  • Խիստ սեգմենտավորում (Strict Siloing). Ապահովել, որ ԱԲ համակարգերն ունենան սահմանափակ և վերահսկվող մուտք դեպի ձեռնարկության հիմնական տվյալների բազաներ։
  • Red-Teaming արձանագրություններ. Գործակալի վարքագծի շարունակական ներքին աուդիտների իրականացում՝ ձախողման կետերը հայտնաբերելու համար մինչև դրանց՝ հաճախորդների վրա ազդելը