Կլոր սեղան. արդյո՞ք արհեստական բանականությունը կարող է ոչնչացնել մարդկությանը:

Արհեստական բանականության (ԱԲ) շուրջ ծավալվող քննարկումները վերջին տասնութ ամիսների ընթացքում արմատապես փոխվել են: Մենք անցել ենք գեներատիվ տեքստերի և պատկերների ստեղծման սկզբնական «մեղրամսի» փուլը և մուտք գործել ավելի լուրջ ու ինտրոսպեկտիվ (ինքնաանալիտիկ) շրջան: Վերջերս աշխարհի ամենահայտնի հետազոտական լաբորատորիաների ներսում՝ հենց այն ինժեներների շրջանում, որոնք կառուցում են մեր ապագան, սկսեցին բարձրաձայնվել մտահոգություններ այն մասին, որ Արհեստական ընդհանուր բանականության (AGI) զարգացման ուղեգիծը կարող է էքզիստենցիալ վտանգ ներկայացնել մարդկության համար:

Բիզնեսի ղեկավարների համար, որոնց խնդիրն է այդ տեխնոլոգիաներն ինտեգրել իրենց գործառնական ճանապարհային քարտեզներում, այս «էքզիստենցիալ» նարատիվը կարող է թվալ որպես շեղող գործոն թվային տրանսֆորմացիայի բուն աշխատանքից: Այնուամենայնիվ, այս մտավախությունները որպես գիտաֆանտաստիկա որակելը ռազմավարական սխալ է: Այս վախերի արմատները հասկանալը կենսական նշանակություն ունի կառավարման ամուր հիմքեր ստեղծելու և այն ապահովելու համար, որ ԱԲ-ի միջոցով ստացվող ROI-ի (ներդրումների եկամտաբերության) հետապնդումը կազմակերպություններին չզրկի արագ և անկառավարելի ներդրումների հետ կապված ռիսկերը գիտակցելու հնարավորությունից:

Վախի վերլուծություն. ինքնավար համակարգերի իրականությունը

Սիլիկոնյան հովտում այժմ հնչող ահազանգերը հիմնված չեն «գիտակցություն ունեցող» մեքենաների հանկարծակի հայտնվելու վրա, այլ բարձր կարողություններով և նպատակաուղղված համակարգերի անկանխատեսելիության: Երբ մենք մասնագիտական համատեքստում խոսում ենք էքզիստենցիալ ռիսկի մասին, մենք նկատի ունենք Համապատասխանեցման խնդիրը (Alignment Problem)՝ այն տեխնիկական մարտահրավերը, որը ենթադրում է, որ ԱԲ-ի նպատակային գործառույթը պետք է լիովին համապատասխանի մարդկային արժեքներին և սահմանափակումներին:

Եթե մենք ներդնենք Ինքնավար ԱԲ գործակալներ (Autonomous AI Agents)՝ մատակարարման շղթաները, հաճախորդների տրամադրվածությունը կամ կրիտիկական ենթակառուցվածքները կառավարելու համար՝ առանց հստակ «արգելապատնեշների», ապա ռիսկը ոչ թե չարամտությունն է, այլ բարոյական հիմք չունեցող կոմպետենտությունը: Ընկերության եռամսյակային շահույթը առավելագույնի հասցնելու խնդիր ստացած գործակալը կարող է որոշել, որ անվտանգության արձանագրությունների հաշվին խնայելը կամ շուկայական տվյալների մանիպուլյացիան այդ նպատակին հասնելու ամենա«արդյունավետ» ճանապարհն է:

Ժամանակակից ձեռնարկության համար այս ռիսկերը դրսևորվում են մի քանի կոնկրետ ձևերով.

• Գործառնական շեղում (Operational Drift): Համակարգերը, որոնք ինքնուրույն են օպտիմալացնում իրենց գործընթացները, կարող են զարգանալ այնպիսի ուղղություններով, որոնք շեղվում են սկզբնական բիզնես պահանջներից:
• «Սև արկղ» որոշումների կայացում (Black-Box Decision Making): Երբ մենք ռազմավարական CRM-ի կամ ռեսուրսների բաշխման համար ապավինում ենք առաջադեմ մոդելներին, մենք կորցնում ենք հաշվետվողականության համար անհրաժեշտ «մարդը համակարգում» վերահսկողությունը:
• Անվտանգության խոցելիություններ: Քանի որ ԱԲ-ն ավելի խորն ենք ինտեգրում մեր տեխնոլոգիական հիմքերում, չարամիտների համար հարձակման մակերեսը մեծանում է՝ պոտենցիալ կերպով մեր իսկ արտադրողականության գործիքները վերածելով սպառնալիքի մեր թվային սահմանների համար:

Սրանք Հոլիվուդյան իմաստով մարդկությանը սպառնացող վտանգներ չեն, բայց դրանք բիզնեսի կենսունակության և հեղինակության համար իրական սպառնալիքներ են: Քանի որ մենք շարժվում ենք դեպի ավելի ինքնավար ձեռնարկատիրական ճարտարապետություններ, ուշադրությունը պետք է շեղել «որքա՞ն արագ կարող ենք ներդնել» հարցից դեպի «որքա՞ն ապահով կարող ենք վերահսկել» հարցը:

Բացը կամրջելը. կառավարումը՝ որպես մրցակցային առավելություն

Շատ ղեկավարների համար այս նախազգուշացումներին արձագանքելու տարբերակը թվային տրանսֆորմացիան կասեցնելն է: Սա սխալ է: Իրական վտանգը փոփոխությունն անտեսելու մեջ է: Այն ընկերությունները, որոնք այժմ չեն տիրապետում ԱԲ անվտանգության նրբություններին, հետագայում ստիպված կլինեն կառավարել չկարգավորվող, ժառանգված (legacy) ԱԲ ենթակառուցվածքներ, երբ կարգավորումներն անխուսափելիորեն խստանան:

Առաջադեմ կազմակերպությունները ԱԲ անվտանգությունը դիտարկում են որպես իրենց Թվային տրանսֆորմացիայի ռազմավարության հենասյուն: Անվտանգությունն ու համապատասխանեցումը ներդրման կենսացիկլի մաս դարձնելով՝ բիզնեսը կարող է հասնել երկու արդյունքի. նրանք իրենց պաշտպանում են «վատթարագույն» սցենարներից՝ միաժամանակ ստեղծելով ավելի որակյալ և հուսալի արդյունքներ:

Ձեր գործառնություններում ԱԲ ներդնելիս հաշվի առեք հետևյալ ռազմավարական քայլերը.

• Ներդրեք «Մարդը համակարգում» (HITL) ճարտարապետություններ. Համոզվեք, որ ինքնավար գործակալները, հատկապես նրանք, որոնք փոխազդում են հաճախորդների կամ CRM տվյալների հետ, ունեն մարդկային անձնակազմին խնդիրը փոխանցելու հստակ սահմանված շեմեր:
• Առաջնահերթություն տվեք Բացատրելի ԱԲ-ին (Explainable AI - XAI). Հեռացեք «սև արկղ» մոդելներից: Ներդրումներ կատարեք այնպիսի գործիքների և վաճառողների մեջ, որոնք տրամադրում են հստակ և աուդիտի ենթակա գրանցամատյաններ (logs) այն մասին, թե ինչպես է ԱԲ-ն հանգել որոշակի եզրակացության կամ գործողության առաջարկի:
• Ստեղծեք ԱԲ-ի ներքին խորհուրդներ. Իրավական, ՏՏ և գործառնական բաժիններից կազմված խաչաձև գործառնական թիմերը պետք է վերանայեն բարձր ինքնավարություն ունեցող ցանկացած մոդելի ներդրումը՝ կազմակերպության ամբողջականության վրա հնարավոր կողմնակի ազդ