Ինքնավար AI գործակալների (Autonomous AI Agents) стրընթաց վերելքը գործարար աշխարհում քննարկումները «ի՞նչ կարող է անել այս տեխնոլոգիան» հարցից տեղափոխել է «ի՞նչ կլինի, երբ այն որոշի գործել ինքնուրույն» հարթություն: Մենք մուտք ենք գործել մի դարաշրջան, որտեղ ծրագրային ապահովումն այլևս պարզապես պասիվ գործիք չէ, որը կառավարվում է դետերմինիստական կոդով. այժմ այն թվային էկոհամակարգերի ակտիվ մասնակից է: Այս փոփոխությունը խոստանում է արդյունավետության աննախադեպ աճ, սակայն միաժամանակ բերում է պատասխանատվության հետ կապված բարդ ու աճող հարցերի մի շարք, որոնք բիզնեսի ղեկավարներն այլևս չեն կարող անտեսել:

Մինչ մենք ականատես ենք լինում AI-ի վրա հիմնված կիբերակտիվության աճին՝ սկսած չարտոնված API հարցումներից մինչև բարդ, ավտոմատացված ֆիշինգային արշավներ, արդյունաբերությունը ստիպված է բախվել «անկառավարելի գործակալի» (rogue agent) ֆենոմենին: Երբ ինքնավար համակարգը գործում է այնպես, որ առաջացնում է ֆինանսական, իրավական կամ հեղինակային վնաս, կորպորատիվ անփութության ավանդական շրջանակները չեն կարողանում համընթաց քայլել: Այս գործակալների՝ բազմափուլ աշխատանքային գործընթացներ իրականացնելու տեխնիկական կարողությունը հաճախ գերազանցում է շատ ընկերություններում ներկայումս գործող կառավարման մեխանիզմներին:

Պատասխանատվության բացը ինքնավար աշխատանքային գործընթացներում

Տասնամյակներ շարունակ ծրագրային անսարքության ստանդարտը հստակ էր. եթե համակարգը խափանվում կամ սխալ հաշվարկ էր անում, մատակարարը պատասխանատվության էր ենթարկվում ծրագրային սխալների կամ վատ նախագծման համար: Ինքնավար գործակալների դեպքում սահմանները մշուշոտ են: Այս համակարգերն օգտագործում են Խոշոր լեզվական մոդելներ (LLMs), որոնք հավանականային են և ոչ թե դետերմինիստական: Երբ գործակալը ինտեգրվում է Հաճախորդների հետ հարաբերությունների կառավարման (CRM) համակարգին՝ հարցումները լուծելու կամ գնային բանակցություններ վարելու համար, այն գործում է ինքնավարության այնպիսի աստիճանով, որը երբեք չի ունեցել ավանդական ծրագրային ապահովումը:

Պատասխանատվության մարտահրավերը ծագում է, երբ այդ գործակալները «հալյուցինացնում են» (հորինում են) աշխատանքային գործընթացներ կամ առաջնահերթություն են տալիս նպատակներին այնպես, ինչը մարդ-ճարտարապետը հստակ չի արտոնել: Դիտարկենք ձեռնարկատիրական միջավայրում ներկայումս ի հայտ եկող հետևյալ ռիսկերը.

  • API-ի սխալ օգտագործում և չափից ավելի արտոնություններ: Գործակալները հաճախ պահանջում են լայն հասանելիություն ձեռնարկատիրական տվյալների պահոցներին՝ արդյունավետ լինելու համար: Եթե գործակալը վտանգված է կամ սխալ է կարգավորված, այն կարող է փոխազդել երրորդ կողմի համակարգերի հետ այնպիսի եղանակներով, որոնք կակտիվացնեն անվտանգության արձանագրությունները կամ կխախտեն համապատասխանության ստանդարտները:
  • Ավտոմատացված ապատեղեկատվություն: Հաճախորդների հետ աշխատող դերերում գործակալը, որը տրամադրում է երաշխիքային սխալ տեղեկատվություն կամ կատարում է չարտոնված խոստումներ, կարող է ընկերությանը կապել պայմանագրային պարտավորություններով, որոնք դժվար է չեղարկել:
  • Կասկադային ձախողումներ: Քանի որ գործակալները գնալով ավելի են կապվում Ծրագրային ապահովման միջերեսների (APIs) միջոցով, մեկ գործակալի կողմից կատարված մեկ «անկառավարելի» գործողությունը կարող է առաջացնել «դոմինոյի էֆեկտ», որտեղ հաջորդ գործակալները կատարում են ավտոմատացված առաջադրանքներ՝ հիմնվելով սխալ մուտքային տվյալների վրա՝ ուժեղացնելով նախնական սխալը ամբողջ տեխնոլոգիական համակարգում:

Բիզնեսի ղեկավարների համար ավտոմատացման ներդրումների վերադարձը (ROI) ներկայումս կապված է նրա հետ, թե որքան արագ կարող են տեղակայվել այս գործակալները: Այնուամենայնիվ, ծախսերի և օգուտների իրական վերլուծությունը այժմ պետք է ներառի «Կառավարման հարկը» (Governance Tax)՝ այն ներդրումը, որն անհրաժեշտ է մարդու մասնակցությամբ (human-in-the-loop, HITL) խիստ ստուգումներ և մոնիթորինգի հզոր համակարգեր ստեղծելու համար, որոնք կծառայեն որպես ինքնավար վարքագծի «անջատիչներ»:

AI-ի շուրջ աղմուկից (Hype) այն կողմ

Ներկայիս AI Hype Index-ը մնում է բարձր մակարդակի վրա, քանի որ ընկերությունները շտապում են գործակալներ ներդնել՝ թվային վերափոխման նպատակներին հասնելու համար: Այնուամենայնիվ, շուկայում մենք տեսնում ենք հստակ միտում՝ անցում «փորձարարական ավտոմատացումից» դեպի «կոշտ ճարտարապետություն»: Կազմակերպությունները սկսում են հասկանալ, որ մրցակցային առավելությունը ոչ թե ամենաբարդ գործակալ ունենալու մեջ է, այլ ամենահուսալին ունենալու:

Այս ընդունման միտումը ստիպում է վերանայել, թե ինչպես է չափվում Թվային վերափոխումը (Digital Transformation): Խոսքն այլևս ավտոմատացված գործընթացների քանակի մասին չէ, այլ «անվտանգությունը՝ ավտոմատացման դիմաց» հարաբերակցության: Ղեկավարները սկսում են պահանջել թափանցիկություն գործակալական օղակում: Նրանք ցանկանում են հստակ իմանալ, թե ինչպես է գործակալը հանգել որոշման, ինչ տվյալների է հասանելիություն ստացել և ինչ սահմանափակումներ են գործել կատարման ընթացքում:

Այս անցումը հաջողությամբ կառավարելու համար կազմակերպությունները պետք է կենտրոնանան մի քանի ռազմավարական հրամայականների վրա.

  • Նախագծման փուլում աուդիտի հնարավորություն (Auditability by Design): Ներդրեք գրանցման մեխանիզմներ, որոնք գրավում են ոչ միայն գործակալի վերջնական արդյունքը, այլև մտածողության այն գործընթացը, որը հանգեցրել է գործողությանը:
  • Մոդուլային սահմանափակումներ (Modular Guardrails): Մեկ «գլխավոր անջատիչի» վրա հույս դնելու փոխարեն՝ տեղակայեք օժանդակ AI մոդելներ, որոնք հատուկ նախագծված են հիմնական գործակալների վարքագի