Գեներատիվ արհեստական բանականության (AI) շուրջ ձևավորված վաղ շրջանի հիպը հաճախ կենտրոնանում է «հերոս-գործակալի» վրա՝ մեկ, փայլուն կոդի կտորի, որն ավտոմատացնում է հաճախորդների սպասարկումը կամ նախագծում եռամսյակային հաշվետվություններ: Սակայն, երբ ձեռնարկությունները փորձնական լաբորատոր փուլից անցնում են լայնածավալ արտադրության, ի հայտ է գալիս ավելի սթափեցնող իրականություն: Ձեռնարկության մակարդակով AI-ի ներդրման հիմնական խոչընդոտը ոչ թե մոդելի խելամտությունն է, այլ Համակարգային աճող բարդությունը (Emergent System Complexity), որն առաջանում է, երբ այդ գործակալները սկսում են շփվել միմյանց հետ:
Մենք ներկայումս ականատես ենք լինում առանձին գործիքներից դեպի Գործակալական էկոհամակարգ (Agentic Ecosystem) անցմանը: Այս միջավայրում ձեր ներքին համակարգերը դադարում են լինել տվյալների ստատիկ պահոցներ. դրանք գնալով ավելի շատ կառավարվում են ինքնավար աշխատուժի կողմից, որը հաղորդակցվում է API-ների միջոցով այնպիսի եղանակներով, որոնք նախատեսված չեն եղել դրանց սկզբնական մշակողների կողմից: C-level ղեկավարների և ՏՏ պատասխանատուների համար սա այլևս միայն տեխնիկական պարտքի խնդիր չէ, այլ կառավարման և գործառնական ռիսկ, որը կարող է խափանել թվային փոխակերպման ջանքերը, եթե մնա առանց վերահսկողության:
Գործակալական մասշտաբավորման ոչ գծային թակարդը
Ամենավտանգավոր ենթադրությունը, որ կարող է անել ձեռնարկության ղեկավարը, այն է, որ AI գործակալների ավելացումը գումարային գործընթաց է: Դա այդպես չէ: Եթե ունեք մեկ գործակալ, ունեք փոխազդեցությունների մեկ հավաքածու: Եթե ունեք տասը գործակալ, ապա դուք ունեք ոչ թե պարզապես տասը գործակալ, այլ պոտենցիալ ուղիների էքսպոնենցիալ ցանց: Երբ «Ա» գործակալը կանչում է «Բ» գործակալին, որն իր հերթին հարցում է ուղարկում ժառանգված CRM (Հաճախորդների հետ հարաբերությունների կառավարում) համակարգին, դուք ստեղծում եք «եռաստիճան» աշխատանքային հոսք, որը հավանաբար չունի աուդիտի հետք կամ որոշակի մարդկային պատասխանատու:
Սա «բարդության պատն է»: Երբ բիզնես գործընթացը խափանվում է, ՏՏ թիմերը հաճախ հայտնվում են «թվային դետեկտիվի» դերում: Քանի որ այդ գործակալները գործում են որոշակի ինքնավարությամբ, սկզբնական հարցման և վերջնական, չնախատեսված գործողության միջև պատճառահետևանքային կապը հաճախ թաղված է լինում գրանցամատյանների (logs) խորքում, կամ ավելի վատ՝ ընդհանրապես գրանցված չէ:
Սա անմիջական, շոշափելի ազդեցություն ունի շահույթի վրա.
- Գործառնական փխրունություն. Փոքր, շղթայական սխալները կարող են զգալի պարապուրդներ առաջացնել կարևոր բիզնես գործառույթներում՝ վերածելով փոքր տրամաբանական խափանումը համակարգային անսարքության:
- Ստվերային թույլտվություններ. Քանի որ շուկա դուրս գալու արագությունը դառնում է հիմնական չափանիշ, մշակողները հաճախ գերծանրաբեռնում են գործակալներին լայնածավալ API հասանելիությամբ: Ժամանակի ընթացքում այդ թույլտվությունները կուտակվում են՝ ստեղծելով չարտոնված հասանելիության ուղիներ, որոնք անվտանգության թիմերը չեն կարող քարտեզագրել:
- Պատասխանատվության բացակայություն. Երբ հինգ գործակալներից բաղկացած շղթան գործարկում է ֆինանսական գործարք կամ հաճախորդի համար նախատեսված թարմացում, որը ձախողվում է, «ո՞վ է պատասխանատու» հարցը դառնում է անլուծելի, քանի որ պատասխանատվությունը երբեք չի ամրագրվել որևէ մարդկային կողմի վրա:
Փորձնական փուլից դուրս գալու համար ընկերությունները պետք է դադարեն գործակալներին դիտարկել որպես անկախ ծրագրային հավելվածներ և սկսեն նրանց դիտարկել որպես բարդ, փոխկապակցված ցանցի մասնակիցներ: Կառավարումը չի կարող լինել մեկանգամյա հաստատում՝ տեղակայման պահին. այն պետք է լինի շարունակական, դիտարկելի շերտ, որը վերահսկում է «գործակալների միջև» հաղորդակցությունը նույնքան մանրակրկիտ, որքան հենց գործակալներին:
Մշտադիտարկումից՝ դեպի ակտիվ կառավարում
Կազմակերպությունների մեծ մասը ներկայումս հենվում է պասիվ դիտարկման վրա՝ վահանակներ, որոնք ցույց են տալիս, թե ինչ է տեղի ունեցել երեկ: Թեև դա օգտակար է հետվերլուծության համար, սակայն բավարար չէ իրական ժամանակում ռիսկերի մեղմման համար: Ձեռնարկատիրական մակարդակի AI-ն պահանջում է Նախաձեռնողական պաշտպանիչ մեխանիզմներ (Proactive Guardrails), որոնք գործում են որպես գործակալական որոշումների կայացման հակահրդեհային պատնեշ:
Եթե ձեր կառավարման ենթակառուցվածքն ի վիճակի չէ կասեցնել չարտոնված հարցումը մինչ դրա կատարումը, ապա դուք համակարգ չունեք, դուք ունեք «թիկնող ժամացույց»: Հուսալի AI ճարտարապետություն կառուցելու համար ղեկավարությունը պետք է առաջնահերթություն տա իր տեխնիկական ռազմավարության երեք հիմնարար փոփոխության.
- Ինքնության վրա հիմնված ճարտարապետություն (Identity-First Architecture): Յուրաքանչյուր գործակալ պետք է ունենա եզակի, ստուգելի ինքնություն: Հրաժարվելով «փոխառված» վկայագրերից (որտեղ գործակալն օգտագործում է մարդ-մշակողի թույլտվությունները)՝ դեպի հատուկ, սահմանափակված ինքնության անցումը թույլ է տալիս հստակ վերահսկել, թե կոնկրետ այդ գործակալը ինչ կարող է կարդալ, փոփոխել կամ գործարկել:
- Գործողությունների շղթայի գրանցում (Chain-of-Custody Logging): Կառավարումը պետք է հետևի գործողության «ծագումնաբանությանը»: Եթե սպասարկման հարցումը ամփոփվում, նշվում և փոխանցվում է երեք տարբեր գործակալների միջոցով, համակարգը պետք է կարողանա ստեղծել անփոփոխելի պատմություն այն մասին, թե ով է լիազորել յուրաքանչյուր քայլը՝ ապահովելով մարդկային պատասխանատվության հստակ գիծ:
- Իրական ժամանակի կիրարկում (Real-Time Enforcement): Քանի որ գործակալների թիվն աճում է, ձեռքով վերահսկողությունը դառ
