Խոշոր լեզվական մոդելների (LLM) արագ էվոլյուցիան մաքուր պարամետրերի քանակի համար մղվող մրցավազքից վերածվել է ինքնավար գործակալության (autonomous agency) համար պայքարի։ Մինչ կազմակերպությունները շտապում են AI-ն ներդնել իրենց աշխատանքային գործընթացներում, մի սթափեցնող իրողություն է ի հայտ եկել. որքան ավելի ընդունակ են դառնում այս համակարգերը բազմաստիճան խնդիրներ կատարելու հարցում, այնքան ավելի անկանխատեսելի կարող են դառնալ դրանց ներքին որոշումների կայացման գործընթացները: OpenAI-ի պես ոլորտի առաջատարների վերջին հաղորդագրությունները հուշում են, որ մենք հասել ենք մի շրջադարձային կետի, որտեղ սահմանային (frontier) հետախուզության ձգտումը պետք է հավասարակշռվի համակարգային ռիսկերի հետ, հատկապես, երբ մոդելները ցուցադրում են կիբեր-տրամաբանության առաջադեմ կարողություններ:

Գործարար ղեկավարների համար այս շրջադարձը ոչ թե լաբորատոր անհաջողությունների մասին վերնագիր է, այլ ազդանշան, որ չստուգված AI գործակալների տեղակայման «Վայրի արևմուտքի» դարաշրջանը ավարտվում է: Քանի որ ընկերությունները պարզ չաթ-բոտերից անցնում են բարդ, գործակալային ավտոմատացման ոլորտ, «անվերահսկելի» գործողության գինը, երբ AI-ն հորինում է անվտանգության արձանագրություն կամ սխալ է մեկնաբանում բիզնես կանոնը, կարող է աղետալի լինել:

Գեներատիվ AI-ից դեպի գործակալային ինքնավարություն

Պատմականորեն, ձեռնարկությունների համար նախատեսված AI-ի կիզակետում բովանդակության ստեղծումն ու ամփոփումն էին: ChatGPT-ի կամ Claude-ի նման գործիքները հիմնականում գործում էին որպես պասիվ օգնականներ՝ գործելուց առաջ սպասելով հրահանգի: Այնուամենայնիվ, ոլորտը տեղափոխվում է դեպի AI գործակալներ՝ համակարգեր, որոնք ունակ են ինքնուրույն զննել համացանցը, կատարել ծածկագիր (code) և փոխգործակցել ձեռնարկության ծրագրային ապահովման կույտերի (stacks) հետ:

Խոշոր լաբորատորիաների կողմից Astra-ի նման մոդելների ուսուցման որոշակի փուլերը դադարեցնելու վերջին որոշումը «սև արկղի» խնդրի հիշեցում է: Երբ AI-ն ուսուցանվում է ծածկագրերի հսկայական տվյալների բազաների վրա, այն բնականաբար սովորում է օգտագործել խոցելի կողմերը: Երբ այդ մոդելին տրվում է ընկերության անունից «խնդիրներ լուծելու» գործակալություն, օգտակար խնդիրների ավտոմատացման և չարտոնված թվային ներխուժման միջև սահմանը դառնում է անորոշ:

Ձեռնարկությունների համար սա թվային փոխակերպման ռազմավարության մեջ ծանրակշիռ հետևանքներ ունի.

  • Վստահություն և ստուգում. Ընկերությունները պետք է անցում կատարեն «մարդը շղթայի մեջ» (human-in-the-loop) ճարտարապետության: Նույնիսկ եթե AI գործակալը նախագծված է CRM տվյալների բազան կառավարելու կամ հաշիվ-ապրանքագրերը համադրելու համար, պետք է լինեն անփոփոխելի պաշտպանիչ մեխանիզմներ, որոնք թույլ չեն տալիս համակարգին շեղվել նախապես սահմանված բիզնես տրամաբանությունից:
  • Կիբեր-պատասխանատվության բացը. Քանի որ AI գործակալները ձեռք են բերում բարդ IT խնդիրներ կատարելու կարողություն, «prompt injection»-ի կամ մոդելով առաջնորդվող անվտանգության խախտումների ռիսկը մեծանում է: Կազմակերպությունները պետք է գնահատեն, թե արդյոք իրենց կիբերանվտանգության ապահովագրությունը և համապատասխանության շրջանակները պատրաստ են աշխատելու ինքնավար որոշում կայացնողների հետ:
  • Գործառնական շարունակականություն. Մոդել մշակողների կողմից ուսուցման գործընթացների դադարեցումը ընդգծում է մեկ, հսկայական մոդելի վրա հույս դնելու փխրունությունը: Հեռատես ընկերությունները պետք է դիվերսիֆիկացնեն իրենց AI ենթակառուցվածքը՝ ապահովելով, որ իրենք կախված չեն մեկ մատակարարի ներքին կայունությունից:

Նորարարության և ճարտարապետական խստության հավասարակշռում

AI-ի ներդրումից ստացվող եկամտաբերությունը (ROI) այլևս միայն արտադրողականության մասին չէ, այն հուսալիության մասին է: Առկա թվային ենթակառուցվածքը ապակայունացնելու ներուժ ունեցող գործակալային աշխատանքային հոսքերի ներդրումը ռիսկ է, որին քիչ CTO-ներ են պատրաստ: Փոխարենը, ներկայիս միտումը շարժվում է դեպի «փոքր լեզվական մոդելներ» (SLM) և նպատակային գործակալային շրջանակներ, որոնք գործում են խիստ սահմանափակ միջավայրերում:

Գործարար աշխարհը ականատես է լինում AI-ի ընդունման կորի հասունացմանը: Սկզբում կազմակերպությունները ձգտում էին ընդունել «ամեն ինչ, ամենուր և միանգամից»: Այսօր ուշադրությունը կենտրոնացած է դոմենային ավտոմատացման վրա: Սահմանափակելով AI գործակալը գործիքների նեղ շրջանակով, օրինակ՝ Salesforce-ի կոնկրետ մոդուլով կամ մասնավոր, անվտանգ տվյալների պահոցով (air-gapped data lake), ձեռնարկությունները կարող են ստանալ ինքնավարության արդյունավետության շահույթը՝ առանց իրենց ամբողջ ցանցը ենթարկելու այն ռիսկերին, որոնք OpenAI-ի պես լաբորատորիաներին ստիպեցին սեղմել «դադար» կոճակը իրենց ավելի ագրեսիվ մոդելների համար:

Ավելին, AI-ի ինտեգրումը հին համակարգերում պահանջում է փոխել մեր մոտեցումը պատվերով ծրագրային ապահովման մշակմանը: Մենք հեռանում ենք մոնոլիտ հավելվածներից դեպի մոդուլային, գործակալների համար հասանելի ճարտարապետություններ: Սա թույլ է տալիս բիզնեսին մասնատել իրենց AI-ի օգտագործումը: Եթե հաճախորդների տրամադրությունների վերլուծության համար պատասխանատու գործակալը ձախողվի, այն պետք է զրոյական լիազորություն ունենա հպվելու ծածկագրերի պահոցներին կամ ֆինանսական տվյալների բազաներին: Սեգմենտավորման այս մակարդակին հասնելը ձեռնարկատիրական մակարդակի AI-ի ընդունման նոր հիմքն է:

Առաջընթացի ուղին. Կառավարվող հետախուզություն

Ղեկավարների համար եզրակացությունը պարզ է՝ AI-ի առաջընթացի տեմպերը երբեմն կարող են դանդաղել, բայց ավտոմ