Վայրի բնությունում տեղի ունեցած փրկարարական գործողության վերաբերյալ վերջին հրապարակումները, որոնք կապված էին LLM-ի (լեզվական մեծ մոդել) օգնությամբ կազմված արշավային պլանի հետ, բիզնեսի ղեկավարների շրջանում անհրաժեշտ քննարկումներ են հարուցել: Երբ մի խումբ արշավականներ, ըստ հաղորդագրությունների, հետևել են Google Gemini-ի խորհրդին, որը կտրուկ թերագնահատել էր նրանց կալորիականության և ջրի անհրաժեշտ պաշարները, միջադեպը դուրս եկավ տեղական լուրերի շրջանակից: Տեխնոլոգիաներին տիրապետող բիզնես ղեկավարի համար սա «վստահված անձի միջոցով հալյուցինացիաների» (hallucination-by-proxy) վտանգների և Generative AI-ի (գեներատիվ արհեստական բանականություն) ներդրման ներկայիս փուլում «մարդը` օղակում» (human-in-the-loop) վերահսկողության կարևորության դասական օրինակ է:

Թեև սպառողներին սպառնացող ռիսկերը ակնհայտ են, ձեռնարկատիրական ոլորտում հետևանքները շատ ավելի նրբերանգային են: Մինչ ընկերությունները շտապում են ինտեգրել Large Language Models (LLMs)-ը հաճախորդների սպասարկման, ներքին գործառնական գործիքների և որոշումների կայացմանն աջակցող համակարգերում, մենք թևակոխում ենք հաշվետվողականության մի նոր դարաշրջան: Այս մոդելների հետ փոխգործակցության հեշտությունը հաճախ քողարկում է հիմնարար տեխնիկական իրողությունը. LLM-ները հավանականային շարժիչներ են՝ նախատեսված տոկեններ կանխատեսելու համար, այլ ոչ թե անսխալական ճշմարտախոսներ՝ նախատեսված լոգիստիկ կամ անվտանգության համար կրիտիկական տվյալներ կառավարելու համար:

Իրավասության պատրանքը և «ավտոմատացման կողմնակալության» ռիսկը

Այս միջադեպով բացահայտված հիմնական խնդիրը մարդկային գործոնների ինժեներիայում հայտնի է որպես ավտոմատացման կողմնակալություն (automation bias). դա մարդկանց հակվածությունն է՝ նախապատվությունը տալ ավտոմատացված համակարգերի առաջարկներին և անտեսել առանց ավտոմատացման ստացված հակասական տեղեկատվությունը: Երբ մենք փոխազդում ենք բարդ ինտերֆեյսի հետ, ենթագիտակցորեն մոդելին վերագրում ենք մարդկային տրամաբանություն: Մենք ենթադրում ենք, որ եթե ԱԲ-ն կարող է ամփոփել հազար էջանոց իրավական փաստաթուղթ կամ գրել ֆունկցիոնալ Python կոդ, ապա այն պետք է ունենա նաև ֆիզիկական գոյատևման սցենարի համար անհրաժեշտ փոփոխականների իրական ըմբռնում:

Կորպորատիվ աշխարհում այս երևույթը ստեղծում է ներդրումների հետադարձելիության (ROI) հստակ ռիսկ: Ընկերություններն այժմ ներդնում են AI Agents (ԱԲ գործակալներ)՝ մատակարարման շղթայի լոգիստիկայից մինչև հաճախորդների սպասարկման դասակարգում ամեն ինչ ավտոմատացնելու համար: Վտանգը ոչ թե մոդելի՝ կատարողականության պակասի մեջ է, այլ օգտատիրոջ չհիմնավորված վստահության: Եթե գործակալը, որը գուցե ինտեգրված է ձեռնարկության CRM համակարգում, տրամադրում է ռազմավարական առաջարկություն՝ հիմնված հնացած կամ թերի տվյալների վրա, միջին օղակի ղեկավարը կարող է ընդունել այդ խորհուրդը՝ առանց այն խիստ ստուգման, որը նա կկիրառեր գործընկերոջ հաշվետվության դեպքում:

Այս ռիսկերը նվազեցնելու և Digital Transformation-ի (թվային փոխակերպման) հսկայական արժեքը ստանալու համար բիզնեսները պետք է առաջնահերթություն տան հետևյալին.

  • Համատեքստային սահմանափակումներ. RAG (Retrieval-Augmented Generation) համակարգերի ներդրում, որոնք LLM-ի արդյունքները հիմնում են հաստատված, ընկերությանը հատուկ փաստաթղթերի, այլ ոչ թե ընդհանուր նշանակության ուսուցողական տվյալների վրա:
  • Ստուգման արձանագրություններ. «Մարդը՝ օղակում» պահանջների սահմանում ֆինանսական, գործառնական կամ անվտանգության հետ կապված հետևանքներ ունեցող ցանկացած ԱԲ-ի արդյունքի համար:
  • Համակարգային գրագիտություն. Անձնակազմի վերապատրաստում ոչ միայն այն բանի, թե ինչպես «փրոմփթ» (հրահանգ) տալ մոդելներին, այլև այն բանի, թե ինչու են դրանք ձախողվում՝ բացահայտելով ԱԲ-ի հավանականության վրա հիմնված բնույթը՝ կույր վստահությունը նվազեցնելու համար:

Գեներատիվ գործիքներից դեպի խելացի գործակալներ

Ստատիկ չաթ-բոտերից դեպի ինքնավար, առաջադրանքների վրա կողմնորոշված գործակալներ անցումը նշանավորում է ձեռնարկությունների կողմից որդեգրման հաջորդ փուլը: Գործակալական աշխատանքային հոսքը ներառում է ԱԲ, որը ոչ միայն պատասխանում է հարցին, այլև ակտիվորեն կատարում է առաջադրանքներ, ինչպիսիք են Salesforce կամ HubSpot միջավայրում գրառումները թարմացնելը կամ առաքման հարցում գործարկելը: Այս փոփոխությունը հսկայական արդյունավետություն է բերում, սակայն նաև մեծացնում է ռիսկը: Չաթի պատուհանում սխալ պատասխանը անհարմարություն է, իսկ հալյուցինացիայի հիման վրա գործարք կատարող ավտոմատացված գործակալը կարող է դառնալ թանկարժեք գործառնական սխալ:

Ապագային ընդառաջ գնալիս ղեկավարության ուշադրությունը պետք է շեղվի «ԱԲ-ն աշխատեցնելուց» դեպի «ԱԲ-ի ճիշտ աշխատանքը երաշխավորելուն»: Մենք տեսնում ենք շուկայի երկփեղկում. մի կողմից՝ ընկերությունները ներդնում են չկառավարվող «ստվերային» ԱԲ գործիքներ, որոնք անվտանգության և ճշգրտության ռիսկեր են պարունակում: Մյուս կողմից՝ կազմակերպությունները կառուցում են ԱԲ-ի կայուն ճարտարապետություններ, որոնք ունեն ներկառուցված դիտարկելիություն, աուդիտի հետքեր և դետերմինիստական պահուստային մեխանիզմներ:

Ցանկացած բիզնես ղեկավարի նպատակը պետք է լինի օգտագործել ԱԲ-ի արագությունն ու գեներատիվ հնարավորությունները՝ միաժամանակ պահպանելով ձեռնարկատիրական մակարդակի արդյունավետության համար անհրաժեշտ ստուգման խիստ չափանիշները: Ինչպես ցույց է տալիս արշավի պլանավորման միջադեպը, նույնիսկ ամենաառաջադեմ ԱԲ-ն այնքան լավն է, որքան նրա հիմքը և նրա նկատ