Պետական թվային ենթակառուցվածքների և գեներատիվ արհեստական բանականության (Generative AI) համադրությունը դարձել է խոշոր լեզվական մոդելների (LLM) համար իսկական «փորձաքար»։ Երբ պետական մարմինների կողմից կառավարվող հանրային պորտալները սկսում են ներդնել զրուցակցային ինտերֆեյսներ, ճշգրտության, պաշտոնական ոճի և կառուցվածքային ամբողջականության նկատմամբ պահանջները կտրուկ փոխվում են։ Վերջերս դիտորդները նկատել են, որ երբ նման համակարգերը փորձարկվում են ոչ տեղին հարցերով կամ փոփ-մշակույթի վերաբերյալ հարցումներով, ինչպիսիք են՝ «Minecraft»-ը, արդյունքը տատանվում է չոր, բյուրոկրատական քաղաքականությանը հետևելու և անսպասելի, ստեղծագործական երևակայության դրսևորումների միջև։

Ձեռնարկությունների ղեկավարների համար սա պարզապես հետաքրքիր նորություն չէ պետական համակարգերի առանձնահատկությունների մասին, այլ կարևոր դեպքի ուսումնասիրություն՝ Prompt Engineering-ի (հարցադրումների ճարտարագիտություն), Guardrails-ի (անվտանգության սահմանափակումներ) և բարձր ռիսկայնություն ունեցող միջավայրերում Generative AI-ի ներդրման հետ կապված վտանգների վերաբերյալ։ Երբ փաստացի տեղեկատվության տարածման համար նախատեսված համակարգը հանկարծակի անցնում է ստեղծագործական արձակի, դա ի ցույց է դնում «համապատասխանեցման խնդիրը» (alignment problem). այն մարտահրավերը, թե ինչպես ապահովել, որ ԱԲ-ն գործի հենց այնպես, ինչպես նախատեսել են նրա ճարտարապետները, այլ ոչ թե այնպես, ինչպես հուշում են նրա ուսուցման տվյալները։

Հալյուցինացիաների ճարտարապետությունն ընդդեմ մտադրության

Մասնագիտական միջավայրում «հալյուցինացիա» տերմինը հաճախ օգտագործվում է որպես ընդհանուր անվանում ԱԲ-ի ցանկացած այնպիսի արդյունքի համար, որը շեղվում է սպասվող պատասխանից։ Սակայն պետական բարձր մակարդակի պորտալներում նկատվող վարքագիծը հաճախ պայմանավորված է System Prompting-ի (համակարգային հրահանգավորում) բացակայությամբ։ Երբ LLM-ին հարցնում են իր հիմնական գործառույթներից դուրս մի թեմայի մասին, օրինակ՝ շինարարական վիդեոխաղի, նրան պակասում են կոնտեքստային հստակ հրահանգները՝ ասելու. «Ես այդ թեմայի վերաբերյալ տեղեկություն չունեմ»։ Փոխարենը, մոդելը վերադառնում է իր ավելի լայն ուսուցման տվյալներին, որոնք ներառում են ստեղծագործական գրականություն, պոեզիա և պատմողական սինթեզ։

Այն բիզնեսների համար, որոնք ցանկանում են ԱԲ-ն ինտեգրել իրենց Digital Transformation (թվային վերափոխման) ռազմավարության մեջ, այս վարքագիծը հիշեցում է ընդհանուր նշանակության մոդելի և արտադրական մակարդակի գործիքի միջև եղած տարբերության մասին։ Եթե ձեր ընկերության ներքին Chatbot-ը կամ Customer Relationship Management (CRM) օգնականը հաճախորդի հարցման ժամանակ սկսի բանաստեղծական ոճով գովաբանել ձեր մրցակիցների ապրանքները, դա անմիջապես և ծանր կանդրադառնա ձեր ապրանքանիշի արժեքի վրա։

Այս ռիսկերը մեղմելու համար կազմակերպությունները պետք է ներդրումներ կատարեն ամուր ենթակառուցվածքում, որը առաջնահերթություն կտա.

  • Retrieval-Augmented Generation (RAG): Մոդելի պատասխանները հիմնելով ձեր սեփական փաստաթղթերի ստուգված բազայի վրա՝ դուք ապահովում եք, որ ԱԲ-ն մնա կորպորատիվ գիտելիքների «ցանկապատված» տիրույթում։
  • Structured Guardrails: Միջնորդ ծրագրային ապահովման (middleware) ներդրում, որը ստուգում է մուտքային և ելքային տվյալները՝ նախքան օգտատիրոջը հասնելը՝ անտեղին կամ անվտանգությանը սպառնացող բովանդակությունը բացառելու համար։
  • Policy-Based Fine-Tuning: Մոդելների ուսուցում ոչ միայն փաստերով, այլև ձեր բիզնեսի պահանջներին համապատասխան կոնկրետ տոնով, հակիրճությամբ և գործառնական սահմանափակումներով։

Վերահսկվող ԱԲ միջավայրերի ներդրումների արդյունավետությունը (ROI)

«Պատրաստի» LLM-ից դեպի բիզնեսի համար պատրաստ, հուսալի AI Agent անցնելու համար անհրաժեշտ ներդրումները զգալի են, սակայն ներդրումների հետադարձելիությունը (ROI) գնալով ավելի պարզ է դառնում։ Երբ ԱԲ-ին արգելվում է հալյուցինացիաներ առաջացնել կամ շեղվել սցենարից, այն դառնում է բարձր արդյունավետություն ունեցող ակտիվ, այլ ոչ թե պարտավորություն։ Օրինակ՝ ավտոմատացված հաճախորդների սպասարկման ոլորտում այն գործակալը, որը տրամադրում է ճշգրիտ, հղումների վրա հիմնված տեղեկատվություն, նվազեցնում է մարդկային միջամտության անհրաժեշտությունը և բարձրացնում հաճախորդների գոհունակության ցուցանիշները։

Բիզնեսի ղեկավարները պետք է գնահատեն ԱԲ-ի ներդրումը գործառնական արդյունավետության տեսանկյունից։ Նպատակն է հեռանալ «հետաքրքրասիրության վրա հիմնված» ԱԲ-ից, որտեղ ընկերությունները փորձարկումներ են անում բաց մոդելներով, և անցնել «դետերմինիստական» ԱԲ-ի, որտեղ համակարգի վարքագիծը կանխատեսելի է և աուդիտի ենթակա։

Դիտարկենք ձեռնարկությունների ավտոմատացման ներկայիս պատկերը.

  • Գործառնական հետևողականություն: Ավտոմատացված աշխատանքային հոսքերը պահանջում են ԱԲ, որը հասկանում է իր սահմանափակումները։ Եթե գործակալը չի կարող կատարել հարցումը, այն պետք է ծրագրավորված լինի՝ առաջադրանքը անխափան փոխանցելու մարդուն։
  • Ռիսկերի մեղմացում: Իրավաբանական և համապատասխանության ապահովման բաժինները գնալով ավելի զգուշավոր են «սև արկղ» (black box) մոդելների նկատմամբ։ LLMOps (խոշոր լեզվական մոդելների գործառնություններ) շրջանակի որդեգրումը թիմերին թույլ է տալիս վերահսկել, փորձարկել և թարմացնել մոդելները նույն խստությամբ, ինչպիսին կիրառվում է ավանդական ծրագրային ապահովման մշակման ժամանակ։
  • Մրցակցային առավելություն: Այն ընկերությունները, որոնք կտիրապետեն ճշգրտման (fine-tuning) և անվտանգության սահմանափակումների արվեստին, կկարողանան տեղակայել բարդ, ինքնավար գործակալներ, որոնք կաշ