Գեներատիվ արհեստական բանականության (AI) стընթաց վերելքը համաշխարհային տեխնոլոգիական ոլորտը դրել է պարադոքսալ վիճակի մեջ։ Մի կողմից՝ մենք ականատեսն ենք արտադրողականության ամենանշանակալի աճին՝ համացանցի ստեղծումից ի վեր, մյուս կողմից՝ այս հզոր մոդելների կառավարումը վերածվել է «անվտանգության ցուցադրական թատրոնի» մի ցիկլի։ Բիզնեսի ղեկավարների համար ներկայիս խոսույթը, որը հաճախ գերիշխում է կամավոր ինքնակարգավորման կոչերով, ոչ միայն անարդյունավետ է, այլև շեղում է ուշադրությունը ինտեգրման, անվտանգության և ներդրումների եկամտաբերության (ROI) վրա հիմնված թվային փոխակերպման (Digital Transformation) իրական աշխատանքից։

Երբ տեխնոլոգիական հսկաներն ու քաղաքականություն ձևավորողները խոսում են «անվտանգության» մասին, նրանք հաճախ հենվում են ինքնավերահսկողության մոտեցման վրա։ Այս մոտեցումը ենթադրում է, որ եթե հիմնարար մոդելներ մշակող կազմակերպությունները պարզապես «խոստանան» հետևել ներքին սահմանափակումներին (guardrails), հանրությունը և ձեռնարկատիրական էկոհամակարգը կարող են հանգիստ լինել։ Սակայն այն բիզնեսի համար, որը ձգտում է ընդլայնել AI գործակալների (AI Agents) օգտագործումը կամ ավտոմատացնել կենսական նշանակության աշխատանքային գործընթացները, այս մշուշոտ խոստումները որևէ տեխնիկական երաշխիք չեն տալիս։ Մատակարարի «պատվի համակարգին» ապավինելը՝ մտավոր սեփականությունը պաշտպանելու կամ արդյունքների հուսալիությունը ապահովելու համար, ռիսկային ռազմավարություն է ցանկացած կազմակերպության համար, որը մտահոգված է երկարաժամկետ գործառնական կայունությամբ։

Կամավոր համապատասխանության պատրանքը

Ձեռնարկատիրական միջավայրում մենք սովորել ենք, որ հուսալի համակարգերը պահանջում են օբյեկտիվ չափանիշներ, այլ ոչ թե պարզապես վեհ գաղափարներ։ Մոդել մատակարարողների կամավոր համապատասխանությանը ապավինելը նման է ծրագրային ապահովում մատակարարողին թույլ տալուն, որ ինքը գրի իր կիբերանվտանգության աուդիտը։ CIO-ի (տեխնոլոգիական գծով տնօրեն) կամ CTO-ի (տեխնիկական գծով տնօրեն) համար բիզնես AI-ի համատեքստում իրական «անվտանգությունը» գոյաբանական ռիսկի մասին փիլիսոփայական հարց չէ, այլ որոշակի արդյունքների, տվյալների գաղտնիության և ինքնավար համակարգերի հալյուցինացիաների մակարդակի (hallucination rate) մասին պրագմատիկ հարց է։

«Ինքնակարգավորման» ներկայիս միտումը հաճախ ծառայում է պատասխանատվությունը մշակողներից դեպի օգտագործողներ տեղափոխելուն։ Երբ ընկերությունը գործարկում է հաճախորդների հետ աշխատող չաթ-բոտ (Chatbot) կամ մատակարարման շղթայի ավտոմատացված գործակալ, նրանք ստանձնում են այդ գործակալի վարքագծի ռիսկը։ Եթե հիմքում ընկած մոդելը չի անցել խիստ, երրորդ կողմի կողմից իրականացվող սթրես-թեստեր, ապա բիզնեսն է մնում հեղինակությանը հասցված վնասները կառավարելու միայնակ։

Բիզնեսի ղեկավարները պետք է ձգտեն հետևյալ ստանդարտներին՝ ներքին անվտանգության աուդիտների ներկայիս վիճակը ընդունելու փոխարեն.

  • Ստուգելի բենչմարկինգ (Verifiable Benchmarking). Հեռանալ ներքին «red-teaming» հաշվետվություններից դեպի մոդելների հուսալիության ստանդարտացված, անկախ գնահատականներ։
  • Տվյալների ինքնիշխանության վերահսկում. Տեղայնացված կամ հարմարեցված (fine-tuned) մոդելների ներդրում, որոնք ապահովում են, որ սեփական ուսուցողական տվյալները չեն արտահոսում դեպի հանրային հիմնարար մոդելներ։
  • Գործառնական թափանցիկություն. Հստակ և քանակական սահմանափակումների պահանջ այն մասին, թե ինչ կարող է և ինչ չի կարող անել AI գործակալը որոշակի CRM կամ ERP միջավայրում։

Ձեռնարկատիրական ներդրման իրականությունն այն է, որ անվտանգությունը «տրամադրություն» չէ, այն ֆունկցիա է։ Եթե AI գործակալը չի կարող գործել ֆինանսների կամ առողջապահության նման խիստ կարգավորվող ոլորտների սահմանափակումների ներքո, այն փաստացի անպետք է այդ ձեռնարկության համար՝ անկախ նրանից, թե մշակողը որքան «անվտանգ» է համարում իր հիմնարար մոդելը։

Կառավարումից՝ ինտեգրում

«Անվտանգության թատրոնի» վրա կենտրոնացումը հաճախ կազմակերպություններին թույլ չի տալիս կենտրոնանալ այն ամենի վրա, ինչն իրականում կարևոր է՝ տեխնիկական ենթակառուցվածքը, որն անհրաժեշտ է AI գործակալներին կորպորատիվ միջավայրում աշխատեցնելու համար։ Մինչ ընկերությունները դուրս են գալիս նախատիպավորման սկզբնական փուլից, քննարկումը պետք է տեղափոխվի «Արդյո՞ք այս AI-ն անվտանգ է» հարցից դեպի «Ինչպե՞ս այն ճարտարապետորեն կառուցել հուսալիության համար» հարցը։

Ավտոմատացման ռազմավարությունները, որոնք հիմնված են LLM-ների (խոշոր լեզվական մոդելներ) վրա ինքնավար առաջադրանքներ կատարելու համար, այնքանով են լավը, որքանով դրանց շուրջ կառուցված սահմանափակումները։ Հենց այստեղ է երևում «հիփի» (hype) և «օգտակարության» միջև տարբերությունը։ Այն ընկերությունները, որոնք AI-ն դիտարկում են որպես «սև արկղ»՝ վստահելով մատակարարի ինքնակարգավորվող պնդումներին, ի վերջո կբախվեն անսպասելի սխալների պատին։ Հակառակը՝ այն ընկերությունները, որոնք AI-ն դիտարկում են որպես մոդուլային գործիքակազմ՝ այն փաթեթավորելով խիստ վավերացման շերտերով և մարդու վերահսկողությամբ, կստանան էապես ավելի բարձր ROI։

Հաջող, պրոֆեսիոնալ մակարդակի AI-ի ներդրումը սահմանող հիմնական գործոններն են.

  • Մարդու մասնակցությամբ աշխատանքային հոսքեր (Human-in-the-loop). Համակարգերի նախագծում, որտեղ AI-ն առաջարկում և ամփոփում է, սակայն մարդ-օպերատորները հաստատում են բարձր ռիսկայնության գործողությունները։
  • Մոդուլային ճարտարապետություն. Համոզվելը, որ եթե հիմնարար մոդելը թ