Արհեստական բանականության (ԱԲ) կառավարման շուրջ ընթացիկ բանավեճը տառապում է «աղետալի սցենարների» վրա վտանգավոր կենտրոնացումից։ Համաշխարհային քաղաքական ֆորումներում և տեխնոլոգիական քննարկումներում գերակշռում է «էքզիստենցիալ ռիսկի» թեման. հիպոթետիկ սցենարներ, որտեղ ինքնավար համակարգերը ձեռք են բերում գիտակցություն կամ շրջանցում են մարդկային վերահսկողությունը՝ առաջացնելով համակարգային փլուզում։ Թեև համընթացության (alignment) տեսական ուսումնասիրությունը մտավոր առումով խիստ հիմնավորված է, այն ակամայից ստեղծել է «անվտանգության թատրոն», որը քողարկում է ավելի հրատապ իրողությունը՝ առօրյա, չկատարելագործված ԱԲ-ի ներդրումների հետևանքով գործառնական արդյունավետության աննկատ, աստիճանական և համատարած էրոզիան։

Բիզնեսի ղեկավարների համար վատթարագույն սցենարների վրա այս մոլուցքը անվտանգության կեղծ զգացում է ստեղծում։ Ղեկավարները հաճախ թեթևացած շունչ են քաշում, երբ իրենց ներքին համակարգերը հաղթահարում են անվտանգության հիմնական նշաձողերը՝ օրինակ, կանխելով չաթ-բոտի կողմից վնասակար բովանդակության գեներացումը կամ ապահովելով տվյալների գաղտնիության արձանագրությունների տեսական համապատասխանությունը։ Սակայն այս ցածր շեմերը հաղթահարելը չի նշանակում արժեքի ստեղծում։ Փաստորեն, շատ կազմակերպություններ ներկայումս հայտնվել են մի ցիկլում, որտեղ առաջնահերթություն են տալիս «անվտանգ» ԱԲ-ին՝ միայն հասկանալու համար, որ դրա ներդրումը բերում է քիչ կամ ընդհանրապես ոչ մի իրական բիզնես տրանսֆորմացիայի։

«Անվտանգությունն առաջին հերթին» թակարդի գինը

Ծայրահեղ դեպքերի վրա կենտրոնանալը հաճախ հանգեցնում է մի երևույթի, որը հայտնի է որպես «ֆունկցիոնալ ատրոֆիա»: Երբ ինժեներական թիմի հիմնական պարտավորությունը լրատվական վերնագրերում հայտնվելիք աղետից խուսափելն է, նորարարության բյուջեն սպառվում է պաշտպանական արգելափակումների՝ այլ ոչ թե հարձակողական կարողությունների վրա։

Դիտարկենք Generative AI-ի (գեներատիվ ԱԲ) ներդրումը հաճախորդների սպասարկման միջավայրում։ Եթե ներդրման ռազմավարությունը կառուցված է միայն մոդելի կողմից հակասական բան ասելը կանխելու շուրջ, թիմն անխուսափելիորեն չափազանց կսահմանափակի գործակալին։ Արդյունքը՝ անշուք, ռոբոտացված և ի վերջո անօգուտ ինտերֆեյս, որը հիասթափեցնում է հաճախորդներին և չի կարողանում կարգավորել բարդ հարցումները։ Սա տեխնոլոգիայի ձախողում չէ, այլ ռազմավարական առաջնահերթությունների ձախողում։

ROI-ի (ներդրումների եկամտաբերության) տեսանկյունից սա զգալի դժվարություններ է ստեղծում.

  • Ենթակառուցվածքային բարձր ծախսեր. Ռեսուրսները վերահղվում են ավելորդ անվտանգության շերտեր ստեղծելուն, որոնք վերահսկում են հիպոթետիկ վնասները, այլ ոչ թե օպտիմալացնում են արտադրողականությունը։
  • Թվային տրանսֆորմացիայի լճացում. Ռիսկերից խուսափելու վրա չափազանց կենտրոնանալով՝ ընկերությունները հաճախ ներդնում են «անվտանգ» ԱԲ, որն անընդունակ է իմաստալից ավտոմատացման։ Եթե գործակալը կարող է պատասխանել միայն հիմնական հաճախակի տրվող հարցերին, քանի որ իրավաբանական թիմը արգելափակել է դրա ինտեգրումը CRM-ի հետ, ապա ընկերությունը փաստացի միլիոններ է ծախսել՝ վերարտադրելու 2010-ականների որոնողական տողի գործառույթը։
  • Բաց թողնված հնարավորություններ. Մինչ ղեկավարները անհանգստանում են ԱԲ-ի կողմից սխալ որոշում կայացնելու տեսական ռիսկի մասին, նրանք անտեսում են արտադրողականության երաշխավորված կորուստը, որն առաջանում է իրական աշխարհի գործառնական բարդությանը չդիմացող համակարգի պատճառով։

Հաջողության վերասահմանում. արգելապատնեշներից դեպի աճ

Իրավիճակը փոխելու համար ընկերությունները պետք է հրաժարվեն «միայն անվտանգություն» մտածելակերպից և ընդունեն «արդյունավետություն՝ սահմանված պարամետրերի շրջանակում» մոդելը։ ԱԲ դարաշրջանում իսկական հաջողությունը չի չափվում լրատվական վերնագրերի բացակայությամբ, այն չափվում է թողունակության, ճշգրտության և հաճախորդների գոհունակության շոշափելի աճով։

Երբ կազմակերպությունները AI Agents-ին (ԱԲ գործակալներին) մոտենում են աշխատանքային հոսքերը խաթարող առօրյա, համակարգային անարդյունավետությունները լուծելու մտադրությամբ, անվտանգության վերաբերյալ քննարկումը փոխվում է։ «Ինչպե՞ս կանխել սխալ բան ասելը» հարցի փոխարեն ղեկավարները պետք է հարցնեն. «Ինչպե՞ս կառուցվածքավորել այս համակարգը՝ առանց մարդու միջամտության մեր բարձր ծավալի գործառնական առաջադրանքների 90%-ը կատարելու համար»։

Ժամանակակից թվային տրանսֆորմացիան պահանջում է ռիսկի նկատմամբ ավելի նուրբ մոտեցում։ Այն գիտակցում է, որ այսօր բիզնեսի համար ամենամեծ ռիսկը «անվերահսկելի» ԱԲ-ն չէ, այլ հնացած աշխատանքային գործընթացը, որը հետ է մնում ավելի ճկուն, ԱԲ-ով հագեցած մրցակիցներից։ Բիզնեսի ղեկավարները պետք է անվտանգությունը ինտեգրեն ծրագրային ապահովման ճարտարապետական շերտի մեջ, այլ ոչ թե այն ավելացնեն որպես հավելյալ, երկրորդական գործառույթ։

Դրան հասնելու համար ձեռնարկությունները պետք է որդեգրեն երեք հենասյուներից բաղկացած ռազմավարություն.

  • Համատեքստային հիմնավորում. Փոխանակ հենվելու հսկայական, ընդհանուր նշանակության մոդելների վրա, բիզնեսները պետք է առաջնահերթություն տան հարմարեցված (custom) լուծումներին, որոնք գործում են սեփական տվյալների և ինստիտուցիոնալ գիտելիքների խիստ սահմանված շրջանակներում։
  • Մարդ-օպերատոր համակարգում (Human-in-the-Loop). Մշակել աշխատանքային հոսքեր, որտեղ ԱԲ-ն կատարում է տվյալների սինթեզման ծանր աշխատանքը, իսկ մարդ-օպերատորները կենտրոնանում են բարձ