Situational Awareness քանակական հեջ-ֆոնդի փայլուն վերելքը և դրան հաջորդած կարգավորող մարմինների միջամտությունը, որը խոստանում էր հեղափոխել բարձր հաճախականության առևտուրը ինքնավար հետախուզության միջոցով, սթափեցնող դաս է ձեռնարկատիրական ոլորտի համար: Կարճ ժամանակով ընկերությունը դարձավ Ուոլ Սթրիթի սիրելին՝ մի պատմությամբ, որը շատ կազմակերպություններ այսօր կրկնում են. հավատն առ այն, որ բավարար քանակությամբ տվյալները, որոնք մշակվում են բավականաչափ առաջադեմ մոդելների կողմից, կարող են որոշումների կայացումից վերացնել «մարդկային սխալի» գործոնը:

Սակայն, երբ Արժեթղթերի և բորսաների հանձնաժողովը (SEC) սկսեց ծանուցագրեր ուղարկել, պատմությունը նորարարության հաղթարշավից վերածվեց զգուշացնող օրինակի՝ կապված առաջադեմ ալգորիթմների «սև արկղի» բնույթի հետ: Գործարար ղեկավարների և տեխնոլոգների համար հիմնական խնդիրը միայն ֆինանսական վերահսկողությունը չէ, այլ AI գործակալների (արհեստական բանականության գործակալների) ինտեգրումը կարևորագույն բիզնես գործընթացների մեջ՝ առանց անհրաժեշտ կառավարման, աուդիտի հնարավորության և մարդու անմիջական մասնակցության անվտանգության մեխանիզմների:

Ինքնավար կատարելության պատրանքը

Situational Awareness-ի գրավչությունը կառուցված էր «իրավիճակային հետախուզության» խոստման վրա՝ AI-ի ունակությունը՝ սկանավորելու համաշխարհային շուկաները, համադրելու տարբեր տվյալներ և միլիվայրկյանների ընթացքում իրականացնելու գործարքներ: Սա թվային տրանսֆորմացիայի վերջնական երազանքն է. մի անխափան, ավտոմատացված համակարգ, որտեղ ռազմավարության և կատարողականի միջև պատնեշը վերանում է: Ձեռնարկատիրական համատեքստում մենք տեսնում ենք, թե ինչպես է այս ցանկությունը իրագործվում CRM համակարգերում, որոնք կանխատեսում են հաճախորդների հոսքը (churn), կամ մատակարարման շղթայի ծրագրերում, որոնք ինքնավար կերպով համալրում են պաշարները:

Այնուամենայնիվ, Situational Awareness-ի փլուզումը վեր է հանում AI-ի ներդրման մեջ կրկնվող ճարտարապետական թերությունը՝ «հետադարձ կապի օղակի փլուզումը»: Երբ ինքնավար համակարգը գործում է սեփական՝ փակ տրամաբանությամբ՝ առանց թափանցիկ մոնիթորինգի, այն կարող է շեղվել այնպիսի ռազմավարությունների, որոնք իր ներքին պարամետրերով տեխնիկապես «ճիշտ» են, բայց իրական աշխարհում՝ աղետալի:

Ավտոմատացված հետախուզություն օգտագործել ցանկացող ընկերությունների համար պետք է առաջնահերթություն տալ հետևյալ ռիսկերին.

  • Ալգորիթմական շեղում (Algorithmic Drift). Մոդելների՝ նոր տվյալներին հարմարվելուն զուգընթաց՝ դրանց նախնական նպատակները կարող են նոսրանալ՝ հանգեցնելով չնախատեսված վարքագծի:
  • Տվյալների ծագման անթափանցելիություն. Եթե հիմքում ընկած տվյալների հավաքածուները աղտոտված են կամ կողմնակալ, AI գործակալը կմեծացնի այդ սխալները մինչև մարդ-վերլուծաբանի միջամտելը:
  • Կառավարման վակուում. Շատ ընկերություններ ներդնում են ավտոմատացում առանց հստակ «անջատիչների» (kill switches) կամ կարգավորող հաշվետվությունների՝ ենթադրելով, որ եթե համակարգը լավ է աշխատել հետադարձ թեստավորման (backtesting) ժամանակ, ապա այն անվտանգ է արտադրության մեջ:

Այստեղ դասն այն է, որ AI-ն, որքան էլ բարդ լինի, մնում է գործիք: Երբ կազմակերպությունը ավտոմատացված համակարգին վերաբերվում է որպես ինքնիշխան միավորի, այն ոչ թե նորարարություն է անում, այլ՝ հրավիրում է անկայունություն:

Հիպից դեպի ինստիտուցիոնալ պաշտպանիչ մեխանիզմներ

Situational Awareness-ի հետաքննությունը ընդգծում է կարգավորող մարմինների կողմից ավտոմատացված համակարգերի նկատմամբ վերաբերմունքի փոփոխությունը: Մենք դուրս ենք գալիս մի ժամանակաշրջանից, երբ կորպորատիվ դատավարություններում «ալգորիթմն է արել» արդարացումը ընդունելի էր: Տեխնոլոգիական առաջնորդների համար սա պարտադրում է անցում դեպի Պատասխանատու AI-ի (Responsible AI) շրջանակներ, որոնք շեշտը դնում են բացատրելիության վրա:

Եթե ձեր կազմակերպությունը հիմնվում է Ավտոմատացման վրա՝ կարևորագույն արդյունքների հասնելու համար (լինի դա հաճախորդների սպասարկման, ֆինանսական գործառնությունների, թե լոգիստիկայի մեջ), տեխնոլոգիական կառուցվածքը պետք է զարգանա՝ ներառելով դիտարկելիություն (observability): Ինքնավար գործակալն այնքանով է արժեքավոր, որքանով այն մետատվյալները, որոնք տրամադրում է իր որոշումների կայացման գործընթացի վերաբերյալ: Ղեկավարները պետք է հարցնեն.

  • Կարո՞ղ են մեր AI համակարգերը բացատրել իրենց կոնկրետ արդյունքը՝ ընթացիկ բիզնես նպատակների համատեքստում:
  • Սահմանե՞լ ենք հստակ սահմաններ, որտեղ գործակալը պետք է որոշումը փոխանցի մարդկային պատասխանատուներին:
  • Մեր թվային տրանսֆորմացիայի նախագծերը մեկուսացվա՞ծ են, թե՞ ինտեգրված են միջֆունկցիոնալ կառավարման շրջանակի մեջ:

Այս անցման բիզնես ազդեցությունը էական է: Մինչ AI-ի համար ROI-ի (ներդրումների վերադարձի) սկզբնական հաշվարկները հաճախ կենտրոնանում են անձնակազմի կամ շուկա դուրս գալու ժամանակի կրճատման վրա, «իրական» ROI-ն ներառում է ռիսկերի մեղմման ծախսերը: Մի համակարգ, որը խնայում է ընկերությանը 1 միլիոն դոլար գործառնական արդյունավետության հաշվին, բայց առաջացնում է 10 միլիոն դոլարի կարգավորող տուգանքներ, զուտ ձախողում է: Առաջադեմ ընկերություններն այժմ բյուջեն վերաբաշխում են զուտ «կանխատեսող» մոդելներից դեպի «նախատեսող և բացատրելի» ճարտարապետություններ, որոնք կամրջում են AI-ի արագության և կորպորատիվ հաշվետվողականության միջև եղած բացը:

Վստահելի ավտոմատացման ապագան

Նայելով ապագային՝ պետք է ակնկալել կարգավորող մարմինների կողմից վերահսկողության աճ բոլոր այն ոլորտներում,