Ինքնավար գործակալների (Autonomous Agents)՝ արհեստական բանականության այն համակարգերի արագ տարածումը, որոնք ունակ են իրականացնել բարդ, բազմափուլ աշխատանքային գործընթացներ առանց մարդու մշտական վերահսկողության, բիզնեսը կանգնեցրել է վճռորոշ հանգրվանի առջև: Մինչ ընկերությունները շտապում են այս գործիքները ներդնել իրենց Հաճախորդների հետ հարաբերությունների կառավարման (CRM) համակարգերում և գործառնական խողովակաշարերում, ի հայտ է եկել հիմնարար հակասություն՝ ագրեսիվ ներդրման և համակարգային անվտանգության միջև լարվածությունը: Վերջերս ուշադրության կենտրոնում հայտնվեցին Nvidia-ն և նրա Open Agent Safety Platform-ը՝ ոլորտային մի նախաձեռնություն, որի նպատակն է սահմանել անվտանգության կանոնակարգեր այս զարգացող թվային սուբյեկտների համար: Հետաքրքիր է, որ OpenAI-ի բացակայությունը աջակիցների հրապարակային ցուցակում զարմանք է առաջացրել, սակայն այս լռության իրական պատճառները շատ ավելի նրբին են, քան պարզ կորպորատիվ տարաձայնությունը:
Հավասարակշռում. անվտանգության չափանիշներն ընդդեմ մրցակցային ռազմավարության
Մինչ ոլորտը ձգտում է ստեղծել միասնական շրջանակ՝ «անվերահսկելի» գործակալների ռիսկերը նվազեցնելու համար (այնպիսի գործակալներ, որոնք կարող են չարտոնված գործարքներ կատարել կամ շրջանցել անվտանգության արձանագրությունները), մասնակցության դինամիկան բարդ է: Ոլորտային կոնսորցիումին հրապարակայնորեն միանալը միայն անվտանգության օգտին քվեարկել չէ, դա տեխնիկական համագործակցության մասին հայտարարություն է: OpenAI-ի նման կազմակերպությունների համար, որոնք ստեղծում են սեփական ներքին անվտանգության հետազոտական էկոհամակարգերը, Nvidia-ի գլխավորած այս կոնկրետ նախաձեռնությունից դուրս մնալու որոշումը հաճախ ռազմավարական ինքնավարության հարց է, այլ ոչ թե անվտանգության նկատմամբ հանձնառության բացակայություն:
Տեխնոլոգիական ոլորտի փորձագետները գիտեն, որ կուլիսների հետևում այս ոլորտային հսկաների միջև բարձր մակարդակի ինժեներական երկխոսությունները շարունակվում են: Գործակալական աշխատանքային գործընթացների անվտանգության ապահովման հետ կապված տեխնիկական պարտքը չափազանց մեծ է, որպեսզի որևէ մեկ ընկերություն այն լուծի մեկուսացված վիճակում: Բիզնես առաջնորդների համար այս «լուռ համագործակցությունը» վկայում է այն մասին, որ մինչ հանրային չափանիշները դեռ զարգացման փուլում են, անվտանգության հիմքում ընկած ճարտարապետությունը ենթարկվում է ոլորտի ամենանշանակալի խաղացողների կողմից իրականացվող սթրես-թեստերի: Նպատակն է հասնել մի մոդելի, որտեղ ԱԲ գործակալները գործում են բավարար անվտանգության կանոնակարգերով՝ կանխելու գործառնական ձախողումները, սակայն ունեն բավարար ճկունություն՝ իրական բիզնես արդյունավետություն (ROI) ապահովելու համար:
Ինչո՞ւ է անվտանգությունը թվային փոխակերպման նոր սահմանագիծը
Ձեռնարկությունների համար այս անվտանգության հարթակների հասունությունը ուղղակիորեն կապված է նրանց թվային փոխակերպման արագության հետ: Պատմականորեն, կորպորատիվ միջավայրում ԱԲ-ի ներդրման ամենամեծ խոչընդոտը «սև արկղի» խնդիրն էր՝ այն անկարողությունը, որով հնարավոր չէր կանխատեսել կամ աուդիտի ենթարկել, թե ինչպես է ԱԲ գործակալը հասել կոնկրետ որոշման: Քանի որ Nvidia-ն և այլք աշխատում են գործակալների վարքագիծը ստանդարտացնելու ուղղությամբ, մենք տեսնում ենք հետևյալ միտումների առաջացումը բիզնես ոլորտում.
- Ռիսկերի վրա հիմնված ավտոմատացում. Ընկերությունները հրաժարվում են «արագ գործիր և փչացրու» սկզբունքից՝ անցնելով «փորձարկիր, կրկնիր և ինտեգրիր» մոտեցմանը: Անվտանգության հարթակները թույլ են տալիս բիզնեսին սահմանել շրջանակներ, որոնցում գործակալները կարող են գործել՝ ապահովելով, որ հաճախորդների սպասարկման չաթ-բոտը չկարողանա պատահաբար զեղչեր հաստատել կամ բացահայտել գաղտնի տվյալներ:
- Փոխգործունակության չափանիշներ. Ինչպես ինտերնետին անհրաժեշտ էր TCP/IP-ը, ԱԲ գործակալների տնտեսությանը անհրաժեշտ է անվտանգության ընդհանուր լեզու: Բիզնեսներն ավելի ու ավելի են նախապատվությունը տալիս այն վաճառողներին, որոնք հետևում են բաց շրջանակներին, քանի որ դա ապահովագրում է նրանց ներքին ենթակառուցվածքը կախվածությունից մեկ հարթակից:
- Աուդիտի պահանջը. Կարգավորող մարմինները և ներքին համապատասխանության թիմերը պահանջում են թափանցիկություն: Անվտանգության ժամանակակից շերտերն այժմ տրամադրում են «սև արկղի» գործառույթ գործակալների համար՝ թույլ տալով ընկերություններին հետևել ԱԲ-ի յուրաքանչյուր քայլին՝ սպասարկման հարցումը լուծելու կամ CRM գրառումը թարմացնելու համար:
ROI-ի (ներդրումների վերադարձի) հետևանքներն այստեղ հսկայական են: Երբ ընկերությունը կարող է վստահորեն ներդնել ինքնավար գործակալ՝ մեծ ծավալի գնումների կամ հաճախորդների սպասարկման առաջադրանքները կատարելու համար, մեկ փոխգործակցության արժեքը կտրուկ նվազում է: Այնուամենայնիվ, եթե այդ գործակալները մշտապես մարդկային միջամտության կարիք ունեն՝ սխալները «ուղղելու» համար, բիզնեսի հիմնավորումը վերանում է: Անվտանգությունը պարզապես կարգավորող կետ չէ, այն նախապայման է այնպիսի մասշտաբային, բարձր եկամտաբեր ավտոմատացման համար, որը պահանջում են ժամանակակից ընկերությունները:
Ապագան. կողմնորոշվելով գործակալական դարաշրջանում
Առաջիկա քսանչորս ամիսների ընթացքում ոլորտը հավանաբար կանցնի հիբրիդային մոդելի: Մենք կտեսնենք «Safety-as-a-Service» (անվտանգությունը որպես ծառայություն) շերտերի ի հայտ գալը, որոնք տեղակայված կլինեն գոյություն ունեցող Խոշոր լեզվական մոդելների (LLMs) վրա՝ ապահովելով պաշտպանիչ շերտ, որը կստուգի գործակալի արդյունքները՝ համեմատելով ընկերության հատուկ քաղաքականության տվյալների բազաների հետ: Բիզնես առաջնորդների համար եզրակացությունը պարզ է
