Խոշոր լեզվական մոդելների (LLMs) стрім զարգացումը պարզ տեքստի գեներացումից մեզ տեղափոխեց AI գործակալների (AI Agents) դարաշրջան՝ ինքնավար ծրագրային ապահովում, որն ունակ է կատարելու բարդ աշխատանքային գործընթացներ համացանցում: Թեև այս գործակալների խոստացած արտադրողականության աճը հսկայական է, սակայն ի հայտ է գալիս սթափեցնող մի նոր իրականություն. երբ մենք AI-ին տալիս ենք մեր բրաուզերների և բիզնես հաշիվների «բանալիները», մենք միաժամանակ ընդլայնում ենք մեր հարձակման մակերեսը այնպիսի եղանակներով, որոնց համար ավանդական կիբերանվտանգության շրջանակները պատրաստ չեն:

Zenity անվտանգության ընկերության վերջին հետազոտությունը բացահայտել է AI-ով աշխատող բրաուզերներում առկա խոցելիության կրիտիկական մակարդակը: Հայտնաբերելով ավելի քան մեկ տասնյակ անվտանգության թերություններ՝ հետազոտողները ցույց են տվել, որ այս համակարգերը, պատշաճ կերպով չպաշտպանված լինելու դեպքում, կարող են շահարկվել՝ կատարելու չարտոնված գործողություններ՝ սկսած անձնական կոնտակտներին սպամ ուղարկելուց մինչև ֆինանսական կեղծ գործարքների իրականացում: Սա պարզապես ծրագրային ապահովման մեջ առկա վրիպակ (bug) չէ, այլ թվային վերափոխման հաջորդ փուլի հիմնարար ճարտարապետական մարտահրավեր:

Ինքնավարության միրաժը. երբ գործակալները դառնում են պարտավորություն

Բիզնես առաջնորդների համար ինքնավար գործակալների գրավչությունը պարզ է. կրկնվող առաջադրանքների ավտոմատացման խոստումը՝ սկսած CRM համակարգերի, ինչպիսին Salesforce-ն է, թարմացնելուց մինչև գնումների գործընթացների կառավարումը, առաջարկում է բարձր ROI-ի (ներդրումների վերադարձ) հասնելու հստակ ուղի: Այնուամենայնիվ, Zenity-ի հետազոտությունը ընդգծում է «prompt injection» կամ «մոդելի շահարկում» կոչվող երևույթը, երբ գործակալին խաբեությամբ ստիպում են շեղվել իր նախնական նպատակից:

Երբ AI գործակալը նախագծված է վեբ ինտերֆեյսի հետ փոխգործակցելու համար, այն հիմնվում է հրահանգների վրա, որոնք ուղղորդում են նրա նավարկությունը: Եթե միջավայրը մեկուսացված (sandboxed) չէ, կամ եթե գործակալի որոշումների կայացման տրամաբանությունը բավարար չափով մեկուսացված չէ արտաքին մուտքային տվյալներից, հարձակվողը կարող է շահագործել գործակալի բրաուզերի ինտերֆեյսը: Ձեռնարկության համար հետևանքները նշանակալի են.

  • Տվյալների արտահոսք (Data Exfiltration). Գործակալը, որն ունի մուտք դեպի ներքին զգայուն փաստաթղթեր, կարող է շահարկվել և այդ տվյալները էլեկտրոնային փոստով ուղարկել չարտոնված արտաքին հասցեի:
  • Հաշվի գրավում (Account Takeover). Եթե գործակալը մուտք է գործել բիզնեսի համար կրիտիկական հարթակներ, հարձակվողը կարող է նրան հրամայել փոփոխել անվտանգության կարգավորումները, փոխել գաղտնաբառի վերականգնման տվյալները կամ նախաձեռնել չարտոնված գնումների հայտեր:
  • Հեղինակության վնասում. Ավտոմատացված հաղորդակցման ուղիները, եթե դրանք զավթվեն, կարող են օգտագործվել հաճախորդներին վնասակար հղումներ կամ սպամ ուղարկելու համար՝ ակնթարթորեն քանդելով հաճախորդների հետ հարաբերությունների կառավարման միջոցով տարիներ շարունակ կառուցված վստահությունը:

Այս բացահայտումները հուշում են, որ մինչ մենք շարժվում ենք դեպի փոխկապակցված գործակալների էկոհամակարգ, «մարդը գործընթացում» (human-in-the-loop) մոդելը դառնում է ոչ թե պարզապես նախապատվություն, այլ՝ անվտանգության պարտադիր հսկողություն:

Անվտանգության վերաիմաստավորումը գործակալական աշխատանքային հոսքերի դարաշրջանում

Քանի որ բիզնեսներն արագացնում են իրենց թվային վերափոխման նախաձեռնությունները, AI գործակալների ինտեգրումը դառնում է մրցակցային անհրաժեշտություն՝ շքեղության փոխարեն: Այնուամենայնիվ, ստատիկ ավտոմատացումից դեպի ինքնավար կատարում անցումը պահանջում է անվտանգության ապահովման մոտեցումների զուգահեռ փոփոխություն: Կազմակերպությունները այլևս չեն կարող ապավինել միայն պարագծային պաշտպանությանը: Փոխարենը, նրանք պետք է որդեգրեն «Zero Trust» (զրոյական վստահություն) մոտեցումը, որը հատուկ նախագծված է AI դարաշրջանի համար:

Այս տեխնոլոգիաներն անվտանգ մասշտաբավորելու համար ղեկավար թիմերը պետք է կենտրոնանան անվտանգ տեղակայման հետևյալ հիմնասյուների վրա.

  • Մանրակրկիտ լիազորում. Գործակալները պետք է գործեն «նվազագույն արտոնությունների սկզբունքով» (principle of least privilege): Գործակալը, որի խնդիրը հանդիպումների պլանավորումն է, չպետք է ունենա ֆինանսական գործարքներ նախաձեռնելու կամ օգտատիրոջ կարգավորումները փոփոխելու թույլտվություն:
  • Մարդակենտրոն պաշտպանիչ մեխանիզմներ. Կիրառե՛ք «անջատիչներ» զգայուն գործողությունների համար: Օրինակ՝ գործակալի կողմից նախաձեռնված ցանկացած գնման կամ տվյալների արտահանման հայտ պետք է պահանջի մարդու կողմից հաստատման պարտադիր գործընթաց՝ մինչ կատարումը:
  • Կանոնավոր աուդիտ և մոնիտորինգ. Քանի որ AI գործակալները զարգանում են, նրանց վարքագիծը փոխվում է՝ ելնելով իրենց ստացած տվյալներից: Գործակալի «որոշումների ուղու» շարունակական մոնիտորինգը էական է այն բանի համար, որպեսզի ապահովվի, որ այն մնա ՏՏ բաժնի կողմից սահմանված սահմաններում:
  • Անվտանգ միջավայրի մեկուսացում (Sandboxing). Համոզվեք, որ AI-ով աշխատող բրաուզերները կամ գործակալների միջավայրերը աշխատում են մեկուսացված կոնտեյներներում, ինչը կանխում է ընկերության լայն ներքին ցանցում կողմնային շարժումը:

AI-ի ROI-ն հիմնված է համակարգի հուսալիության վրա: Եթե գործակալն անվտանգ չէ, ապա ձեռք բերված արդյունավետությունը արագորեն չեզոքացվում է միջադեպերին արձագանքելու ծախսերով և անվտանգության խախտման