Anthropic-ի կողմից իր Claude լեզվական մեծ մոդելներում (LLM) անտեսանելի ջրանիշների (watermarking) ներդրումը կարգավորող մարմինների պահանջների և ծրագրավորողների համայնքի «բաց կոդի» (open-source) ոգու միջև առկա հակասության փոքր մասշտաբի արտացոլումն է։ Այս ջրանիշները, որոնք նախագծված էին ԵՄ AI ակտի (EU AI Act) խիստ պահանջները բավարարելու համար, պետք է ծառայեին որպես թվային «մատնահետք»՝ թույլ տալով ձեռնարկություններին և կարգավորողներին ստուգել՝ արդյո՞ք տեքստը ստեղծվել է LLM-ի կողմից։ Սակայն հայտարարությունից ընդամենը ժամեր անց կիբերանվտանգության համայնքը և անկախ ծրագրավորողներն արդեն փաստագրել էին այդ նշանները հեռացնելու, խեղաթյուրելու կամ շրջանցելու եղանակները։

Բիզնես ղեկավարների համար սա ավելին է, քան պարզապես տեխնիկական նշում. սա ազդանշան է այն բանի, որ ենթակառուցվածքը, որի վրա մենք հիմնվում ենք թվային փոխակերպման համար, գտնվում է մշտական անկայունության վիճակում։ Քանի որ կազմակերպություններն AI-ն ավելի խորն են ներդնում իրենց աշխատանքային գործընթացներում, ռիսկերի կառավարման և երկարաժամկետ ռազմավարական պլանավորման համար անհրաժեշտ է հասկանալ «նախագծված վստահության» (trust-by-design) գործառույթների սահմանափակումները։

Անփոփոխ ծագումնաբանության պատրանքը

Ձեռնարկատիրական աշխարհում ծագումնաբանությունը՝ տեղեկատվության ծագումը և պատմությունը հետևելու կարողությունը, տվյալների կառավարման հիմնասյունն է։ Երբ Anthropic-ը ներկայացրեց ջրանիշների համակարգը, ընկերությունների համար դրա անմիջական գրավչությունը հաշվետվողականության խոստումն էր։ Պատկերացրեք մի CRM համակարգ, որն ավտոմատ կերպով նշում է AI-ի կողմից ստեղծված հաղորդագրությունները, կամ համապատասխանության ապահովման բաժին (compliance department), որը կարող է ակնթարթորեն ստուգել՝ պայմանագրի սևագիրը գրվել է գործակալի՞, թե՞ իրավաբանի կողմից։

Այնուամենայնիվ, այս ջրանիշների շուրջ ձևավորված «շրջանցման» արագ մշակույթը ապացուցում է, որ տեխնիկական ծագումնաբանությունը բնույթով փխրուն է։ Եթե հակառակորդ օգտատերը կարող է մանիպուլյացիայի ենթարկել մոդելի արդյունքը՝ հեռացնելով թվային ստորագրությունը, ապա «վստահելի ջրանիշի» ամբողջ գաղափարը կորցնում է իր իրավական և ընթացակարգային օգտակարությունը։ CIO-ների և CTO-ների համար սա ստեղծում է կեղծ անվտանգության վտանգավոր զգացում։ Կորպորատիվ քաղաքականության իրականացման համար մոդելի մակարդակի ջրանիշների վրա հույս դնելը նման է այնպիսի թվային կողպեքի օգտագործմանը, որը կարող է բացել ցանկացած մեկը, ով ունի հուշումների (prompting) կամ պարզ հետմշակման վերաբերյալ տարրական պատկերացում։

Այս դինամիկան ազդում է ժամանակակից բիզնեսի մի շարք մակարդակների վրա.

  • Բովանդակության իսկությունը. Մարքեթինգային թիմերն այլևս չեն կարող ապավինել հարթակի մակարդակի պիտակներին՝ AI-ի կողմից ստեղծված բրենդային նյութերը մարդու կողմից ստեղծվածներից տարբերելու համար:
  • Համապատասխանության շեղում. ԵՄ AI ակտի ներքո աշխատող իրավաբանական թիմերը պետք է գիտակցեն, որ վաճառողների կողմից տրամադրված «համապատասխանության գործիքները» կարող են անթերի չլինել, ինչը պահանջում է ներքին ստուգման լրացուցիչ, ամուր արձանագրություններ:
  • Տվյալների ամբողջականություն. Երբ ինքնավար AI գործակալները սկսում են հաղորդակցվել միմյանց հետ բազմագործակալային միջավայրերում, պատճառաբանության շղթային հետևելու ունակությունը վտանգվում է, եթե հիմքում ընկած նշանները կարող են հեշտությամբ ջնջվել։

Ռազմավարական կայունություն՝ ալգորիթմական անվտանգության փոխարեն

Փոխանակ սպասելու, որ մոդելներ մատակարարողները ստեղծեն անխոցելի ջրանիշ, ոլորտի առաջատարները պետք է ուշադրությունը կենտրոնացնեն կայուն ճարտարապետության (Resilient Architecture) վրա։ Թվային փոխակերպումը ոչ միայն գործիքների ընդունումն է, այլ նաև այնպիսի համակարգերի կառուցումը, որոնք ճիշտ են գործում նույնիսկ այն դեպքում, երբ հիմքում ընկած տեխնոլոգիան վտանգված է։

Այն ընկերությունների համար, որոնք մեծ ներդրումներ են կատարում ավտոմատացման և մեքենայական ուսուցման վրա հիմնված աշխատանքային գործընթացներում, ռազմավարությունը պետք է ուղղվի «խորը պաշտպանության» (Defense in Depth): Եթե ձեր բիզնեսը կարևոր որոշումներ կայացնելիս հույսը դնում է AI-ի վրա, դուք պետք է ներդնեք հետևյալ շրջանակները.

  • Համատեքստային վավերացում. Անտեսանելի ջրանիշին վստահելու փոխարեն՝ կառուցեք վավերացման շերտեր, որոնք ստուգում են AI-ի արդյունքները ձեռնարկության հատուկ գիտելիքների բազայի և նախապես սահմանված սահմանափակումների համեմատ:
  • Մարդու մասնակցությամբ (HITL) արձանագրություններ. Կարևոր բիզնես հաղորդակցությունների կամ ֆինանսական մոդելավորման համար պարտադրեք մարդկային ստուգման քայլ, որը կգրանցի աուդիտի ուղիները կենտրոնացված տվյալների բազայում՝ մոդելի ներքին պիտակավորման վրա հույս դնելու փոխարեն:
  • Դետերմինիստական սահմանափակումներ. Օգտագործեք օրկեստրավորման շերտեր, որոնք մաքրում են AI-ի արդյունքները մինչ դրանց՝ արտաքին համակարգեր կամ հաճախորդներ հասնելը՝ ապահովելով, որ բովանդակությունը համապատասխանում է ներքին որակի և անվտանգության չափանիշներին՝ անկախ դրա սկզբնական ծագումից:

Ջրանիշների շուրջ տարվածությունը՝ անկախ նրանից՝ դրանք առկա են, թե շրջանցված, հաճախ շեղում է ուշադրությունը հիմնական հնարավորությունից՝ մարդկային բանականության ուժեղացումը՝ բիզնեսի գերազանց արդյունքների հասնելու համար: AI-ի ներդրման նպատակը պետք է լինի ոչ թե մոդելը «բացահայտելը», այլ մոդելի կողմից ստեղծված տեղեկատվության որակի, հուսալիության և անվտանգության կառավարումը։ Բիզնեսները, որոնք կկենտրոնանան ներքին վերահսկողության մեխանիզմների կառուցման վրա