Արհեստական բանականության (ԱԲ) ոլորտում «բաց» և «փակ» մոդելների շուրջ ընթացող բանավեճը դուրս է եկել ակադեմիական շրջանակներից և տեղափոխվել կորպորատիվ խորհուրդների նիստերի դահլիճներ: Տարիներ շարունակ արդյունաբերության մեջ գերիշխում էր երկուական մոտեցումը. փակ ելակետային կոդով (closed-source) մոդելներն ապահովում էին գերազանց անվտանգություն և արդյունավետություն, իսկ բաց մոդելները (open-weight) տալիս էին խորը նորարարության համար անհրաժեշտ ճկունությունն ու ինքնավարությունը: Այնուամենայնիվ, քանի որ առաջատար մոդելները հասնում են հնարավորությունների նոր մակարդակի, քննարկումը տեղափոխվել է ռիսկի և օգուտի ավելի նուրբ հաշվարկների դաշտ: Մենք այլևս չենք հարցնում՝ արդյոք մոդելները պետք է բաց լինեն, թե ոչ. մենք հարցնում ենք՝ ի՞նչ կլինի, երբ մոդելի ներհատուկ օգտակարությունը՝ օրինակ՝ կոդ գրելու կամ համակարգային խոցելիությունները վերլուծելու ունակությունը, վերածվի երկակի նշանակության զենքի:

Վերջին հետազոտությունները, ներառյալ Anthropic-ի պես լաբորատորիաների ստանդարտ գնահատականները, ընդգծել են կարևոր լարվածությունը: Քանի որ մոդելները դառնում են ավելի հմուտ թվային բարդ միջավայրերում կողմնորոշվելու հարցում, կիբերհարձակումներին աջակցելու նրանց կարողությունը համապատասխանաբար մեծանում է: Սա շփման կետ է ստեղծում բիզնեսի ղեկավարների համար, ովքեր ցանկանում են օգտագործել ԱԲ-ի դեմոկրատացումը իրենց թվային փոխակերպման նախաձեռնությունները խթանելու համար՝ առանց անգիտակցաբար իրենց ենթակառուցվածքները վտանգելու այն նույն գործիքներով, որոնք ներդնում են:

Երկակի նշանակության երկընտրանքը բաց էկոհիստեմներում

Բաց կոդով կամ բաց ծանրակշիռ մոդելների գրավչությունը, ինչպիսիք են Meta-ի Llama շարքը կամ Mistral AI-ի պորտֆելը, հիմնված է անկախության ձգտման վրա: Զգայուն տվյալներ կառավարող ընկերությունների համար մոդելը սեփական firewall-ի հետևում տեղադրելու հնարավորությունը հսկայական առավելություն է: Այն թույլ է տալիս AI agents-ը (ԱԲ գործակալներ) ինտեգրել մասնավոր, մեկուսացված համակարգերում՝ ապահովելով, որ սեփական գիտելիքները չարտահոսեն դեպի հանրային մեծ մատակարարների ուսումնական բազաներ:

Սակայն այս ինքնավարությունը գալիս է անվտանգության ավելացված բեռով: Երբ մոդելը «բաց» է, պաշտպանիչ մեխանիզմները՝ այն կարգավորումները, որոնք արգելում են մոդելին վնասակար կոդ ստեղծել կամ ծրագրային խոցելիություններ շահագործել, տեսականորեն կարող են հեռացվել: Սա «մոդելի քաշի» ռիսկն է. եթե վնասակար դերակատարը հասանելիություն ստանա հզոր մոդելի պարամետրերին, նա կարող է հարմարեցնել այն՝ շրջանցելով անվտանգության ֆիլտրերը:

Ժամանակակից ձեռնարկության համար սա նոր ռիսկային պրոֆիլ է ստեղծում Digital Transformation-ի (Թվային փոխակերպման) համար.

  • Մատակարարման շղթայի խոցելիություն. Եթե ձեր ԱԲ-ով աշխատող ծրագրային ապահովման մշակման գործիքները կառուցված են չստուգված կամ հնարավոր կեղծված բաց աղբյուրների վրա, ձեր կոդը կարող է ժառանգել թաքնված խոցելիություններ:
  • Համապատասխանության խախտում. EU AI Act-ի պես կարգավորող շրջանակները սկսում են պահանջել թափանցիկություն և ռիսկերի գնահատում բարձր ազդեցություն ունեցող մոդելների համար: Բաց մոդելները այս համապատասխանության բեռը դնում են անմիջապես այն ձեռնարկության վրա, որն իրականացնում է դրանք:
  • Գործառնական ամբողջականություն. ԱԲ մոդելը CRM համակարգում ինտեգրելը հաճախորդների հետ շփումներն ավտոմատացնելու համար պահանջում է բարձր վստահություն, որ մոդելը չի հարկադրվի վնասակար կամ խաբեբայական արդյունքներ տալու:

Բիզնեսի իրողությունն այն է, որ բաց մոդել օգտագործելու որոշումն այժմ նույնքան կառավարման հարց է, որքան՝ տեխնիկական: Բաց մոդելների ներդրումների վերադարձը (ROI), որը հաճախ արտահայտվում է API-ի ծախսերի կրճատմամբ և տիրույթին հատուկ առաջադրանքների համար հարմարեցման հնարավորությամբ, պետք է կշռադատվի այդ մոդելները տեղայնորեն աուդիտի ենթարկելու և պահպանելու համար անհրաժեշտ մասնագիտացված անվտանգության թիմերի վարձման ծախսերի հետ:

Ռազմավարական որդեգրում և հետագա ուղին

Անվտանգության շուրջ քննարկումներին հակառակ՝ որդեգրման միտումն անշրջելի է: Այն բիզնեսները, որոնք փորձում են կողպվել մեկ, փակ աղբյուր ունեցող մատակարարի վրա, հաճախ բախվում են «մատակարարից կախվածության» (vendor lock-in) խնդրին, ինչը կարող է խոչընդոտել երկարաժամկետ ճկունությանը: Փոխարենը, ամենախելամիտ կազմակերպությունները շարժվում են դեպի հիբրիդային ռազմավարություն: Նրանք օգտագործում են փակ, բարձր անվտանգություն ունեցող մոդելներ՝ կարևոր որոշումների կայացման և զգայուն տվյալների մշակման համար, մինչդեռ ներքին ավտոմատացման առաջադրանքների համար կիրառում են բաց, մասնագիտացված մոդելներ, որոնք կարող են մեկուսացվել և խստորեն վերահսկվել:

Այս մոտեցումը համահունչ է autonomous agents-ի (ինքնավար գործակալների) անցմանը: Այս գործակալները գնալով ավելի պատասխանատու են դառնում CRM հարթակների, ERP համակարգերի և ամպային ենթակառուցվածքների միջև աշխատանքային հոսքերի կազմակերպման համար: Քանի որ այս գործակալները գործում են որոշակի ինքնավարությամբ, դրանք պետք է տեղադրվեն ճարտարապետական առումով հուսալի մոդելների վրա:

Բիզնեսի ղեկավարների համար եզրակացությունը պարզ է.

  • Ստեղծե՛ք ԱԲ կառավարման խորհուրդ. ԱԲ քաղաքականությունը տեղափոխե՛ք ՏՏ բաժնից դեպի միջգերատեսչական խումբ, որը ներառում է իրավաբանական, անվտանգության և գործառնական ստորաբաժանումները:
  • Առաջնահերթություն տվե՛ք մոդելի ծագմանը. Հասկացե՛ք, թե որտեղից են գալիս ձեր մոդելները: Ամպ