Արհեստական բանականության (ԱԲ) զարգացման ներկայիս ընթացքը հասել է մի հանգրվանի, երբ ոլորտում այլևս չեն քննարկում՝ արդյո՞ք պետք է ստեղծել նոր լուծումներ, թե՝ ոչ. հարցն այն է, թե ինչպես դրանք ստեղծել: Բաց կոդով (open-source) ծրագրային ապահովման թափանցիկության և փակ համակարգերի անվտանգության միջև առկա լարվածությունը վերաճել է ռազմավարական հակասության, որը պետք է կառավարեն բոլոր տեխնոլոգիական տնօրենները (CTO) և ղեկավարները: Մինչ մենք ականատես ենք լինում հզոր և հասանելի հիմնարար մոդելների աճին, խնդիրը միայն հում հզորությունը չէ, այլ նորարարության արագության և կորպորատիվ մակարդակի անվտանգության միջև առկա անխուսափելի փոխզիջումները:

Անվտանգության ոլորտում վերջին քննարկումները վեր հանեցին մի տհաճ իրողություն. բարձրակարգ ԱԲ հնարավորությունների ժողովրդավարացումը բերում է նաև զգալի և մասշտաբային ռիսկեր: Երբ հզոր մոդելները լայնորեն հասանելի են դառնում, դրանք ոչ միայն հնարավորություններ են տալիս օրինական մշակողներին, այլև իջեցնում են մուտքի շեմը չարամիտ գործող անձանց համար: Բիզնեսի ղեկավարների համար սա նշանակում է, որ ԱԲ-ի «սև արկղը» այլևս միայն տեխնիկական աբստրակցիա չէ, այն կորպորատիվ սպառնալիքների մակերեսի շոշափելի մասն է:

Մոդելների ռազմավարության երկատումը՝ բաց ընդդեմ փակ համակարգերի

Տարիներ շարունակ open-source ԱԲ-ի գաղափարը համարվում էր «սուրբ գրալ» այն ընկերությունների համար, որոնք ձգտում էին խուսափել մատակարարից կախվածությունից (vendor lock-in): Մոդելները մասնավոր ենթակառուցվածքներում տեղակայելով՝ կազմակերպությունները պահպանում են իրենց տվյալների վերահսկողությունը և կարող են ճշգրտել (fine-tune) դրանց աշխատանքը՝ ըստ իրենց գործառնական կարիքների: Սակայն պետական կապեր ունեցող մոդելների թողարկումների շուրջ վերջին ստուգումները լույս սփռեցին դրանց չարաշահման հնարավորության վրա: Եթե մոդելը կարող է օգտագործվել լայնածավալ կիբերհարձակումների համար, ապա բաց մոդելների հասանելիությունը վերածվում է պատասխանատվության բեռի:

Ժամանակակից ձեռնարկությունների համար ռազմավարական փոխզիջումները հիմնականում բաժանվում են երեք կատեգորիայի.

  • Հարմարեցում և ինքնիշխանություն. Բաց մոդելները թույլ են տալիս լիարժեք վերահսկողություն: Խիստ կարգավորվող ոլորտների համար մոդելը մեկուսացված (air-gap) պահելու և ֆայերվոլից դուրս տվյալների արտահոսքը բացառելու կարողությունը չքննարկվող պայման է:
  • Անվտանգություն և պաշտպանիչ մեխանիզմներ. Փակ մոդելներ տրամադրողները, ինչպիսիք են Anthropic-ը, OpenAI-ը կամ Google-ը, անվտանգության արձանագրությունները ներառում են անմիջապես API մակարդակում: Սա ապահովում է անվտանգության ցանց, որը դժվար է կրկնօրինակել բաց մոդելները ներքին կարգով տեղակայելիս:
  • Գործառնական ծախսեր. Բաց մոդելները պահանջում են զգալի ներդրումներ GPU ենթակառուցվածքներում և MLOps մասնագետներում: Ի հակադրություն, փակ մոդելներն առաջարկում են կանխատեսելի «վճարիր ըստ օգտագործման» մոդել, սակայն ստեղծում են կախվածություն երրորդ կողմի ծառայությունների կայունությունից:

Շատ կազմակերպությունների համար առաջընթացի ուղին երկուական չէ: Փոխարենը՝ մենք տեսնում ենք հիբրիդային մոդելների տեղակայման միտում: Ընկերություններն օգտագործում են առևտրային API-ներ ընդհանուր նշանակության առաջադրանքների համար (օրինակ՝ հանդիպումների արձանագրությունների ամփոփում կամ ներքին հաղորդակցության նախագծում), մինչդեռ սեփական, տեղայնացված (self-hosted) մոդելները պահպանում են զգայուն, տիրույթին հատուկ առաջադրանքների համար, որտեղ տվյալների գաղտնիությունը առաջնային է:

Անվտանգությունը՝ որպես թվային վերափոխման հիմք

Քանի որ բիզնեսները շտապում են ԱԲ-ն ինտեգրել իրենց CRM համակարգերում, հաճախորդների սպասարկման հոսքերում և ներքին ավտոմատացման գործիքներում, այդ մոդելների անվտանգության պրոֆիլը պետք է դառնա բիզնեսի գնահատման հիմնական չափանիշներից մեկը: Երբ ԱԲ գործակալին թույլտվություն է տրվում միանալ տվյալների բազային կամ գործարկել ավտոմատացված վճարային ցիկլեր, հիմքում ընկած մոդելի խոցելիությունը՝ prompt injection-ների կամ չարամիտ շահագործման հանդեպ, դառնում է ուղղակի ֆինանսական ռիսկ:

Ավտոմատացումն այլևս մեկուսացված տեխնիկական նախագիծ չէ, այն ժամանակակից ձեռնարկության ողնաշարն է: Սակայն ավտոմատացման նախագծերի ROI-ն կարող է զրոյանալ մեկ օրում՝ մեկ անվտանգության խախտման պատճառով: Ղեկավարները պետք է պահանջեն թափանցիկություն ցանկացած մոդելի ուսումնական տվյալների, գնահատման չափանիշների և անվտանգության արձանագրությունների վերաբերյալ, որոնք ներդնում են իրենց աշխատանքային հոսքերում:

Որդեգրման միտումները արտացոլում են այս զգուշավոր հասունությունը: «Frontier» մոդելների (ամենաբարձր պարամետրերով) հետևից ընկնելու փոխարեն՝ ձեռնարկություններն առաջնահերթություն են տալիս մոդելի հուսալիությանը և մեկնաբանելիությանը: Մենք հեռանում ենք «արագ գործիր և կոտրիր» մտածելակերպից դեպի «անվտանգ ինտեգրիր և աստիճանաբար մասշտաբավորիր» մոտեցում: Այս փոփոխությունը կարևոր է երկարաժամկետ կայունության համար, քանի որ ԱԲ-ի պատճառով անվտանգության ձախողման հետևանքները վերացնելու արժեքը շատ ավելին է, քան վաղաժամ և անվերահսկելի որդեգրումից ստացված արդյունավետությունը:

Ապագայի գնահատում. ռազմավարական կայունություն

Առաջիկա 24 ամիսների իրական մարտահրավերը ոչ թե մոդելի ճարտարապետության, այլ ԱԲ կառավարման (governance) մեջ է: Բիզնեսի ղեկավարները պետք է ներդնեն ԱԲ մատակարարների և բաց կոդով կախվածությունների ստուգման խիստ համակարգ: Սա ենթադրում է փոփոխություն ծրագրային ապահովման մատակարարման շղթայի ընկալման մեջ.

  • Շարունակական մոնիտորինգ.