Արհեստական բանականության (ԱԲ) ոլորտում գերիշխող պատումը երկար ժամանակ թելադրված է եղել «ինչքան մեծ, այնքան լավ» սկզբունքով։ Վերջին երկու տարիների ընթացքում ոլորտը տարված էր պարամետրերի հսկայական քանակով և GPU-ի այն հզորությամբ, որն անհրաժեշտ էր տրամաբանելու ընդունակ մոդելներ մարզելու համար։ Այնուամենայնիվ, նկատելի շրջադարձ է տեղի ունենում։ Ձեռնարկատիրական ԱԲ-ի ապագան միայն ամպային գերհամակարգիչներով չէ, որ պայմանավորված է. այն այնպիսի բանականություն է, որը գործում է հենց այնտեղ, որտեղ տեղի են ունենում իրադարձությունները՝ «եզրային» (edge) մակարդակում։
Կրելի սարքավորումների վրա մասնագիտացված, թեթև լեզվական մոդելների (LLMs), մասնավորապես՝ Qualcomm-ի չիպերով աշխատող լուծումների հայտնվելը վկայում է բիզնեսում մեքենայական ուսուցման ներդրման հիմնարար փոփոխության մասին։ Սեղմելով բարդ մոդելների կշիռները՝ խելացի ակնոցների նման սարքերի վրա դրանք տեղայնորեն գործարկելու միջոցով՝ PrismML-ի նման ընկերությունները փաստացի ապակենտրոնացնում են ԱԲ համակարգը։ Այս անցումը ոչ միայն տեխնիկական նորույթ է, այլև թվային վերափոխման հաջորդ փուլի կատալիզատոր, որտեղ իրական ժամանակում ստացված, նվազագույն ուշացումով տվյալները դառնում են բիզնեսի ստանդարտ պահանջ և ոչ թե շքեղություն։
Անցում դեպի սարքի վրա հիմնված բանականություն
Տարիներ շարունակ ԱԲ-ի վրա հիմնված գործիքների ընդունումը սահմանափակվում էր կապի հնարավորություններով և տվյալների փոխանցման ուշացումով (latency): Եթե հեռավոր օբյեկտում աշխատող տեխնիկին կամ մեծ պահեստում աշխատող լոգիստիկայի մենեջերին անհրաժեշտ էր ԱԲ օգնություն, ապա տվյալներն ամպային սերվեր ուղարկելու և հետ ստանալու ժամանակը հաճախ գործընթացը դարձնում էր դանդաղ, կամ ավելի վատ՝ ցանցային սահմանափակումների պատճառով՝ անօգտագործելի։
Բաց ելակետային կշիռներով «փոքր» LLM-ների տեղակայումը անմիջապես սարքավորումների վրա փոխում է ներդրումների հետգնելիության (ROI) հաշվարկը։ Ժամանակակից չիպերի ներսում առկա NPU (Neural Processing Unit) ճարտարապետությունն օգտագործելով՝ բիզնեսները կարող են իրականացնել բարդ հաշվարկներ տեղում (locally)։ Սա երեք կարևոր առավելություն է տալիս.
- Տվյալների ինքնիշխանություն և գաղտնիություն. Զգայուն տեղեկատվության՝ օրինակ՝ հաճախորդների հետ զրույցների, սեփական գծագրերի կամ ներքին ախտորոշիչ տվյալների մշակումը անմիջապես տեղային սարքավորման վրա թույլ է տալիս նվազեցնել հանրային ցանցով տվյալներ փոխանցելու հետ կապված ռիսկերը։
- Մշտական հասանելիություն. Տեղայնացված ԱԲ-ն կախված չէ կայուն ինտերնետ կապից։ Անկախ նրանից՝ դա անցանց արդյունաբերական գոտի է, թե ինքնաթիռի սրահ, բանականությունը շարունակում է գործել՝ ապահովելով գործառնական արդյունավետություն։
- Գործառնական ծախսերի կրճատում. Եզրային (edge) մակարդակում հաշվարկներ կատարելը հաշվարկային ծանրաբեռնվածությունը տեղափոխում է թանկարժեք ամպային GPU-ների վարձակալությունից դեպի ձեռնարկության արդեն իսկ ձեռք բերած սարքավորումներ։ Սա ԱԲ-ն մեծ թիմերի շրջանում մասշտաբավորելու համար ստեղծում է ծախսերի ավելի կանխատեսելի և կայուն մոդել։
Ռազմավարական նշանակությունը ձեռնարկությունների համար
Բիզնեսի ղեկավարների համար այս մոդելների ինտեգրումը կրելի սարքերում նշանակում է «մարդ-օղակում» (human-in-the-loop) հայեցակարգի ընդլայնում։ Մենք հեռանում ենք ԱԲ-ից՝ որպես սեղանին կապված հավելված, և շարժվում դեպի ԱԲ՝ որպես շրջակա օգնական։ Պատկերացրեք CRM համակարգ, որն այլևս կարիք չունի, որ օգտատերը հերթափոխի վերջում ձեռքով թարմացնի տվյալները։ Եզրային ԱԲ-ի շնորհիվ խելացի ակնոցներ կրող վաճառքի ներկայացուցիչը կարող է CRM-ի տվյալները սինթեզել իրական ժամանակում՝ ստանալով հուշումներ հաճախորդի նախասիրությունների կամ նախկին շփումների մասին՝ կենդանի զրույցի ընթացքում։
Որդեգրման միտումը պարզ է. այն ընկերությունները, որոնք հիմնվում են եզրային (edge-native) ԱԲ-ի վրա, կարող են պարզ ավտոմատացումից անցնել բարձր անհատականացված, իրական ժամանակի աշխատանքային հոսքերի կառավարման։ Սա կամուրջ է ավանդական թվային վերափոխման, որը թվայնացնում էր տեղեկատվությունը, և «խելացի գործառնությունների» նոր դարաշրջանի միջև, որտեղ հենց ենթակառուցվածքն է տրամադրում գործնական ուղեցույցներ։
Այնուամենայնիվ, այս անցումը պահանջում է փոխել ՏՏ ղեկավարության վերաբերմունքը տեխնոլոգիական համակարգի նկատմամբ։ Մոնոլիտ ԱԲ ծառայություններից հրաժարվելը և հիբրիդային մոդելին անցնելը, որտեղ հսկայական ամպային մոդելները կատարում են ծանր վերլուծությունները, իսկ եզրային մոդելները՝ անհապաղ, բարձր ճշգրտության փոխազդեցությունը, պահանջում է ճարտարապետական նոր մակարդակ։
Նախապատրաստում «Edge-First» դարաշրջանին
Եզրային ԱԲ-ի որդեգրման ճանապարհային քարտեզը պահանջում է մանրակրկիտ պլանավորում՝ սարքավորումների համատեղելիության և մոդելի ճշգրտման (fine-tuning) հարցում։ Բիզնեսները չպետք է փնտրեն «մեկ չափը բոլորի համար» մոդել։ Փոխարենը, ուշադրությունը պետք է կենտրոնացնել այն հատուկ խնդիրների վրա, որտեղ ուշացումը (latency) հիմնական խոչընդոտն է։
Այս տեխնոլոգիաները գնահատելիս հաշվի առեք ռազմավարական հետևյալ սյուները.
- Սարքավորումների կենսացիկլի համապատասխանեցում. Համոզվեք, որ սարքավորումների ձեռքբերման առաջիկա ցիկլերը հաշվի են առնում այն NPU հնարավորությունները, որոնք անհրաժեշտ են սարքի վրա ԱԲ ապագա տեղակայումների համար։
- Մոդելի օպտիմալացում. Առաջնահերթություն տվեք բաց ելակետային կշիռներով մոդելներին, որոնք թույլ են տալիս
