Ժամանակակից ձեռնարկությունները ներկայումս հայտնվել են պարադոքսալ «արագավազքի» մեջ։ Մինչ բարձրաստիճան ղեկավարներն ու ստորաբաժանումների տնօրենները ակտիվորեն հաստատում են արհեստական բանականության (ԱԲ) բյուջեները, աճում է անջրպետը մասշտաբայնացման հավակնությունների և դրա հիմքում ընկած տնտեսական գործընթացները կառավարելու կարողության միջև։ Մենք ականատեսն ենք «հաշվողական բացի» (compute gap) առաջացմանը՝ վտանգավոր մի անդունդ կապիտալի ներդրման արագության և այն տեսանելիության միջև, որն անհրաժեշտ է այդ կապիտալից եկամուտ ապահովելու համար։

Բիզնեսի ղեկավարների համար հարցադրումը «Կարո՞ղ ենք արդյոք ներդնել ԱԲ»-ից փոխվել է «Ինչպե՞ս դադարեցնել բյուջեի մսխումը այն ենթակառուցվածքների վրա, որոնք նույնիսկ չենք օգտագործում» հարցին։ Թեև շատ կազմակերպություններ հաջողությամբ իրականացնում են պիլոտային ծրագրեր, սակայն ձեռնարկության մասշտաբով արտադրության անցումը ցույց է տալիս, որ ընթացիկ գնումների ռազմավարությունները չափազանց փխրուն են։

Օգտագործման պատրանքը և TCO-ի «կույր կետը»

Ամպային ԱԲ օգտագործող ցանկացած կազմակերպության համար հիմնական մտահոգությունը պահուստավորված հզորության և իրական գործառնական արդյունքի միջև անհամապատասխանությունն է։ Տվյալները ցույց են տալիս, որ ձեռնարկատիրական մակարդակի GPU կլաստերների ճնշող մեծամասնությունն աշխատում է 50% կամ ավելի ցածր ծանրաբեռնվածությամբ։ Սա ոչ միայն գործառնական անարդյունավետություն է, այլև ուղղակի հարված Սեփականության ընդհանուր արժեքին (TCO)։ Երբ կազմակերպությունը ձեռք է բերում հզոր, բարձր արտադրողականությամբ հաշվողական հզորություններ, որոնք պարապուրդի են մատնվում ոչ պիկ ժամերին կամ անարդյունավետ կոդի պատճառով, ապա մեկ եզրակացության (inference) արժեքը կտրուկ աճում է։

Այստեղ զավեշտալին այն է, որ ձեռնարկությունները հսկայական, երկարաժամկետ ենթակառուցվածքային պարտավորություններ են ստանձնում՝ հիմնվելով այնպիսի գործոնների վրա, որոնք դեռևս չեն կարող վերահսկել։ Թեև որոշում կայացնողները որպես գնումների հիմնական շարժիչ ուժ մշտապես նշում են TCO-ն և ինտեգրումը, նրանց կեսից քիչն ունի իրական միավորի տնտեսությունը (unit economics) հետևելու համար անհրաժեշտ գործիքակազմ։ Նրանք ընտրում են մատակարարներին «անխափան ինտեգրման» համար՝ մնալով կույր այն հարցում, թե արդյոք այդ ինտեգրումը երկարաժամկետ հեռանկարում ծախսարդյունավետ է։

Սա բարձր ռիսկային միջավայր է ստեղծում Թվային փոխակերպման նախաձեռնությունների համար։ Եթե ընկերությունն ավտոմատացնում է իր Հաճախորդների հետ հարաբերությունների կառավարման (CRM) գործընթացները՝ օգտագործելով գեներատիվ ԱԲ, բայց այդ ԱԲ գործակալներին սնուցող հաշվողական հզորության արժեքը թափանցիկ չէ, ապա բիզնեսը կարող է հայտնվել մի ծառայության մասշտաբայնացման մեջ, որը հիմնովին անշահավետ է։ Առանց տեսանելիության հնարավոր չէ օպտիմալացնել, իսկ առանց օպտիմալացման՝ ձեր ԱԲ նախաձեռնությունները դառնում են ծախսային կենտրոն, այլ ոչ թե արժեք ստեղծող։

Ենթակառուցվածքների առաջիկա վերափոխումը

Ներկայիս իրավիճակի ամենակարևոր ազդակը, թերևս, ձեռնարկատիրական գնորդների շրջանում մատակարարներին փոխելու բարձր պատրաստակամությունն է։ Ընկերությունների հստակ մեծամասնությունը նախատեսում է փոխել կամ ընդլայնել իրենց ենթակառուցվածքային մատակարարներին հաջորդ տասներկու ամիսների ընթացքում։ Սա տեղաշարժի այնպիսի մակարդակ է, որը գրեթե աննախադեպ է հիմնարար ձեռնարկատիրական ծրագրային ապահովման ոլորտում։

Ինչո՞վ է պայմանավորված տեղափոխվելու հանկարծակի ցանկությունը։ Պատճառը հաճախակի քննարկվող տոկենների գները չեն, որոնք հաճախ շեղող գործոն են։ Փոխարենը, շուկան սկսում է գիտակցել, որ հիմնական հայպերսքեյլերների (ինչպիսիք են Google Cloud-ը, Microsoft Azure-ը և AWS-ը) «մեկ չափսը բոլորի համար» մոտեցումը կարող է օպտիմալ ուղին չլինել յուրաքանչյուր աշխատանքային բեռի համար։

Մենք ականատես ենք լինում աճող միտումների.

  • ԱԲ-ի համար մասնագիտացված ամպեր: Նորաստեղծ «նեոամպային» մատակարարները մեծ ուշադրություն են գրավում՝ առաջարկելով մասնագիտացված հաշվողական միջավայրեր, որոնք կարող են ավելի լավ համապատասխանել ԱԲ-ի ուսուցման կամ եզրակացության (inference) նեղ կարիքներին։
  • Այլընտրանքային սիլիցիում: Կազմակերպությունների հասունացմանը զուգընթաց՝ աճում է հետաքրքրությունը ստանդարտ Nvidia GPU-ներից դուրս այլ արագացուցիչների նկատմամբ, որոնք առաջարկում են գին-արտադրողականություն այլ հարաբերակցություն։
  • Հիշողության վրա հիմնված ճարտարապետություններ: Եզրակացության հաջորդ սահմանագիծը հում հաշվողական ցիկլերից տեղափոխվում է դեպի հիշողության թողունակություն։ Մոդելների մեծացմանը զուգընթաց՝ լայնածավալ եզրակացության մեջ «խցանումը» դառնում է KV-cache-ը կառավարելու կարողությունը։ Նրանք, ովքեր չեն պլանավորում այս փոփոխությունը, իրենց ռազմավարությունը կառուցում են հիմքի վրա, որը շուտով հնանալու է։

Սա ցույց է տալիս, որ մենք գտնվում ենք «վերապլատֆորմավորման» ալիքի շեմին։ Կազմակերպություններն այլևս չեն բավարարվում հաշվողական հզորություն «վարձակալելով». նրանք դառնում են ավելի ճշգրիտ՝ հասկանալու համար, թե որտեղ է տեղակայված այդ հզորությունը և ինչպես է այն ինտեգրվում իրենց գոյություն ունեցող համակարգերին։

Տեխնիկական պարտքի թաքնված արժեքը

Բիզնեսի ղեկավարի համար «հաշվողական բացը» ըստ էության տեխնիկական պարտքի մի տեսակ է։ Երբ գնում եք ենթակառուցվածք մինչև դրա արդյունավետությունը հետևելու համար անհրաժեշտ հեռաչափություն (telemetry) ունենալը, դուք կուտակում եք պարտք, որը վերջում ստի