Տարիներ շարունակ արհեստական բանականության (ԱԲ) ոլորտում գերիշխել է «սև արկղի» երկընտրանքը։ Մենք տվյալներ ենք մուտքագրում հսկայական նեյրոնային ցանցեր, և դրանք ստեղծում են արդյունքներ, որոնք հաճախ փայլուն են, երբեմն՝ անկանխատեսելի, և, ամենակարևորը՝ լիովին անթափանց։ Մենք Large Language Models-ը (LLM) դիտարկել ենք որպես պատգամախոսներ. մենք վստահում ենք արդյունքին, բայց քիչ բան գիտենք այն կոգնիտիվ ուղիների մասին, որոնք հանգեցրել են դրան։
Այս մոտեցումը փոխվում է։ Մեխանիստական մեկնաբանելիության (mechanistic interpretability)՝ նեյրոնային ցանցերի «հակադարձ ճարտարագիտությանը» նվիրված գիտական ոլորտի վերջին բեկումները սկսում են բացահայտել, թե ինչպես են ԱԲ մոդելները ներքուստ պատկերացնում հասկացությունները։ Նույնականացնելով նեյրոնների հատուկ կլաստերները կամ «հատկանիշները» (features), որոնք ակտիվանում են մոդելի կողմից որոշակի թեմաներ մշակելիս, հետազոտողները ԱԲ-ի վարքագիծը դիտարկելուց անցնում են դրա ճանաչողական գործընթացները հասկանալուն։ Ալքիմիայից դեպի ինժեներություն այս անցումը ձեռնարկատիրական ԱԲ-ի հասունության ամենակարևոր իրադարձությունն է մինչ օրս։
Կոռելյացիայից այն կողմ. ճանաչողական թափանցիկության վերելքը
Պատմականորեն ընկերությունները ԱԲ-ն ներդրել են՝ կատարելագործելով prompt engineering-ը, ինչը նույնն է, թե մարդու մտքերը գուշակել՝ դիտելով նրա դեմքի արտահայտությունները։ Եթե արդյունքը իդեալական չէր, լուծումը սովորաբար մուտքային տվյալների ճշգրտումն էր։ Թեև սա արդյունավետ է պարզ խնդիրների համար, այս մոտեցումը բավարար չէ բարձր ռիսկային բիզնես միջավայրերում, որտեղ բացատրելիությունն ու հուսալիությունը անքննարկելի պահանջներ են։
Ներքին ներկայացումների վերաբերյալ նոր հետազոտությունները հուշում են, որ մենք թևակոխում ենք «մոդելային վիրաբուժության» դարաշրջան։ Քարտեզագրելով մոդելի ներքին ակտիվացումները՝ հետազոտողները պարզել են, որ որոշ նեյրոններ կրկնվող հատուկ օրինաչափություններով են աշխատում, երբ մոդելը հանդիպում է այնպիսի վերացական հասկացությունների, ինչպիսիք են «խարդախությունը», «կոդի շարահյուսությունը» կամ «տրամադրվածությունը»։ Բիզնես առաջնորդի համար սա պարզապես ակադեմիական հետաքրքրություն չէ, այլ ԱԲ կառավարման (AI governance) ավելի ամուր ռազմավարության հիմքը։
Մոդելի «մտածողության գործընթացի» մեջ նայելու կարողությունը երեք հստակ առավելություն է տալիս ժամանակակից կազմակերպություններին.
- Կանխարգելիչ միջամտություն նախապաշարմունքներին. Արդյունքի մակարդակում կողմնակալությունը ստուգելու փոխարեն՝ կազմակերպությունները կարող են վերահսկել այն լատենտ հատկանիշները, որոնք հրահրում են կողմնակալ դատողություններ, ինչը թույլ է տալիս միջամտել մինչև մոդելի արձագանք տալը։
- Ավտոմատացման բարձրացված հուսալիություն. Ստուգելով, որ մոդելը առաջադրանք կատարելու համար (օրինակ՝ բարդ պայմանագիր վերլուծելիս) օգտագործում է ճիշտ ներքին հատկանիշներ, մշակողները կարող են համոզվել, որ ԱԲ-ն հիմնվում է տրամաբանության, այլ ոչ թե մակերեսային օրինաչափությունների վրա։
- Անվտանգության վրա հիմնված մասշտաբայնություն. Երբ ընկերությունները պարզ չաթ-բոտերից անցնում են ինքնավար ԱԲ գործակալների (AI agents), որոնք իրականացնում են միջհարթակային գործողություններ, վստահությունը, որ մոդելը ճիշտ է «դատում» անվտանգության պարամետրերի վերաբերյալ, թույլ է տալիս ավելի անվտանգ ինտեգրում զգայուն աշխատանքային հոսքերում։
Թվային ձեռնարկության փոխակերպումը
Թվային փոխակերպման (digital transformation) հետևանքները խորն են։ Մենք ներկայումս դուրս ենք գալիս գեներատիվ ԱԲ-ի նորույթի փուլից, որտեղ հիմնական նպատակը արտադրանքին «ԱԲ ավելացնելն» էր։ Այժմ մենք ինտեգրման փուլում ենք, որտեղ նպատակը ԱԲ-ն ձեռնարկության ենթակառուցվածքի մեջ հյուսելն է։
Ընկերության CRM կամ ERP էկոհամակարգի համար թափանցիկ մոդելների անցումը նշանակում է անկանխատեսելի օգնությունից անցում բարձր ճշգրտության ավտոմատացման։ Երբ ԱԲ գործակալը կատարում է հաճախորդի հետ աշխատանքի առաջադրանք, օրինակ՝ լուծում է բարդ աջակցման հարցում կամ փոփոխում է հաշվի կարգավիճակը, բիզնեսը պետք է համոզվի, որ մոդելի «ներքին տրամաբանությունը» համահունչ է կորպորատիվ քաղաքականությանը։ Եթե մենք կարողանանք մեկնաբանել մոդելի ներքին ակտիվացումները, մենք կարող ենք կառուցել «անվտանգության շերտեր» (guardrails), որոնք կհաստատեն, որ մոդելը հետևում է բիզնես տրամաբանությանը նախքան առաջադրանքի կատարումը։
Սա կամուրջ է փորձարարական ԱԲ-ի և ձեռնարկատիրական ROI-ի միջև։ Տարիներ շարունակ ԱԲ-ի ROI-ն սահմանափակված էր «հալյուցինացիաների շեմով». այն կետով, որտեղ մոդելի թափանցիկության բացակայությունը այն չափազանց ռիսկային էր դարձնում կարևորագույն աշխատանքային հոսքերի համար։ Ստանալով տեսանելիություն այն մասին, թե ինչպես են մոդելները մշակում տեղեկատվությունը, ընկերությունները վերջապես կարող են հաղթահարել այս շեմը։ Մենք տեսնում ենք շարժ դեպի այնպիսի մոդելներ, որոնք կարելի է աուդիտի ենթարկել, կարգավորել ըստ մտադրության և ոչ թե միայն տվյալների, և մասշտաբավորել վստահության այն մակարդակով, որը նախկինում վերապահված էր ավանդական ծրագրային ապահովմանը։
Ռազմավարական որդեգրումը «White-Box» ԱԲ-ի դարաշրջանում
Բիզնես առաջնորդների համար, ովքեր ձգտում են առաջ անցնել, եզրակացությունը պարզ է. դադարեք ձեր ԱԲ մոդելները դիտարկել որպես միաձույլ միավորներ։ Ձեր տեխնոլոգիական ճանապարհային քարտեզը պլանավորելիս շեշտադրեք դիտելիության (observability) կարևորությունը։ Անկախ նրանից, թե դուք կառուցում եք ներքին գործիքներ, թե ինտեգ
