Խոշոր լեզվական մոդելների (LLMs) «սև արկղ» լինելը վաղուց եղել է ձեռնարկությունների մասշտաբով դրանց լայնածավալ կիրառման հիմնական խոչընդոտը: Տեխնիկական տնօրենների (CTO) և բիզնեսի ղեկավարների համար AI-ի ստեղծած արդյունքի հիմքում ընկած տրամաբանական ուղիները՝ այսպես կոչված «մտքի շղթան» (chain-of-thought), ստուգելու անկարողությունը մշտական ռիսկ է եղել համապատասխանության (compliance), անվտանգության և ռազմավարության տեսանկյունից: Այնուամենայնիվ, մոդելների մեկնաբանելիության ոլորտում վերջին բեկումնային զարգացումները թույլ են տվել բացահայտել այս շերտերը՝ ցույց տալով ոչ միայն այն, թե ինչպես են այս համակարգերը մտածում, այլև բացահայտելով անսպասելի մանրամասներ այն մասին, թե ինչպես են որոշ մոդելներ կառուցվում կուլիսների հետևում:

Հետազոտողներին հաջողվել է մշակել մեթոդաբանություն՝ Anthropic-ի Claude-ի, OpenAI-ի GPT-4-ի և Google-ի Gemini-ի նման բարձր արդյունավետություն ունեցող մոդելների «տրամաբանական հետքերը» դուրս բերելու համար: Գրավելով այս թաքնված, միջանկյալ մտավոր քայլերը՝ մենք վերջապես տեսնում ենք արհեստական բանականության «թաքնված ուսումնական ծրագիրը»: Մինչ տեխնոլոգիական թափանցիկությունը բեկումնային է AI-ի անվտանգության համար, երկրորդային բացահայտումը ցնցել է համաշխարհային տեխնոլոգիական ոլորտը. դատաբժշկական վերլուծությունները ենթադրում են, որ Չինաստանում մշակված մի շարք հայտնի AI մոդելներ այնքան են նմանակում իրենց արևմտյան գործընկերների կառուցվածքային տրամաբանական օրինաչափություններին, որ դա հուշում է՝ դրանք կարող են մարզվել ԱՄՆ առաջատար մոդելների ելքային տվյալների հիման վրա:

Հայացք մեքենայական մտքի խորքերը

Տարիներ շարունակ մենք LLM-ներին դիտարկել ենք որպես օրակուլներ՝ մենք տրամադրում ենք մուտքային տվյալներ և ընդունում արդյունքը՝ հիմնվելով հավանականային վստահության գնահատականների վրա: Սակայն քանի որ բիզնեսները AI գործակալներին ներառում են իրենց կարևորագույն աշխատանքային գործընթացներում, «վստահությունը» դադարել է լինել վերացական հասկացություն. այն այժմ տեխնիկական պահանջ է: Այս տրամաբանական հետքերը դիտարկելու հնարավորությունը ինժեներներին թույլ է տալիս ստուգել, որ գործակալը չի զբաղվում հալյուցինացիաներով, այլ հետևում է կորպորատիվ քաղաքականությանը համապատասխանող տրամաբանական շղթայի:

Երբ մենք վերլուծում ենք այս մոդելների ներքին ճարտարապետությունը, մենք ոչ միայն դիտարկում ենք կոդ, այլև սեղմված գիտելիք: Եթե մոդելի տրամաբանական հետքը բարձր ճշգրտությամբ նմանակում է մեկ այլ մոդելի, դա հուշում է, որ առաջինը մարզվել է երկրորդի ելքային տվյալների հիման վրա՝ մի գործընթաց, որը հայտնի է որպես «մոդելների թորում» (model distillation) կամ «սինթետիկ տվյալներով ուսուցում»: Մրցակցային միջավայրի համար հետևանքները լուրջ են.

  • Մտավոր սեփականություն և տվյալների ինքնիշխանություն. Եթե մոդելները մարզվում են մրցակիցների սեփական տրամաբանական ուղիների հիման վրա, «օրիգինալ» մտավոր սեփականության սահմանումը դառնում է անորոշ: Ընկերությունները պետք է այժմ հաշվի առնեն՝ արդյոք իրենց տվյալները, LLM-ի միջոցով մշակվելիս, աննկատորեն չեն նպաստում մրցակից մոդելի ուսուցմանը:
  • Արդյունավետության գնահատում. Բիզնեսի ղեկավարներին հաճախ հավաստիացնում են, որ տեղական կամ սեփական մոդելներն ունեն նույն արդյունավետությունը, ինչ համաշխարհային առաջատար մոդելները: Այս հետազոտությունը ենթադրում է, որ այդ նույնությունը կարող է լինել մարզման տվյալների ձեռքբերման հետևանք, այլ ոչ թե հիմնարար ալգորիթմական նորարարության արդյունք:
  • Ռիսկերի կառավարում. Խիստ կարգավորվող ոլորտների համար (օրինակ՝ ֆինանսներ, առողջապահություն կամ պաշտպանություն) այնպիսի մոդելի վրա հույս դնելը, որը կարող է «կլոնավորած» լինել իր տրամաբանությունը մեկ այլ մատակարարից, զգալի մատակարարման շղթայի ռիսկեր է առաջացնում: Եթե ելակետային մոդելն ունի կողմնակալություն կամ սխալ, ապա այդ սխալն այժմ ներկառուցված է ժառանգորդ մոդելի մեջ:

Թվային փոխակերպման և AI կառավարման ապագան

Այս բացահայտումը փոխում է քննարկման առարկան՝ մոդելի ընտրությունից դեպի մոդելի «ծագումնաբանության» ըմբռնում: Մինչ ձեռնարկություններն առաջ են շարժվում թվային փոխակերպման ճանապարհով, ինքնավար համակարգերի վրա հույս դնելը՝ սկսած հաճախորդների հոսքը կանխատեսող CRM-ի բարելավումներից մինչև մատակարարման շղթայի ավտոմատացված լոգիստիկա, նշանակում է, որ տրամաբանական հետքն այժմ դառնում է հիմնական կատարողական ցուցանիշ (KPI):

Բիզնեսների համար AI-ի ROI-ն (ներդրումների վերադարձելիությունը) թաքնված չէ մոդելի հում մասշտաբի մեջ, այլ դրա տրամաբանության հուսալիության: Այն ընկերությունները, որոնք զգալի ներդրումներ են կատարել հատուկ լուծումներ մշակելու համար, այժմ գիտակցում են, որ իրենց «մրցակցային առավելությունը» (moat) այնքան խորն է, որքան իրենց մոդելի մեկնաբանելիությունը: Եթե ձեր մրցակիցները կարող են հնարավոր է «հետադարձ ինժեներիայի» (reverse-engineering) միջոցով բացահայտել ձեր AI-ի որոշումների կայացման գործընթացը՝ դիտարկելով դրա վարքագիծը, ապա AI-ի ամուր կառավարման և անհատական կարգավորումների (fine-tuning) անհրաժեշտությունը դառնում է նոր չափանիշ:

«Թափանցիկ AI»-ի միտումը արագանում է: Ապագայում ես ակնկալում եմ երկու մասի բաժանված շուկա. մի հատվածը կշարունակի օգտագործել ընդհանուր նշանակության, փակ ծածկագրով մոդելներ սովորական խնդիրների համար, իսկ մյուսը՝ նորարարության առաջատարները, կանցնեն «բաց քաշային» (Open-Weight) կամ հատուկ մարզված ճարտարապետությունների, որտեղ մտքի շղթան աուդիտի է ենթարկվում, ստուգվում և խ