Տարիներ շարունակ առաջադեմ արհեստական բանականության (AI) զարգացումը սահմանվել է «ստվերային» փիլիսոփայությամբ։ Երբ աշխարհի խոշորագույն լաբորատորիաները նվաճումներ են գրանցում՝ հատկապես մոդելի անվտանգության, տրամաբանական կարողությունների կամ ինքնակատարելագործման ոլորտներում, նորությունները սովորաբար հրապարակվում են մաքրված, ընդհանրացված զեկույցների տեսքով, որոնցից հանված են դրանց ամենազգայուն «ինչպես» բաղադրիչները։ Մեզ ասում են, որ մոդելն ավելի անվտանգ է, ավելի ընդունակ և պատրաստ է կիրառման, սակայն այն մեխանիզմները, որոնք խթանում են այդ բարելավումները, մնում են խիստ գաղտնի։

Մի նոր շարժում սկսում է մարտահրավեր նետել «անորոշության միջոցով անվտանգություն» այս պարադիգմին։ Հետազոտողների աճող խումբը, որի վառ օրինակ են Trillium Labs-ի նման կազմակերպությունները, պնդում է, որ բարձր ռիսկայնություն ունեցող AI-ի զարգացման հետ կապված վտանգները՝ մասնավորապես ինքնավար գործակալների վարքագծի և ինքնակարգավորվող կոդի առումով, չափազանց խորն են՝ դրանք մեկուսացված պայմաններում կառավարելու համար։ Անցնելով բաց հետազոտությունների մոդելին՝ այս խմբերը ոչ միայն խթանում են թափանցիկությունը հանուն թափանցիկության, այլև փորձում են ստեղծել հուսալիության մի նոր ստանդարտ, որը բիզնեսի ղեկավարները կարող են իրականում աուդիտի ենթարկել։

«Սև արկղից» դեպի «ապակե արկղ» անցումը

Բիզնես աշխարհում մեծ լեզվական մոդելների (LLMs) «սև արկղ» լինելը վաղուց եղել է բարձր ռիսկայնության աշխատանքային գործընթացներում դրանց ներդրման հիմնական խոչընդոտը։ Երբ ընկերությունը AI գործակալ է ինտեգրում իր CRM համակարգում կամ ավտոմատացնում է մատակարարման շղթայի լոգիստիկան, մոդելի տրամաբանական գործընթացը բացատրելու անկարողությունը լուրջ պատասխանատվություն է ստեղծում։ Եթե AI-ն որոշում է զեղչել բարձրարժեք հաճախորդի պայմանագիրը կամ սխալ ուղղորդել բեռը, թափանցիկության բացակայությունը սխալների շտկումն ու պատասխանատվությունը դարձնում է գրեթե անհնարին։

Բաց, բարձր ռիսկայնության հետազոտությունների պահանջը կամրջում է վստահության այս բացը։ Փաստաթղթավորելով մոդելների ինքնակատարելագործման մեթոդաբանությունը, որտեղ համակարգը կրկնվող եղանակով կատարելագործում է սեփական գործընթացները կամ ուղղում իր տրամաբանական թերությունները, այս լաբորատորիաները ճանապարհային քարտեզ են տրամադրում այն ամենի համար, ինչը մենք կարող ենք անվանել «ստուգելի բանականություն»։ Տեղեկատվական գծով գլխավոր տնօրենի (CIO) կամ տեխնիկական գծով գլխավոր տնօրենի (CTO) համար սա արմատական փոփոխություն է։ Այն ենթադրում է ապագա, որտեղ մոդելի վարքագիծը ոչ միայն դիտարկվում է որպես ելքային տվյալ, այլև հասկացվում է բաց, վերարտադրելի հետազոտությունների տեսանկյունից։

Այս միտման բիզնես հետևանքները էական են.

  • Ռիսկերի նվազեցում. Բաց կոդով մեթոդաբանությունը թույլ է տալիս ներքին անվտանգության թիմերին սթրես-թեստերի ենթարկել AI-ի վարքագիծը՝ նախքան այն հասանելի կդառնա հաճախորդներին:
  • Համապատասխանություն և կառավարում. Քանի որ գլոբալ կարգավորումները շարժվում են դեպի AI-ի պարտադիր թափանցիկություն, ընկերությունները, որոնք օգտագործում են լավ փաստաթղթավորված և «բաց հետազոտությունների» հիմք ունեցող մոդելներ, շատ ավելի հեշտությամբ կբավարարեն աուդիտի պահանջները:
  • Թվային փոխակերպման արագացում. Թափանցիկությունը ծնում է վստահություն: Երբ ՏՏ բաժինները հասկանում են հիմքում ընկած մոդելների սահմանափակումները, նրանք ավելի պատրաստակամ են դառնում գործակալներ տեղակայել բիզնեսի հիմնական գործառույթներում, ինչը հանգեցնում է թվային փոխակերպման նախագծերի ROI-ի (ներդրումների վերադարձելիության) արագացմանը:

Թափանցիկության ինտեգրումը ձեռնարկության կենսացիկլում

Բաց հասանելիության հետազոտությունների անցումը հատկապես կենսական է, քանի որ մենք հեռանում ենք ստատիկ չաթ-բոտերից դեպի ինքնավար որոշումներ կայացնելու ունակ AI գործակալներ: AI գործակալը պարզապես գործիք չէ, այն բրենդի ներկայացուցիչն է: Եթե այդ գործակալն աշխատում է «ինքնակատարելագործվող» տրամաբանությամբ, որը լաբորատորիայից դուրս ոչ ոք չի հասկանում, «մոդելի շեղման» ռիսկը՝ երբ գործակալի աշխատանքը վատթարանում կամ փոխվում է անկանխատեսելի ձևերով, դառնում է կրիտիկական սպառնալիք։

Այն բիզնեսների համար, որոնք ձգտում են գործարկել այս առաջադեմ մոդելները, ուշադրությունը պետք է շեղվի պարզապես «ճշգրտությունը» ստուգելուց դեպի «վարքագծային կայունության» աուդիտը։ Սա պահանջում է հիմնարար փոփոխություն այն հարցում, թե ինչպես են ընկերությունները մոտենում իրենց AI տեխնոլոգիական կույտին (tech stack): Ղեկավարները պետք է իրենց մատակարարներից հարցնեն ոչ թե այն, թե ինչ են անում նրանց մոդելները, այլ թե ինչպես են այդ մոդելները վարժեցվում՝ իրենք իրենց բարելավելու համար:

Հենց այստեղ է գլխավոր դառնում փորձարարական հետազոտությունների և արտադրական կարգի AI-ի միջև տարբերությունը: Բիզնեսին հարկավոր չէ կարդալ մոդելի հում կոդը, բայց նրանց անհրաժեշտ է հուսալի ինտերֆեյս, որը կպարզաբանի մոդելի որոշումների «ինչու»-ն: Մենք ականատես ենք լինում մի փոփոխության, երբ ոլորտի առաջատար ընկերությունները սկսում են պահանջել, որ իրենց AI գործընկերներն անցնեն «ապակե արկղի» մոդելի. պահանջ, որը, հավանաբար, առաջիկա 24 ամիսների ընթացքում կդառնա ձեռնարկատիրական մակարդակի ծրագրային ապահովման ստանդարտ:

Ռազմավարական որդեգրումը հետ-անորոշության դարաշրջանում

Բաց հետազոտությունների թափանցիկությանն ուղղված քայլը մտավոր սեփականությունը հանրային դարձնելու կոչ չէ: Ավելի շուտ, սա ոլոր