Գեներատիվ արհեստական բանականության (AI) ներկայիս վիճակը պարադոքսների իրական դասագիրք է։ Մենք ստեղծել ենք համակարգեր, որոնք ընդունակ են հանձնել իրավաբանական քննություններ, գրել բարդ ծրագրային կոդ և վայրկյանների ընթացքում մշակել տվյալների հսկայական զանգվածներ։ Սակայն, նույն այդ համակարգերը կարող են վստահորեն պնդել գոյություն չունեցող իրավական նախադեպի մասին կամ հաճախորդի հետ կարևոր շփման ժամանակ «հալյուցինացնել»՝ հորինելով արտադրանքի ոչ գոյություն ունեցող հատկություններ։ Բիզնես ղեկավարների համար սա այլևս վաղ փուլի փորձարկումների զվարճալի կողմնակի երևույթ չէ, այլ Թվային փոխակերպման (Digital Transformation) մասշտաբայնության գլխավոր խոչընդոտը։
Երբ մենք խոսում ենք «հալյուցինացիաների» մասին, մենք, ըստ էության, ականատես ենք լինում լեզվական մեծ մոդելների (LLM) հավանականային բնույթի և ձեռնարկատիրական գործառնությունների դետերմինիստական պահանջների միջև առկա հակասությանը։ Հասկանալը, թե ինչու են այս մոդելները շեղվում դեպի երևակայական դաշտ և ինչպես դրանց շուրջ պաշտպանիչ մեխանիզմներ կառուցել, 2024 թվականի տեխնոլոգիական լանդշաֆտի ամենակարևոր մարտահրավերն է։
Ճարտարապետական արմատը. ինչու կատարելությունը սկզբնական կարգավորում չէ
Հասկանալու համար, թե ինչու են OpenAI-ի, Anthropic-ի և Google-ի նման ընկերությունների մոդելները երբեմն հորինում փաստեր, մենք պետք է դուրս գանք «սև արկղի» առեղծվածային ընկալումից։ Իրենց հիմքում այս մոդելները կանխատեսող շարժիչներ են, որոնք նախագծված են հաշվարկելու հաջորդականության հաջորդ թոքենի վիճակագրական հավանականությունը։ Դրանք տվյալների բազաներ չեն, այլ օրինաչափություններ որոնող բարդ մեքենաներ։
Երբ LLM-ը տալիս է պատասխան, այն «չի վերականգնում» տեղեկատվությունը այնպես, ինչպես ավանդական տվյալների բազան։ Այն գեներացնում է արձագանք՝ հիմնվելով իր ուսուցման ընթացքում ստացած տվյալների վրա։ Եթե մոդելը հանդիպում է հարցադրման, որը գտնվում է իր ուսումնական բազայի «նոսր» հատվածում, կամ եթե այն ստիպված է լինում ստեղծագործել, ապա այն փաստացի ճշգրտության փոխարեն առաջնահերթությունը տալու է հոսունությանն ու տրամաբանական կապին։ Այն մաթեմատիկորեն օպտիմիզացված է հնչելու համոզիչ, այլ ոչ թե ճշմարտացի։
Այն բիզնեսների համար, որոնք ցանկանում են AI-ն ինտեգրել իրենց Հաճախորդների հետ հարաբերությունների կառավարման (CRM) համակարգերում կամ ավտոմատացված աշխատանքային հոսքերում, սա ստեղծում է ռիսկի զգալի պրոֆիլ։ Եթե AI գործակալին (AI Agent) հանձնարարվում է ամփոփել հաճախորդի պատմությունը կամ ստեղծել անհատականացված էլեկտրոնային նամակներ, ապա «ստեղծագործական» հալյուցինացիայի գինը լինելու է կորցրած վստահությունը և բրենդի հեղինակության նվազումը։
Նման միջադեպերի հիմնական պատճառներն են.
- Հարցադրման երկիմաստություն. Առանց հստակ համակարգային հրահանգների, մոդելները հաճախ լրացնում են տեղեկատվական բացերը համոզիչ հնչող հորինվածքներով։
- Գիտելիքների սահմանափակում. Մոդելները ստատիկ են ուսուցման ավարտի պահին, ինչը նրանց դարձնում է կռահումների հակված՝ իրական ժամանակի իրադարձությունների կամ նեղ, մասնավոր կորպորատիվ տվյալների վերաբերյալ հարցերի դեպքում։
- Հոսունության վրա չափազանց մեծ կախվածություն. Մոդելը մարզված է նվազագույնի հասցնելու «շփոթվածությունը» (perplexity), ինչը պարգևատրում է քերականական կատարելությունը՝ երբեմն ստիպելով մոդելին նախապատվությունը տալ սահուն նախադասության կառուցվածքին, այլ ոչ թե փաստացի ճշգրիտ պատասխանին։
Նավարկելով ROI-ի բացը. ռազմավարական մեղմացում ղեկավարների համար
AI-ի բիզնես արդյունավետությունը ներկայումս գտնվում է արագ ներդրման ցանկության և ռիսկերի կառավարման անհրաժեշտության միջև։ Մինչ վերնագրերը կենտրոնանում են հրապարակային սխալների «ամոթալի» դրվագների վրա, ձեռնարկությունների համար իրական գինը ROI-ի (ներդրումների վերադարձելիության) թաքնված կորուստն է։ Եթե թիմը ավելի շատ ժամանակ է ծախսում AI-ի արդյունքները ստուգելու վրա, քան կծախսեր աշխատանքը ձեռքով կատարելու, ապա ավտոմատացման արժեքը զրոյանում է։
Այս բացը լրացնելու համար կազմակերպությունները փոխում են իրենց ռազմավարությունը՝ «plug-and-play» մոդելներից անցնելով Retrieval-Augmented Generation (RAG)՝ որոնման հիման վրա գեներացվող ճարտարապետությանը։ LLM-ը հավաստի, մասնավոր գիտելիքների բազային կապելով՝ բիզնեսները կարող են մոդելին ստիպել հիմնվել ընկերության կողմից հաստատված փաստաթղթերի վրա։
Եթե դուք ղեկավար եք և գնահատում եք, թե ինչպես ինտեգրել AI-ն ձեր տեխնոլոգիական կառուցվածքում (tech stack), հաշվի առեք ընդունման այս երեք հիմնասյուները.
- Ստուգման շերտեր. Ներդրեք ծրագրային ստուգումներ, որտեղ AI-ն պարտավոր է հղում կատարել տրամադրված ներքին փաստաթղթերի իր աղբյուրներին։ Եթե աղբյուրը չի գտնվում, համակարգը պետք է հրահանգ ստանա դիմելու մարդուն, այլ ոչ թե կռահելու։
- Համատեքստային պաշտպանիչ մեխանիզմներ. Օգտագործեք մասնագիտացված համակարգային հրահանգներ, որոնք սահմանում են AI-ի դերի շրջանակը։ SaaS հարթակի տեխնիկական աջակցության համար նախատեսված AI-ն պետք է հստակ սահմանափակվի իր փաստաթղթավորման պարամետրերից դուրս թեմաներ քննարկելուց։
- Human-in-the-Loop (HITL) աշխատանքային հոսքեր. Բարձր ռիսկային որոշումների դեպքում, ինչպիսիք են ֆինանսական հաշվետվությունները, իրավական փաստաթղթերի կազմումը կամ հաճախորդների հետ պայմանագրերի գեներացումը, AI-ն պետք է գործի որպես «օդաչուի օգնական»՝ նախապատրաստելով նախագծեր մարդկային վերանայման համար, այլ ոչ թե իրականացնելով վերջնական գործողություններ
