Արհեստական բանականության հավաքագրման համակարգերի գաղտնի կողմնակալությունների հաղթահարում

Արհեստական բանականության վրա հիմնված վարձման գործիքները խոստանում են փոխակերպող առավելություններ հավաքագրման համար՝ առաջարկելով թեկնածուների ավելի արագ ստուգում, ստանդարտացված հարցազրույցներ և տվյալների վրա հիմնված ընտրության գործընթացներ: Այս համակարգերը գրավիչ են արդյունավետություն և օբյեկտիվություն փնտրող գործատուների համար՝ խոստանալով վերացնել մարդկային նախապաշարմունքները վարձման որոշումներից՝ միաժամանակ րոպեների ընթացքում մշակելով հազարավոր դիմումներ:

Սակայն այս տեխնոլոգիական խոստման տակ թաքնված է մի անհանգստացնող իրականություն։ Հետազոտությունները ցույց են տալիս, որ ալգորիթմական կողմնակալությունը հանգեցնում է խտրական վարձման պրակտիկա հիմնված սեռի, ռասայի, մաշկի գույնի և անհատականության գծերի վրա: Վաշինգտոնի համալսարանի հետազոտողները զգալի ռասայական, սեռական և խաչմերուկային կողմնակալություն թե ինչպես են երեք ժամանակակից խոշոր լեզվական մոդելներ դասակարգել ռեզյումեները, որտեղ մոդելները նախապատվությունը տվել են սպիտակամորթների հետ կապված անուններին։

Այս հոդվածը քննում է արհեստական բանականության հավաքագրման համակարգերում այս նենգ կողմնակալությունների արմատական պատճառները և ուրվագծում է դրանց վնասակար ազդեցությունը կառավարելու, մեղմելու և վերացնելու համապարփակ ռազմավարություններ, որոնք, ի վերջո, նպաստում են ավելի արդարացի վարձման միջավայրի ստեղծմանը։

Արհեստական բանականության հավաքագրման համակարգերում կողմնակալությունների բացահայտումը

Արհեստական բանականության և ալգորիթմական կողմնակալության ըմբռնումը

Արհեստական բանականության կողմնակալությունը տեղի է ունենում, երբ Արհեստական բանականության համակարգերը կողմնակալ արդյունքներ են տալիս որոնք արտացոլում և հավերժացնում են հասարակության մեջ առկա մարդկային կողմնակալությունները, ներառյալ պատմական և ներկայիս սոցիալական անհավասարությունը: Ի տարբերություն մարդկային կողմնակալության, որը կարող է տարբեր լինել մարդուց մարդ, ալգորիթմական կողմնակալությունը դրսևորվում է որպես անարդար վերաբերմունքի համակարգված օրինաչափություններ, որոնք կարող են միաժամանակ ազդել հազարավոր թեկնածուների վրա:

Բրուքինգսի ինստիտուտի վերջին հետազոտությունը ցույց տվեց, որ էական խտրականության հստակ ապացույց հիմնված սեռի, ռասայական ինքնությունների և դրանց հատման կետերի վրա՝ երեք խոշոր լեզվական մոդելների և ինը մասնագիտությունների միջև խտրականության 27 թեստերով։

Արհեստական բանականության համակարգերի տարածվածությունը հավաքագրման գործընթացում (Ընկերությունների 87%-ն այժմ արհեստական բանականություն է օգտագործում աշխատանքի ընդունման համար) նշանակում է, որ խտրականությունը շարունակվում է մեծ մասշտաբով։

Արհեստական բանականության մեջ կողմնակալության հիմնական աղբյուրները

Առավել տարածված կողմնակալության աղբյուրը բխում է հենց մարզման տվյալներից։ Ուսումնասիրությունները ցույց են տալիս, որ ալգորիթմական կողմնակալությունը բխում է սահմանափակ հում տվյալների հավաքածուներ և կողմնակալ ալգորիթմների նախագծողներԵրբ արհեստական բանականության համակարգերը սովորում են պատմական վարձման տվյալներից, դրանք անխուսափելիորեն կլանում են անցյալի որոշումներում ներկառուցված նախապաշարմունքները՝ ստեղծելով համակարգեր, որոնք դառնում են խտրականության հավերժացման շարժիչ ուժեր։

Սա նոր խնդիր չէ։ Դեռևս 2018 թվականին, Amazon-ը ստիպված էր դադարեցնել վարձման գործիքի գործունեությունը որը վառ օրինակ էր այս խնդրի համար։ Համակարգը մարզվել է պատմական տվյալների հիման վրա, որոնք հիմնականում ներառում էին տղամարդ թեկնածուներ, ինչը հանգեցրել է նրան, որ այն համակարգված կերպով իջեցրել է կանանց հետ կապված տերմիններ կամ կանանց քոլեջների հղումներ պարունակող ռեզյումեների վարկանիշը։

Սակայն, կարծես թե, այդ ժամանակվանից ի վեր քիչ բան է սովորվել, քանի որ նմանատիպ խնդիրներ դեռևս առկա են ներկայիս համակարգերում։

Մեկ այլ օրինակ ներառում է Միավորված ազգերի կազմակերպության, որը քննադատության արժանացավ աշխատանքի ընդունման գործընթացում դեմքի ճանաչման գործիքի օգտագործման համար, որը դրսևորեց ռասայական կողմնակալություն՝ մշտապես ավելի ցածր դասելով ավելի մուգ մաշկի երանգ ունեցող թեկնածուներին, քան իրենց բաց մաշկ ունեցող գործընկերներին: Սա արտացոլում է այդ համակարգերը մշակելու համար օգտագործված վերապատրաստման տվյալներին բնորոշ կողմնակալությունները:

Նույնիսկ երբ վերապատրաստման տվյալները թվում են հավասարակշռված, արհեստական բանականության նախագծման և որոշումների կայացման գործընթացներից կարող է ի հայտ գալ ալգորիթմական կողմնակալություն: Խնդիրն այն է, որ այս համակարգերը հաճախ չափում են հաջողությունը՝ փնտրելով այնպիսի թեկնածուներ, որոնք նման են հաջողակ ճանաչված ներկայիս աշխատակիցներին, ինչը պահպանում է աշխատուժի կազմի առկա օրինաչափությունները և բացառում բազմազան տաղանդները:

Ինչպես են կողմնակալությունները դրսևորվում հավաքագրման գործիքներում

Տեսահարցազրույցի վերլուծության գործիքների առկայություն մասնավորապես՝ գործողության մեջ կողմնակալության օրինակների վերաբերյալԱյս համակարգերը գնահատում են մարմնի լեզուն, դեմքի արտահայտությունները և ձայնի տոնը, սակայն հետազոտությունները ցույց են տալիս, որ դրանք տարբեր կերպ են գնահատում թեկնածուներին՝ հիմնվելով սեռի, ռասայի, կրոնական հագուստի և նույնիսկ տեսախցիկի պայծառության վրա։ Դրանք կարող են չճանաչել դեմքի տարբերությունները կամ չհարմարվել նեյրոբազմազան պայմաններին, արդյունավետորեն զտելով որակավորված թեկնածուներին՝ անտեղի գործոնների առկայության դեպքում։

CV-ի և ռեզյումեի ստուգման գործիքներն ունեն ցույց տվեց կողմնակալություն անվան վրա հիմնված ֆիլտրման միջոցով, որտեղ որոշակի էթնիկական ծագում ենթադրող անուններով թեկնածուները ավտոմատ կերպով ավելի ցածր դասակարգվում են: Այս համակարգերը նաև խտրականություն են դրսևորում՝ հիմնվելով կրթական պատմության, աշխարհագրական դիրքի և որոշակի բառերի ընտրության վրա, երբեմն մերժելով որակավորված թեկնածուներին աննշան անհամապատասխանությունների, օրինակ՝ հնացած ծրագրավորման լեզուների թվարկման պատճառով:

Զբաղվածության բացերը ոչ միայն անհամաչափորեն ազդում են կանանց և խնամողների վրա սակայն համավարակի և զանգվածային կրճատումների հետևանքով հաճախ շատ տարածված են ակտիվացնել արհեստական բանականության համակարգերի կողմից ավտոմատ մերժումը որը չի կարող համատեքստում դնել կարիերայի ընդմիջումները: Սա ստեղծում է համակարգված կողմնակալություն այն թեկնածուների նկատմամբ, ովքեր արձակուրդ են վերցրել ընտանեկան պարտականությունների կամ այլ օրինական պատճառներով:

«Ripple Effect»-ը. կողմնակալության ազդեցությունը անձնակազմի հավաքագրման վրա

Անարդար արդյունքներ թեկնածուների համար

Արհեստական բանականության կողմնակալության մարդկային արժեքը հավաքագրման գործընթացում զգալի է: Որակավորված թեկնածուները համակարգված կերպով զրկվում են հնարավորություններից ոչ թե իրենց կարողությունների, այլ աշխատանքային կատարողականի հետ կապ չունեցող բնութագրերի պատճառով: Այս բացառումը գործում է աննկատ, քանի որ արհեստական բանականության համակարգերը կարող են զտել ամբողջ ժողովրդագրական խմբերը, նախքան դրանք կհասնեն մարդկային վերանայողներին:

Այս թերության համակարգված բնույթը նշանակում է, որ որոշակի խմբերի անհատները բախվում են կայուն խոչընդոտների բազմաթիվ աշխատանքային դիմումների ժամանակ: Ի տարբերություն մարդկային կողմնակալության, որը կարող է տարբեր լինել՝ կախված գործատուից կամ ընկերությունից, ալգորիթմական կողմնակալությունը ստեղծում է միատարր խոչընդոտներ, որոնք ազդում են թեկնածուների վրա՝ անկախ նրանից, թե որտեղ են նրանք դիմում:

Առանց կանխարգելիչ միջոցառումների, արհեստական բանականությունը կշարունակի արտացոլել և ամրապնդել հասարակական կողմնակալությունները դրանք շտկելու փոխարեն: Ավելի արդարացի վարձման գործընթացներ ստեղծելու փոխարեն, այս համակարգերը հաճախ ամրապնդում են պատմական խտրականության օրինաչափությունները և դժվարացնում դրանց դեմ պայքարելը:

Թափանցիկության բացակայությունը սրում է այս խնդիրները։ Աշխատանքի դիմորդները հազվադեպ են իմանում, թե արդյոք արհեստական բանականության գործիքն է պատասխանատու իրենց մերժման համար, քանի որ այս համակարգերը սովորաբար չեն բացահայտում իրենց գնահատման մեթոդները կամ չեն նշում ձախողման կոնկրետ պատճառները։ Այս անթափանցիկությունը գրեթե անհնար է դարձնում թեկնածուների համար հասկանալ, թե ինչու են մերժվել կամ բողոքարկել անարդար որոշումները։

Սա հանգեցնում է նրան, որ թեկնածուները ընտրվում են ոչ թե այն պատճառով, որ նրանք լավագույն ընտրությունն են պաշտոնի համար, այլ նրանց՝ ռեզյումեներ ստեղծելու ունակության շնորհիվ, որոնք կարող են շրջանցիկ ATS համակարգեր.

Կազմակերպությունների համար նշանակալի ռիսկեր

Արհեստական բանականության վրա հիմնված կողմնակալ հավաքագրման համակարգեր օգտագործող կազմակերպությունները բախվում են լուրջ իրավական և համապատասխանության ռիսկերի։ Եթե թեկնածուն զգում է, որ իր նկատմամբ անարդարացի վերաբերմունք է դրսևորվել արհեստական բանականության համակարգի կողմից վարձման գործընթացի ընթացքում, նա կարող է... դատի տալ կազմակերպությանը արհեստական ինտելեկտի խտրականության համարԲացի այդ, ավելի շատ կառավարություններ և կարգավորող մարմիններ են ստեղծում օրենքներ և սահմանափակումներ՝ վարձման մեջ արհեստական բանականության օգտագործումը վերահսկելու համար.

Սա այն խնդիրն է, որի մասին մարդիկ տեղյակ են. տեխնոլոգիական ոլորտի առաջնորդների 81%-ը աջակցել կառավարության կանոնակարգերին՝ արհեստական բանականության կողմնակալությունը վերահսկելու համար, և ընկերությունների 77%-ն ունեին կողմնակալության ստուգման գործիքներ, բայց այնուամենայնիվ, իրենց համակարգերում կողմնակալություն էին հայտնաբերում։ Սա վկայում է խնդրի լայնորեն ճանաչման և կարգավորող վերահսկողության անհրաժեշտության մասին։

Հեղինակության վնասը մեկ այլ էական ռիսկ է ներկայացնում: Կողմնակալ վարձման պրակտիկայի հրապարակային բացահայտումը կարող է լրջորեն վնասել կազմակերպության ապրանքանիշի կերպարին և խաթարել վստահությունը շահագրգիռ կողմերի, աշխատանք փնտրողների և առկա աշխատակիցների շրջանում: Բարձրաստիճան դեպքերը ցույց են տվել, թե ինչպես Արհեստական բանականության կողմնակալության վերաբերյալ վեճերը հավաքագրման գործընթացում կարող է առաջացնել բացասական հրապարակայնություն և երկարատև վնաս հասցնել հեղինակությանը։

Կողմնակալ արհեստական բանականության համակարգերի հետևանքով առաջացող բազմազանության բացակայությունը ստեղծում է երկարաժամկետ կազմակերպչական խնդիրներ: Նմանատիպ թեկնածուների պրոֆիլների հետևողական ընտրությունը նշանակում է, որ այս համակարգերը նվազեցնում են աշխատուժի բազմազանությունը, ինչը, հետազոտությունների համաձայն, խեղդում է նորարարությունն ու ստեղծագործականությունը: Կազմակերպությունները կորցնում են գերազանց թեկնածուներին աննշան, աննշան գործոնների պատճառով, ինչը, ի վերջո, թուլացնում է նրանց մրցակցային դիրքը:

Ավելի արդար ուղու գծագրում. կողմնակալությունների կառավարում, մեղմացում և վերացում

Նախաձեռնողական նախապատրաստում և աուդիտ

Արդյունավետ կողմնակալության մեղմացման համար անհրաժեշտ է ստեղծել բազմազան աուդիտի թիմեր, որոնք ներառում են տվյալների գիտնականներ, բազմազանության փորձագետներ, համապատասխանության մասնագետներ և ոլորտի փորձագետներ: Կա հստակ անհրաժեշտություն շահագրգիռ կողմերի ներգրավվածության և համայնքային ներկայացուցչության ընդլայնում աուդիտի գործընթացներում: Այս թիմերը պետք է ներառեն թերներկայացված խմբերի անհատների, ովքեր կարող են առաջարկել բազմազան տեսանկյուններ և բացահայտել կողմնակալություններ, որոնք կարող են անտեսանելի լինել ուրիշների համար:

Հզոր աուդիտի շրջանակների ներդրումը կարող է օգնել փակել սոցիալ-տնտեսական բացերը՝ բացահայտելով և մեղմելով մարգինալացված խմբերին անհամաչափորեն ազդող կողմնակալությունները: Հստակ, չափելի աուդիտի նպատակների սահմանումը ապահովում է ուղղություն և հաշվետվողականություն, այլ ոչ թե կողմնակալությունը նվազեցնելու անորոշ պարտավորություններ:

Կազմակերպությունները կարող են կիրառել տարբեր մասնագիտացված գործիքներ կողմնակալության հայտնաբերման և մեղմացման համար։ Ուսումնասիրությունները խոստումնալից միջոցներ են գտել, ներառյալ պատճառահետևանքային մոդելավորումը՝ աուդիտորներին հնարավորություն տալու բացահայտել նուրբ կողմնակալությունները, ներկայացուցչական ալգորիթմական թեստավորումը՝ արդարությունը գնահատելու համար, արհեստական բանականության համակարգերի պարբերական աուդիտ, մարդկային վերահսկողություն՝ ավտոմատացմանը զուգընթաց, և արդարության և հաշվետվողականության նման էթիկական արժեքների ներդրում։

Տվյալների և մոդելի մակարդակի միջամտություններ

Անտարբերությունը նվազեցնելու ամենաարդյունավետ միջոցներից մեկը հետևյալն է. արհեստական բանականության ալգորիթմների մարզում բազմազան և ներկայացուցչական տվյալների հավաքածուների վրա, ներառելով տարբեր դեմոգրաֆիկ խմբերի տվյալներ՝ ապահովելու համար, որ արհեստական բանականության գործիքները չօգտվեն որոշակի բնակչության նախապատվությունից: Սա պահանջում է ակտիվորեն խառնել տվյալների աղբյուրները, հավասարակշռել տվյալների հավաքածուները տարբեր դեմոգրաֆիկ խմբերի միջև և օգտագործելով սինթետիկ տվյալներ ներկայացուցչական բացերը լրացնելու համար։

Կանոնավոր աուդիտները և վերապատրաստման տվյալների թարմացումները կարևոր են արհեստական բանականության համակարգերում ներդրվելուց առաջ հնարավոր խնդիրները բացահայտելու համար։ Կազմակերպությունները պետք է ակտիվորեն փնտրեն ներկայացման բացթողումներ, տվյալների սխալներ և անհամապատասխանություններ, որոնք կարող են հանգեցնել կողմնակալ արդյունքների։

Մոդելի կառուցվածքի և հատկանիշների ընտրության ուսումնասիրությունը կանխում է կողմնակալության ներթափանցումը թվացյալ չեզոք փոփոխականների միջոցով, որոնք ծառայում են որպես պաշտպանված բնութագրերի փոխարինողներ: Կազմակերպությունները պետք է քարտեզագրեն իրենց Արհեստական բանականության մոդելների որոշումների կայացման գործընթացներ, նույնականացնել բաղադրիչները, որոնք ուղղակիորեն կամ անուղղակիորեն օգտագործում են զգայուն տվյալներ, և հեռացնել կամ փոփոխել այնպիսի գործառույթներ, որոնք կարող են անարդար արդյունքների հանգեցնել։

Արդարության համակարգված չափում պահանջում է համապատասխան չափանիշների ընտրություն, ինչպիսիք են ժողովրդագրական հավասարությունը, հավասարեցված շանսերը և հավասար հնարավորությունները: Այս չափանիշները պետք է կիրառվեն հետևողականորեն՝ տարբեր ժողովրդագրական խմբերի արդյունքները համեմատելու համար, իսկ էական անհամապատասխանությունները բացահայտելու համար պետք է պարբերաբար մոնիթորինգ իրականացվի:

Մարդկային վերահսկողության և թափանցիկության շեշտադրում

Մարդկային դատողությունը պետք է մնա կենտրոնական դեր վարձման որոշումների կայացման գործում, իսկ արհեստական բանականության գործիքները պետք է ծառայեն մարդկային որոշումների կայացմանը լրացնելուն, այլ ոչ թե փոխարինելուն։ Վերջնական վարձման որոշումները միշտ պետք է ներառեն մարդկային հավաքագրողներ, ովքեր հասկանում են արհեստական բանականության համակարգի սահմանափակումները և կարող են քննադատաբար ուսումնասիրել դրա առաջարկությունները։

Կազմակերպությունները պետք է իրականացնեն արդարության աուդիտներ, օգտագործեն բազմազան տվյալների բազաներ և ապահովեն թափանցիկություն արհեստական բանականության վերաբերյալ որոշումների կայացման գործընթացում։ Կազմակերպությունները պետք է հստակորեն տեղեկացնել, թե երբ և ինչպես է օգտագործվում արհեստական բանականությունը իրենց վարձման գործընթացներում ի՞նչ գործոններ են գնահատում այդ համակարգերը և թեկնածուներին տրամադրում ավտոմատացված որոշումներին առարկելու պարզ մեխանիզմներ։

Ընկերությունները պետք է հասկանան, որ խտրական արդյունքների համար իրենք են կրում հիմնական իրավական պատասխանատվություն՝ անկախ տեխնոլոգիաների մատակարարների հետ պայմանագրային պայմանավորվածություններից: Սա պահանջում է տվյալների մշակման համար հստակ գրավոր հրահանգների սահմանում և խտրական արդյունքները կանխելու համար նվազագույն պաշտպանության միջոցների ներդրում:

Շարունակական կատարելագործման և համապատասխանության հանձնառություն

Կանոնավոր աուդիտները, շարունակական մոնիթորինգը և հետադարձ կապի օղակների ներառումը կարևոր են՝ ապահովելու համար, որ գեներատիվ արհեստական բանականության համակարգերը ժամանակի ընթացքում մնան արդար և հավասար։ Արհեստական բանականության համակարգերը պետք է անընդհատ մոնիթորինգի ենթարկվեն ի հայտ եկող կողմնակալությունների համար՝ պարբերաբար ստուգելով ալգորիթմների թարմացման կամ փոփոխման դեպքում։

Շատ քաղաքականության նախաձեռնություններ, չափանիշներ և լավագույն փորձ Արդար արհեստական բանականության մեջ առաջարկվել են սկզբունքներ, ընթացակարգեր և գիտելիքների հիմքեր սահմանելու համար՝ կողմնակալության և արդարության կառավարումը ուղղորդելու և գործառնականացնելու համար: Կազմակերպությունները պետք է ապահովեն GDPR-ի, Հավասարության մասին օրենքի, ԵՄ արհեստական բանականության մասին օրենքի և այլ համապատասխան կանոնակարգերի ուղեցույցների պահպանումը:

Պատասխանատու արհեստական բանականության լուծումների շուկան նախատեսված է կրկնապատկել 2025 թվականին, որը արտացոլում է արհեստական բանականության համակարգերում կողմնակալության դեմ պայքարի կարևորության աճող գիտակցումը: Այս միտումը ցույց է տալիս, որ կողմնակալության մեղմացման մեջ ներդրումներ կատարող կազմակերպությունները կստանան մրցակցային առավելություններ, մինչդեռ նրանք, ովքեր անտեսում են այս խնդիրները, կբախվեն աճող ռիսկերի հետ:

Հարմարվողականությունը մնում է կարևորագույն. կազմակերպությունները պետք է պատրաստ լինեն հարմարեցնել կամ նույնիսկ դադարեցնել արհեստական բանականության համակարգերը, եթե կողմնակալության խնդիրները շարունակվում են՝ չնայած շտկման ջանքերին: Սա պահանջում է պահպանել անհրաժեշտության դեպքում այլընտրանքային վարձման գործընթացներին վերադառնալու կարողությունը:

Եզրափակում

Թեև արհեստական բանականության միջոցով հավաքագրման համակարգերը զգալի առավելություններ են առաջարկում արդյունավետության և մասշտաբի առումով, դրանց խոստումը կարող է իրականանալ միայն բնածին կողմնակալությունները բացահայտելու և մեղմելու նախաձեռնողական նվիրվածության միջոցով: Ապացույցները հստակ ցույց են տալիս, որ առանց դիտավորյալ միջամտության այս համակարգերը կշարունակեն խտրականությունը՝ արդար վարձման գործընթացներ ստեղծելու փոխարեն:

Կազմակերպությունները պետք է իրականացնեն հիմնավոր աուդիտներ, դիվերսիֆիկացնեն վերապատրաստման տվյալները, ապահովեն իմաստալից մարդկային վերահսկողություն և պահպանեն թափանցիկություն թեկնածուների հետ՝ արհեստական բանականության ուժն օգտագործելու համար՝ իսկապես ներառական վարձման գործընթացներ ստեղծելու գործում: Հիմնականը գիտակցելն է, որ կողմնակալության նվազեցումը միանվագ լուծում չէ, այլ շարունակական պատասխանատվություն, որը պահանջում է կայուն ուշադրություն և ռեսուրսներ:

Այս մարտահրավերը ընդունող կազմակերպությունները ոչ միայն կխուսափեն իրավական և հեղինակության ռիսկերից, այլև հասանելիություն կունենան ավելի լայն տաղանդների պաշարների և ավելի ուժեղ, ավելի նորարարական թիմերի։ Արհեստական բանականության ապագան