Upendeleo wa kialgorithimu (algorithmic bias) ni mwelekeo wa mfumo wa akili bandia au mfumo wa maamuzi ya kialgorithimu kutoa matokeo yanayotofautiana kwa utaratibu na yanayoweza kuwa yasiyo ya haki kwa makundi fulani kutokana na data, usanifu, uundaji wa modeli au mchakato wa maamuzi unaotumiwa. Utafiti huu ulitumia dodoso lenye maswali funge linalotegemea sampuli ya majibu ya hiari ya washiriki 65 kuchunguza mtazamo wa ukosefu wa usawa wa kijinsia dhidi ya wanawake katika michakato ya uajiri na upangaji wa mishahara inayosaidiwa na akili bandia, na ulitathmini matokeo hasa kwa kutumia asilimia. Sehemu kubwa ya washiriki inaamini kwamba wanawake wanaweza kulipwa mshahara mdogo kwa kazi ileile, wanaweza kupata hasara katika kupandishwa vyeo, na zana za uajiri zinazotegemea AI hazihakikishi moja kwa moja maamuzi ya haki zaidi. Hata hivyo, kwa kuwa utafiti haukulinganisha kwa majaribio maamuzi ya algorithimu halisi ya uajiri au mapendekezo ya mshahara inayowapa waombaji wanawake na wanaume, matokeo haya ya dodoso hayathibitishi kwamba AI ndiyo husababisha moja kwa moja ukosefu huo wa usawa; yanaonyesha hasa mitazamo ya washiriki na jinsi inavyolingana na wasiwasi uliopo katika fasihi.

Sehemu ya fasihi ya utafiti inazingatia vyanzo vitatu vikuu vya ubaguzi wa kialgorithimu: data za mafunzo zinazobeba ukosefu wa usawa wa kihistoria, upendeleo unaoweza kujitokeza katika usanifu wa modeli au mfumo, na watu kuamini mapendekezo ya kialgorithimu bila kuyatathmini kwa umakinifu. Waandishi wanajadili kwamba ukosefu wa usawa wa kijinsia uliopo katika data za kihistoria za nguvu kazi au mishahara unaweza kuhamishwa katika modeli za baadaye za kupanga waombaji kwa mpangilio au kutabiri mishahara; pia ukosefu wa uwazi wa kutosha katika mantiki ya maamuzi unaweza kufanya iwe vigumu kwa watu walioathiriwa kutambua na kuhoji matokeo yanayoweza kuwa ya kibaguzi.

Katika dodoso, kwa swali kuhusu wanawake kulipwa mishahara ya chini, chanzo kina mfululizo miwili tofauti ya asilimia. Kielelezo 1 katika PDF kinaonyesha takribani %67,7 “ndiyo”, %22,6 “hapana/inategemea ujuzi na uzoefu” na %9,7 “hana uamuzi”, huku maandishi yanayofafanua kielelezo hicho yakitoa thamani za %65,6, %25 na %9,4. Kwa kuwa chanzo hakielezi sababu ya tofauti hii, mfululizo huo miwili haukuunganishwa na hakuna mmoja “uliosahihishwa” kwa kutumia mwingine.

Utafiti pia unaeleza kwamba %58 ya washiriki wanafikiri wanawake hawapandishwi vyeo kwa kiwango sawa na wanaume, %32 wanafikiri jinsia haina athari katika kupandishwa vyeo, na %10 hawakuwa na uamuzi. Katika swali kuhusu kama zana za uajiri zinazotegemea AI zinaweza kutoa uajiri wa haki zaidi, %41 ya washiriki walionyesha shaka kwamba AI inaweza kuakisi au kukuza upendeleo wa binadamu; %37 walikuwa na matumaini kiasi kwamba AI inaweza kupunguza ubaguzi; na %22 walibaki upande wa kati au hawakuchagua jibu. Imeripotiwa kwamba %62 ya washiriki waliunga mkono kanuni zinazoyataka makampuni kukagua mifumo ya uajiri na mishahara inayotegemea AI kwa upendeleo.

Mapendekezo makuu ya kiutendaji ya utafiti ni kutumia data zilizosawazishwa zaidi na jumuishi, kufanya ukaguzi wa upendeleo mara kwa mara, kufanya maamuzi ya kialgorithimu yaweze kuelezwa na yawe wazi zaidi, kuwashirikisha watu wenye asili na uzoefu tofauti katika michakato ya kutengeneza AI, kuwafundisha wafanyakazi wa rasilimali watu kuhusu upendeleo wa kialgorithimu, na kutumia AI kama chombo cha kusaidia katika maamuzi ya uajiri badala ya kuifanya ichukue nafasi ya tathmini ya binadamu kikamilifu. Mapendekezo haya si hatua zilizolinganishwa moja kwa moja kwa majaribio na dodoso; ni mapendekezo ya utekelezaji yaliyotokana na usanisi wa fasihi na matokeo ya dodoso.

Tatizo kuu la utafiti

Katika rasilimali watu, akili bandia inaweza kutumiwa katika kazi kama kuainisha wasifu wa kazi, kulinganisha waombaji na nafasi, kutathmini utendaji na kutabiri mshahara. Moja ya matarajio makuu ya matumizi haya ni kutathmini kiasi kikubwa cha taarifa kwa haraka na kwa uthabiti. Hata hivyo, kufundisha algorithimu kwa kutumia maamuzi ya kihistoria yaliyofanywa na watu hakumaanishi kwamba ukosefu wa usawa uliomo katika maamuzi hayo utaondoka moja kwa moja.

Ikiwa katika seti ya data ya uajiri nafasi fulani zilitolewa kwa kiasi kikubwa kwa wanaume katika siku za nyuma, modeli inaweza kujifunza muundo wa “mwombaji aliyefanikiwa” kutoka kwa mifano ya kihistoria yenye wanaume wengi. Hali hii haihitaji modeli iwe imepangwa wazi kwa amri ya “wakatae wanawake”. Ikiwa vipengele vinavyotumiwa, historia za kazi, nafasi za awali au vigeu vingine vinahusiana na muundo wa kijamii wa kihistoria, modeli inaweza kuzalisha tena muundo huo kwa njia isiyo ya moja kwa moja.

Upendeleo wa Kialgorithimu Unawezaje Kujitokeza Katika Uajiri?

Kulingana na mfumo wa fasihi wa utafiti huu, upendeleo wa kialgorithimu katika uajiri hautokani tu na kiini cha kihisabati cha modeli; data za kihistoria zinazotumiwa, chaguo za wabunifu wa mfumo, na tabia za waamuzi wa kibinadamu wanaotumia matokeo ya AI zinaweza kwa pamoja kuathiri matokeo. Kwa hiyo utafiti hauchukulii haki ya kialgorithimu kama tatizo la “kuandika algorithimu isiyo na upendeleo” pekee, bali kama tatizo la kijamii-kiteknolojia linalohusisha mlolongo mzima wa data–usanifu–uamuzi.

1. Upendeleo unaotokana na data za mafunzo

Mfumo wa ujifunzaji wa mashine unapofundishwa kwa data za kihistoria za uajiri au mishahara, modeli hujifunza mahusiano yaliyomo katika data. Uwakilishi mkubwa wa wanaume katika baadhi ya kazi katika data za zamani au ukweli kwamba wanawake walilipwa mishahara ya chini kihistoria unaweza kuweka msingi wa tofauti hizo kujitokeza tena katika utabiri wa baadaye.

Tofauti muhimu hapa ni hii: modeli inaweza kujifunza swali la “nini kilitokea hapo awali?”; lakini jibu la swali “ni nini kinachopaswa kuwa cha haki?” halitoki moja kwa moja katika data za kihistoria. Tabia ya zamani kutokea mara nyingi kitakwimu haimaanishi kwamba ni sahihi kimaadili au kisheria.

2. Upendeleo unaotokana na hatua ya usanifu

Wakati mfumo wa AI unatengenezwa, watu huamua ni data gani zitumike, ni vigeu gani viingizwe katika modeli, ni matokeo gani yafafanuliwe kuwa mafanikio, na makosa yatathminiwe vipi. Kwa hiyo tabia ya mfumo wa kialgorithimu ni zao si la data pekee bali pia la maamuzi ya usanifu.

Mapitio ya fasihi ya utafiti yanaunganisha jambo hili na mbinu ya “algorithmic inclusion”. Katika mbinu hii, haki si sifa inayotarajiwa kujitokeza yenyewe baada ya mfumo kukamilika; ni lengo la usanifu ambalo linapaswa kufuatiliwa kwa makusudi katika uteuzi wa data, timu ya maendeleo, ukaguzi na michakato ya maamuzi.

3. Jinsi watu wanavyotumia pendekezo la AI

Hata kama algorithimu inatoa pendekezo tu, mwamuzi wa kibinadamu anaweza kulikubali kama sahihi bila kuelewa mipaka yake. Katika hali hiyo, upendeleo wa mfumo unaweza kuhamishwa katika mchakato wa taasisi kupitia uamuzi wa binadamu. Kwa mtazamo wa utafiti, kwa hiyo, utofautishaji rahisi wa “ni binadamu au AI aliyefanya uamuzi?” hautoshi; jinsi pendekezo la AI linavyotafsiriwa na binadamu pia ni muhimu.

Nafasi ya data za kihistoria katika utabiri wa mshahara

Sehemu ya fasihi ya utafiti inajadili hatari ya mifumo inayopendekeza au kutabiri mishahara kuzalisha tena tofauti za kihistoria za mishahara kwa jinsia ikiwa inatumia data za mishahara za zamani. Ikiwa katika data za zamani wanawake walilipwa kwa utaratibu mshahara wa chini licha ya kazi na uzoefu unaofanana, modeli kujifunza “mshahara unaolingana na soko” kutoka kwa data hiyo pekee inaweza kugeuza ukosefu wa usawa uliopo kuwa kawaida.

Utaratibu huu haukujaribiwa katika dodoso la utafiti kwa kuendesha moja kwa moja modeli ya utabiri wa mshahara. Chanzo kinajadili utaratibu huo kwa kutegemea fasihi ya awali na kuunganisha matokeo ya dodoso na mitazamo ya wafanyakazi kuhusu ukosefu wa usawa wa mishahara.

Kwa nini uwazi ni muhimu?

Ikiwa mwombaji hawezi kuelewa kwa nini alikataliwa au kwa nini alipewa mshahara fulani, inakuwa vigumu kupinga matokeo yanayoweza kuwa ya makosa au ya kibaguzi. Kwa hiyo utafiti unathamini si usahihi wa modeli tu, bali pia uelewekaji wa utaratibu wa maamuzi na uwajibikaji.

Uwazi hapa si lazima umaanishe kwamba msimbo mzima wa chanzo wa kila algorithimu lazima ufichuliwe kwa kila mtu. Kwa maana pana zaidi inayotumiwa na utafiti, hoja ni kwamba mfumo unaoathiri uamuzi uweze kuchunguzwa, uweze kukaguliwa kwa upendeleo, na watu walioathiriwa waweze kuhoji msingi wa uamuzi.

Mtazamo wa maadili na imani ya shirika

Utafiti tofauti ulionukuliwa katika mapitio ya fasihi unaripoti kwamba katika watu kuona zana za uajiri zinazotegemea AI kuwa za kimaadili, performance expectancy, yaani matarajio kwamba teknolojia itaboresha kwa kweli utendaji wa uajiri, ni muhimu; kwa upande mwingine, kipengele cha social influence, kinachoeleza kwamba mazingira ya kijamii au sekta imekubali teknolojia, hakikuwa na umuhimu kwa kiwango kilekile.

Matokeo haya si ya dodoso la sasa la watu 65. Katika maelezo ya Verianla, ugunduzi huu umetenganishwa kama matokeo ya utafiti wa awali uliotumiwa katika sehemu ya fasihi ya makala.

Nafasi ya mfano wa Amazon katika makala

Chanzo kinajadili zana ya uajiri wa kiotomatiki ambayo Amazon iliwahi kutengeneza kama mfano wa jinsi mifumo ya uajiri inaweza kuzalisha tena data za kihistoria za sekta ya teknolojia zilizokuwa na wanaume wengi. Mfano huu si jaribio lililofanywa na utafiti wa sasa; ni kisa cha kihistoria katika fasihi kinachotumiwa kueleza tatizo la utafiti.

Je, upendeleo wa kialgorithimu na ubaguzi wa kialgorithimu ni kitu kilekile?

Upendeleo wa kialgorithimu unaeleza mkengeuko wa kimfumo au tabia ya data/modeli inayoweza kuzalisha matokeo tofauti kati ya makundi fulani, huku ubaguzi wa kialgorithimu ukizingatia matokeo ya tofauti hiyo yanayowaweka watu katika hali ya hasara kwa msingi wa sifa kama jinsia. Chanzo kinatumia dhana hizi mbili kwa ukaribu katika muktadha wa matokeo ya uajiri na mishahara ya wanawake; lakini si kila tofauti ya kitakwimu peke yake ni ushahidi wa ubaguzi kwa maana ya kisheria.

Swali la utafiti

Swali la utafiti katika chanzo linauliza jinsi upendeleo wa AI unavyoathiri wanawake katika maamuzi ya uajiri na mishahara na ni mikakati gani inaweza kutumiwa kupunguza ubaguzi wa kialgorithimu katika michakato ya rasilimali watu.

Kulingana na swali hili, utafiti unaweka malengo manne: kuchunguza upendeleo wa kijinsia kupitia visa vya ulimwengu halisi na fasihi ya kitaaluma; kutambua vyanzo kama data za mafunzo zenye upendeleo, usanifu wa modeli na ukosefu wa usawa wa kimfumo katika nguvu kazi; kutathmini mbinu za kupunguza tatizo zinazotegemea AI ya kimaadili, uwazi na udhibiti; na kutengeneza mapendekezo ya utekelezaji yenye haki zaidi kwa makampuni na watunga sera.

Muundo wa sampuli

Sekta za washiriki wanaofanya kazi

Chanzo kinaripoti kwamba uwakilishi mkubwa zaidi miongoni mwa washiriki wanaofanya kazi uko katika teknolojia ya habari, ikifuatiwa na fedha na elimu. Thamani za %31,3 kwa IT, %21,9 kwa fedha na %18,8 kwa elimu zimetolewa. Audit, michezo, fitness na huduma za umma zimetajwa kama makundi madogo zaidi.

Ikiwa asilimia hizi za sekta zinatumika kwa watu wote 65 au kwa washiriki wanaofanya kazi tu, muundo wa sentensi unaziunganisha na kundi linalofanya kazi kupitia kauli “among those employed”. Kwa hiyo, viwango hivyo havikuhesabiwa upya kama viwango vya sampuli nzima.

Je, Dodoso Hili Linathibitisha Kuwa AI Inawabagua Wanawake?

Hapana. Dodoso la utafiti la watu 65 linapima mitazamo kuhusu ukosefu wa usawa wa mishahara na kupandishwa vyeo, maoni kuhusu haki ya zana za rasilimali watu zinazotegemea AI, na matarajio ya udhibiti; kwa kuwa halikulinganisha kwa majaribio maamuzi ya algorithimu fulani ya uajiri kwa waombaji wanawake na wanaume, haliwezi lenyewe kuthibitisha kwamba AI ndiyo husababisha moja kwa moja tofauti za mishahara au kupandishwa vyeo zilizoonekana. Madai yenye nguvu zaidi ya utafiti kuhusu mifumo ya upendeleo wa AI yanategemea kwa kiasi kikubwa mapitio ya fasihi.

Tofauti ya asilimia ndani ya chanzo katika Kielelezo 1

Kielelezo 1 cha chanzo kinaonyesha kwa chati ya duara swali “je, unafikiri kuna ubaguzi wa mishahara dhidi ya wanawake katika sekta yako?”. Hata hivyo, lebo za asilimia zinazoonekana kwenye chati zinatofautiana na maelezo ya maandishi yaliyo chini yake. Chanzo hakielezi ni mfululizo upi uliokuwa matokeo ya mwisho/yaliyosafishwa kwa data wala kama tofauti hiyo ilisababishwa na majibu yaliyokosekana.

Ingawa tofauti hii inaweza kuonekana ndogo, ni muhimu kwa uripoti wa utafiti. Asilimia ni uwiano wa idadi ya majibu halali yanayoingia katika kategoria fulani dhidi ya jumla ya majibu halali yaliyotolewa kwa swali husika. Chanzo hakitoi mlinganyo maalumu wa kukokotoa asilimia; mantiki ya msingi ya takwimu elezi inaweza kuonyeshwa kwa madhumuni ya ufundishaji kama ifuatavyo:

\[ \text{Yüzde}=\frac{\text{Belirli kategoriye verilen geçerli yanıt sayısı}}{\text{İlgili soruya verilen toplam geçerli yanıt sayısı}}\times100 \]

Mlinganyo huu si fomula asilia ya utafiti; ni uhusiano wa msingi wa kitakwimu unaoeleza uchanganuzi wa asilimia uliotumiwa katika chanzo. Kwa kuwa PDF haisemi ikiwa tofauti kati ya kielelezo na maandishi imetokana na idadi tofauti ya majibu halali, toleo la data au kosa la uripoti, idadi ghafi ya majibu haipaswi kukisiwa kwa kurudi nyuma kutoka kwenye asilimia.

Mtazamo kuhusu kupandishwa vyeo

Waandishi wanaunganisha matokeo haya na mjadala kwamba ukosefu wa usawa wa mishahara unaweza kuendelea si katika hatua ya kuingia kazini pekee bali katika kipindi chote cha kazi. Hata hivyo, swali hili katika dodoso halipimi moja kwa moja maamuzi ya kupandisha vyeo ya mfumo fulani wa AI wa tathmini ya utendaji. Kwa hiyo haiwezekani kufanya tafsiri ya kisababishi kwamba “matokeo ya %58 yanaonyesha algorithimu za AI za kupandisha vyeo zinawabagua wanawake”.

Imani katika uajiri unaotegemea AI

Mgawanyo huu unaonyesha kwamba ndani ya sampuli hakuna makubaliano makubwa kwamba AI bila shaka hufanya uajiri kuwa wa haki zaidi. Hata hivyo, tena hapa kigezo kinachopimwa ni maoni ya watu; si kiwango halisi cha makosa au ubaguzi wa algorithimu.

Mahitaji ya udhibiti na ukaguzi

Chanzo kinaripoti kwamba %62 ya washiriki waliunga mkono kanuni zinazoyataka makampuni yakague mifumo ya uajiri na mishahara inayotegemea AI kwa upendeleo. Waandishi wanatafsiri matokeo haya kama ishara ya matarajio ya uwajibikaji mkubwa zaidi wa taasisi na udhibiti wa umma.

Utafiti haukutekeleza kwa majaribio mbinu maalumu ya ukaguzi wala kupima utendaji wake. “Fairness audit” au ukaguzi wa haki hapa ni mkakati wa kupunguza tatizo; kile kinachopimwa na dodoso si kiwango cha usahihi cha mkakati huu, bali uungwaji mkono wa washiriki kwa wazo la ukaguzi wa kisheria.

Sampuli ya Majibu ya Hiari Inaathirije Matokeo?

Sampuli ya majibu ya hiari (voluntary response sampling) ni aina ya sampuli ambayo nani anashiriki katika utafiti huamuliwa zaidi na watu wenyewe kuchagua kushiriki kuliko uteuzi wa nasibu wa mtafiti; ni ya vitendo na ya haraka, lakini kwa kuwa watu wenye maslahi maalumu au maoni makali kuhusu mada wanaweza kuwa na uwezekano mkubwa wa kushiriki, haihakikishi kwamba sampuli inawakilisha idadi ya watu kwa ujumla.

Kwa hiyo, viwango kama %62, %58 au %41 kati ya washiriki 65 havipaswi kujumlishwa kuwa “wafanyakazi wote wa Kazakhstan” au “wanawake wote” wana maoni sawa. Sehemu ya mapungufu ya utafiti yenyewe pia inaeleza wazi kwamba ukubwa wa sampuli huenda usiwakilishe kikamilifu mienendo mipana ya sekta.

Umuhimu wa muundo wa umri wa vijana

Takribani %42–43 ya sampuli kuwa na miaka 18–24 na takribani %15 kuwa chini ya miaka 18 ni muhimu hasa katika tafsiri za uzoefu wa moja kwa moja wa kitaalamu kuhusu uajiri, upangaji wa mishahara na mifumo ya HR inayotegemea AI. Chanzo pia kinaripoti kwamba takribani %50,8 ya washiriki hawafanyi kazi.

Mgawanyo huu haumaanishi kwamba utafiti hauna thamani. Hata hivyo, ni salama zaidi kusoma matokeo si kama “uzoefu halisi wa utekelezaji wa wataalamu wa uajiri”, bali kama mchanganyiko wa mitazamo na maoni ya washiriki wenye viwango tofauti vya uzoefu.

Mapungufu yanayokubaliwa na chanzo chenyewe

• Sampuli ina washiriki 65 tu.
• Uwakilishi wa sekta za afya, uhandisi na utawala wa umma ni mdogo.
• Si washiriki wote wana uzoefu wa moja kwa moja na mifumo ya rasilimali watu inayotegemea AI.
• Utafiti unahitaji kufanywa kwa sampuli kubwa na zenye utofauti zaidi.
• Tafiti lengwa zinazochunguza sekta maalumu kando zinahitajika.

Kikomo cha ziada cha tafsiri: tofauti kati ya mtazamo na tabia ya algorithimu iliyopimwa

Kwa mtazamo wa Verianla, hiki ndicho kikomo muhimu zaidi cha tafsiri ya utafiti. Swali katika dodoso kama “je, unafikiri wanawake hulipwa mshahara mdogo?” linaweza kupima mtazamo kuhusu ukosefu wa usawa wa mishahara. Lakini swali hilo halipimi ikiwa algorithimu fulani ya utabiri wa mshahara kwa utaratibu huwapa wanawake ofa ndogo kuliko wanaume wenye sifa sawa.

Ili kupima moja kwa moja dai la kisababishi la aina hiyo, kwa mfano, wasifu wa waombaji wanawake na wanaume wenye sifa sawa au zilizodhibitiwa ungehitaji kutathminiwa katika mfumo uleule, tofauti za matokeo kupimwa, ukubwa wa sampuli kutajwa, na uchanganuzi wa takwimu unaofaa kufanywa. Utafiti huu haukufanya jaribio la namna hiyo.

Mikakati iliyopendekezwa ya kupunguza tatizo

Utafiti unapendekeza hatua kadhaa kwa pamoja ili kupunguza upendeleo wa kijinsia wa kialgorithimu:

• Data za mafunzo zilizosawazishwa na jumuishi: Kupunguza hatari ya ukosefu wa usawa wa kihistoria kuhamishwa moja kwa moja kwenye modeli.
• Ukaguzi wa upendeleo wa mara kwa mara: Kuchunguza mara kwa mara matokeo ya algorithimu za uajiri na mishahara kwa makundi tofauti.
• Uwazi wa maamuzi: Kuwezesha waombaji na wafanyakazi kuelewa msingi wa uamuzi na, inapobidi, kuhoji.
• Timu tofauti za maendeleo: Kujumuisha mitazamo mipana zaidi katika mfumo katika hatua ya usanifu.
• Mafunzo kwa HR na watengenezaji: Kuongeza uelewa wa hatari za upendeleo wa kialgorithimu na matumizi ya AI ya kimaadili.
• Mbinu ya Binadamu + AI: AI iunge mkono uamuzi wa binadamu lakini isiondoe kabisa tathmini ya kimuktadha na kimaadili.
• Ukaguzi wa taasisi na wa nje: Kutumia miundo ya ndani ya maadili na, inapohitajika, mapitio huru.

Hakuna mkakati kati ya hii uliolinganishwa kwa jaribio la nasibu katika utafiti huu. Kwa hiyo, chanzo hakitoi hitimisho kwamba “hatua hii hupunguza upendeleo kwa %X”.

Tatizo la chanzo katika rejea ya AI Act ya Umoja wa Ulaya

Makala inataja AI Act ya Umoja wa Ulaya kama mfano wa hatua ya udhibiti. Hata hivyo, sentensi husika imeunganishwa na chanzo namba [8], na orodha ya marejeo inaonyesha [8] kuwa kazi ya Veale na Binns ya mwaka 2017, “Fairer machine learning in the real world: Mitigating discrimination without collecting sensitive data”. Kwa hiyo, orodha ya sasa ya marejeo ya PDF si chanzo cha moja kwa moja cha hati ya AI Act.

Kwa sababu ya kutolingana huku kwa kibibliografia, maelezo ya Verianla hayapanui masharti ya sasa ya AI Act kwa kuyatoa kutoka katika makala hii. Pendekezo la jumla la utafiti kuhusu uwajibikaji wa kialgorithimu na usimamizi wa kisheria linahifadhiwa, huku maelezo mahususi ya sheria yakiwa hayatolewi kama matokeo ya utafiti huu wenyewe.

Kikomo cha madai ya fairness audit ya makampuni

Chanzo kinasema Google na LinkedIn hutumia taratibu za fairness audit na bias detection katika algorithimu zao za uajiri; hata hivyo, dai hili limeunganishwa na kazi ya jumla ya AI accountability namba [9]. PDF haina ripoti tofauti ya kampuni au kazi ya kiufundi inayorekodi moja kwa moja matumizi ya makampuni hayo mawili.

Kwa hiyo, majina ya makampuni yanapaswa kutathminiwa kama mifano iliyotumiwa katika maelezo ya fasihi ya utafiti; haiwezekani kutoa hitimisho kuhusu utendaji wa kampuni uliopimwa kwa kujitegemea au kupungua kwa upendeleo kutoka kwenye orodha ya marejeo iliyopo.

Utafiti wa baadaye

Waandishi wanapendekeza kwamba katika siku zijazo athari za matumizi ya rasilimali watu yanayotegemea AI kwenye maendeleo ya kazi ya wanawake zichunguzwe kwa kina zaidi. Mada zinazopendekezwa ni pamoja na maendeleo ya kazi, mabadiliko ya mshahara kwa muda na kuridhika na kazi.

Pia inapendekezwa kulinganisha sekta na maeneo tofauti, kupima mbinu za kupunguza upendeleo katika majaribio yaliyodhibitiwa, na kufanya tafiti za ubora zinazochunguza uzoefu binafsi wa wanawake wanaokutana na mifumo ya rasilimali watu inayotegemea AI. Mapendekezo haya ni muhimu hasa kwa kuziba pengo kati ya data ya mtazamo kutoka katika dodoso la sasa na tabia halisi ya mfumo.

Mbinu na Matokeo ya Utafiti

Mbinu ya utafiti

Utafiti ulitumia mbinu ya dodoso ndani ya mkabala wa utafiti wa kiasi. Sampuli ina washiriki 65 na washiriki walijumuishwa katika utafiti kupitia sampuli ya majibu ya hiari. Chanzo kinataja hasa wataalamu wa IT, fedha na elimu; matokeo yanaonyesha pia uwakilishi wa sekta nyingine.

Muundo wa dodoso

Dodoso lina maswali funge na limegawanywa katika sehemu kuu tatu:

1. Taarifa za demografia: Jinsia, umri, sekta na hali ya ajira.
2. Mtazamo wa AI katika rasilimali watu: Uelewa wa matumizi ya AI katika maamuzi ya uajiri na mishahara pamoja na maoni kuhusu haki na uwazi wa mifumo.
3. Uzoefu wa upendeleo wa AI: Uzoefu wa moja kwa moja au usio wa moja kwa moja wa upendeleo wa kijinsia na mitazamo ya kutendewa kwa usawa katika maamuzi ya uajiri na mishahara yanayosaidiwa na AI.

Utaratibu wa maadili

Chanzo kinasema kwamba washiriki wote 65 walitoa ridhaa baada ya kufahamishwa kabla ya kushiriki katika utafiti, ushiriki ulikuwa wa hiari na taarifa binafsi zilifanywa zisijulikane. Inaelezwa kuwa majibu yalitumika kwa madhumuni ya uchanganuzi wa kitaaluma pekee na usiri wa data ulilindwa.

Mbinu ya takwimu

Majibu yalichanganuliwa kwa kutumia takwimu elezi za msingi. Chanzo kinaeleza hasa matumizi ya asilimia; mgawanyo wa kategoria za demografia, sekta na majibu makuu ya dodoso ulichunguzwa kwa kutumia grafu na majedwali.

Hakuna jaribio la takwimu inferensia lililoripotiwa katika chanzo. Kwa hiyo:

• thamani ya p haijaripotiwa,
• kipindi cha kujiamini hakijaripotiwa,
• ukubwa wa athari haujaripotiwa,
• modeli ya regression haijaripotiwa,
• jaribio la umuhimu kati ya makundi ya jinsia au sekta halijaripotiwa,
• mgawo wa utegemezi wa kipimo cha dodoso haujaripotiwa.

Kwa hiyo, inapaswa kukumbukwa kwamba viwango kama “%58, %62 au %41” vinaonyesha mgawanyo ndani ya sampuli lakini havithibitishi umuhimu wa kitakwimu wa tofauti kati ya makundi.

Matokeo makuu ya kiasi

Uthabiti wa data za Kielelezo 1

Kielelezo 1 na maandishi yanayokifafanua yanatoa asilimia tofauti kwa swali lilelile. Kwa kuwa hakuna jedwali la data ghafi katika chanzo, Verianla haiwezi kutatua tofauti hiyo kwa kuhesabu upya. Hasa, jumla ya washiriki kuwa 65 haimaanishi kwamba kila swali lilipata majibu halali 65; lakini kwa kuwa PDF hairipoti idadi ya majibu halali kwa kila swali tofauti, maelezo hayo pia hayawezi kudhaniwa.

Matokeo yanayoungwa mkono na utafiti

• Katika sampuli hii ya watu 65 kuna wasiwasi wazi kuhusu ukosefu wa usawa wa mishahara na kupandishwa vyeo kwa msingi wa jinsia.
• Katika sampuli hakuna imani ya pamoja na yenye nguvu kwamba zana za uajiri zinazotegemea AI zitakuwa za haki zaidi moja kwa moja.
• Sehemu kubwa ya washiriki inaunga mkono ukaguzi wa mifumo ya uajiri na mishahara inayotegemea AI kwa upendeleo.
• Usanisi wa fasihi wa makala unaonyesha kwamba data za kihistoria, usanifu wa modeli, uwazi wa maamuzi na namna binadamu wanavyotumia mfumo ni muhimu kwa haki ya kialgorithimu.
• Chanzo kinatetea mbinu hai ya haki inayotumia pamoja ukaguzi wa data, uwazi, timu tofauti za maendeleo, mafunzo na usimamizi wa binadamu.

Majumuisho yasiyoungwa mkono na utafiti

• Hitimisho kwamba “AI huwapa waombaji wote wanawake mishahara ya chini” halikujaribiwa katika utafiti huu.
• Haiwezi kuhitimishwa kwamba “%65,6 ya washiriki waliona AI ikiwapa wanawake mishahara ya chini”; swali husika ni kuhusu mtazamo mpana zaidi wa ubaguzi wa mishahara.
• Haijaonyeshwa kwamba tofauti za mishahara au kupandishwa vyeo zilisababishwa na AI.
• Sampuli ya hiari ya watu 65 haiwezi kuchukuliwa kuwa inawakilisha nguvu kazi yote ya Kazakhstan au nchi nyingine.
• Utafiti haupimi fairness metric, usahihi, kiwango cha false-positive/false-negative au tofauti ya utendaji kati ya jinsia kwa modeli maalumu ya uajiri.
• Haijajaribiwa kwamba bias audit, data zilizosawazishwa au hatua za human-in-the-loop hupunguza upendeleo kwa asilimia fulani katika sampuli hii.
• Utafiti haufanyi tathmini ya utii kwa mfumo maalumu wa kisheria.

Nguvu za utafiti

Moja ya nguvu za utafiti ni kwamba unachunguza upendeleo wa kialgorithimu si kama kosa la kiufundi la modeli pekee bali pamoja na vipengele vya data, usanifu, uamuzi wa binadamu, imani ya shirika na udhibiti. Aidha, utafiti unalenga kutoa mchango wa kikanda kwa kujaribu kuzalisha data ya mitazamo kuhusu matumizi ya rasilimali watu yanayosaidiwa na AI katika muktadha wa Kazakhstan.

Mapungufu makuu

Ukubwa wa sampuli ni mdogo na unategemea ushiriki wa hiari. Sampuli imeelemea kwa vijana; takribani nusu ya washiriki hawafanyi kazi na chanzo kinaeleza wazi kwamba si washiriki wote wana uzoefu wa moja kwa moja na mifumo ya HR inayotegemea AI. Sifa hizi zinapunguza uwezo wa kujumlisha matokeo kwa idadi kubwa ya wafanyakazi.

Aidha, utafiti unategemea asilimia za msingi pekee. Hakuna takwimu inferensia za kuonyesha ikiwa tofauti kati ya makundi zinatofautiana na mabadiliko ya nasibu ya sampuli. Tofauti ya asilimia kati ya Kielelezo 1 na maandishi yanayokifafanua pia inahitaji tahadhari ya pekee katika uripoti wa kiasi.

Kikomo muhimu zaidi cha kimetodolojia ni kwamba kipimo cha mtazamo si sawa na tabia halisi ya algorithimu. Utafiti haukagui mfumo halisi wa AI wa uajiri, haufanyi majaribio yaliyodhibitiwa kwa jozi za waombaji, wala haulinganishi matokeo ya modeli inayotoa mapendekezo ya mshahara kwa jinsia.

Maelezo ya Chanzo na Mbinu

Utafiti asilia: AI bias and women: Addressing algorithmic discrimination in hiring and salary decisions

Mpangilio wa waandishi katika PDF: Madina Tulemissova; Adeliya Yermekova; Liana Rakhimzhanova; Dilnaz Sapargaliyeva.

Mpangilio wa waandishi katika SSRN metadata: Madina Tulemissova; Liana Rakhimzhanova; Adeliya Yermekova; Dilnaz Sapargaliyeva. Mpangilio wa mwandishi wa pili na wa tatu unatofautiana kati ya PDF na SSRN. Katika sehemu ya kichwa cha makala hii ya Verianla, mpangilio wa PDF ya chanzo iliyopakiwa umehifadhiwa.

Taasisi katika PDF: Waandishi wote wanne wameonyeshwa kama School of Creative Industries, Astana IT University, Astana, Kazakhstan.

Taarifa ya mwandishi wa kwanza: Madina Tulemissova ametajwa katika PDF kama Senior Lecturer na ORCID 0009-0007-0439-8932 imetolewa.

Corresponding / contact author: PDF haimtambulishi wazi corresponding author. SSRN metadata inamtaja Liana Rakhimzhanova kama Contact Author.

DOI: 10.2139/ssrn.7483742.

Jukwaa: SSRN.

Uwasilishaji kwa SSRN: 22 Septemba 2026.

“Date Written” iliyoonyeshwa katika SSRN: 12 Aprili 2025.

Aina ya chanzo: Makala ya utafiti/manuscript; inajumuisha dodoso la kiasi la washiriki 65 na mjadala wa fasihi.

Hali ya mapitio / version-of-record: PDF iliyopakiwa na rekodi ya SSRN hazitoi taarifa iliyothibitishwa ya version-of-record ya jarida lililopitiwa na wenzao kwa toleo hili. Kumbukumbu rasmi ya Astana IT University ina makala za mkutano wa 2025 Digital Generation; hata hivyo, kwa kuwa kichwa hiki hakikuweza kulinganishwa moja kwa moja katika rekodi rasmi inayopatikana, nakala hii haijatambulishwa kwa uhakika kama toleo la mkutano lililopitiwa na wenzao lililochapishwa katika IEEE Xplore.

Leseni: Rekodi ya SSRN inaonyesha Creative Commons Attribution 4.0 International (CC BY 4.0).

Ufadhili: SSRN metadata inaeleza kwamba utafiti haukupokea ruzuku maalumu au msaada wa kifedha kutoka kwa shirika lolote la ufadhili, shirika la kibiashara au lisilo la faida.

Mgongano wa maslahi: SSRN metadata inaonyesha kwamba waandishi hawakutangaza maslahi ya kifedha yanayoshindana au mahusiano binafsi yanayojulikana ambayo yangeweza kuathiri utafiti.

Maadili: PDF inaeleza kwamba ushiriki ulikuwa wa hiari, ridhaa baada ya kufahamishwa ilipatikana kutoka kwa washiriki wote 65 na taarifa binafsi zilifanywa zisijulikane. SSRN metadata inaeleza kwamba formal institutional ethics committee review haikuhitajika kwa dodoso lisilo na utambulisho na lisilo nyeti ambalo halikusanya taarifa za kumtambulisha mtu.

Upatikanaji wa data: PDF ya chanzo haitoi seti ya data ghafi ya dodoso wala jedwali la data kwa kiwango cha mshiriki. Kwa hiyo, idadi ghafi ya majibu haikujengwa upya kwa uhakika kutoka katika asilimia.

Mbinu: Voluntary response sampling ya washiriki 65; dodoso lenye maswali funge; makundi matatu ya maswali kuhusu demografia, mtazamo wa AI katika HR na uzoefu wa upendeleo wa AI; takwimu elezi za msingi na asilimia.

Kikomo cha takwimu: Chanzo hakiripoti thamani ya p, kipindi cha kujiamini, ukubwa wa athari, regression, jaribio la nadharia au uzani wa sampuli.

Tofauti ya Kielelezo 1: Thamani za asilimia zinazoonekana katika kielelezo ni %67,7 / %22,6 / %9,7 huku maelezo ya maandishi yakitoa %65,6 / %25 / %9,4. Kwa kuwa data ghafi haipo, sababu ya tofauti haijaweza kubainishwa.

Tofauti ya hali ya ajira: Matokeo yanaripoti kwamba %49,2 ya washiriki wanafanya kazi na %50,8 hawafanyi kazi, huku sehemu ya majadiliano ikisema wengi wa washiriki wanafanya kazi. Katika maandishi ya Verianla, thamani za kiasi zimepewa msingi na kutolingana huku kumeachwa wazi.

Maelezo ya marejeo: Sentensi za makala kuhusu AI Act ya Umoja wa Ulaya zimeunganishwa na [8]; hata hivyo, [8] katika orodha ya marejeo ni utafiti wa Veale na Binns wa 2017 kuhusu haki katika ujifunzaji wa mashine. Kwa hiyo, [8] si chanzo cha moja kwa moja cha sheria ya AI Act katika PDF hii.

Maelezo ya mifano ya makampuni: Kauli kuhusu matumizi ya fairness audit ya Google na LinkedIn imeunganishwa na kazi ya jumla ya AI accountability ya Raji na wenzake namba [9]; PDF haina chanzo cha msingi kinachorekodi matumizi ya makampuni hayo mawili kimoja kimoja.

Kikomo cha tafsiri ya kisayansi: Matokeo ya dodoso yanaonyesha mitazamo ya washiriki kuhusu ukosefu wa usawa wa kijinsia na haki ya AI. Hakuna ukaguzi wa moja kwa moja wa algorithimu wala jaribio la kisababishi lililofanywa kuthibitisha kwamba mfumo maalumu wa AI huwaweka waombaji wanawake katika hali ya hasara kwa utaratibu.