Alqoritmik qərəz (algorithmic bias), süni intellekt və ya alqoritmik qərar sisteminin istifadə etdiyi məlumatlar, dizayn, modelləşdirmə və ya qərarvermə prosesi səbəbindən müəyyən qruplar üçün sistemli şəkildə fərqli və potensial olaraq ədalətsiz nəticələr yaratmağa meylli olmasıdır. Bu tədqiqat süni intellekt dəstəkli işə qəbul və əməkhaqqının müəyyənləşdirilməsi proseslərində qadınlara qarşı gender bərabərsizliyi qavrayışını araşdırmaq üçün 65 iştirakçı ilə könüllü cavab seçməsinə əsaslanan qapalı tipli sorğudan istifadə etmiş və nəticələri əsasən faizlərlə qiymətləndirmişdir. İştirakçıların mühüm bir hissəsi qadınların eyni iş üçün daha aşağı əməkhaqqı ala bildiyini, vəzifədə irəliləmədə dezavantaj yaşaya bildiyini və AI əsaslı işə qəbul vasitələrinin avtomatik olaraq daha ədalətli qərara zəmanət vermədiyini düşünür. Bununla belə, tədqiqat real bir işə qəbul alqoritminin qərarlarını və ya qadın və kişi namizədlərə verdiyi maaş təkliflərini eksperimental şəkildə müqayisə etmədiyi üçün bu sorğu nəticələri AI-nin sözügedən bərabərsizliklərə birbaşa səbəb olduğunu sübut etmir; ilk növbədə iştirakçıların qavrayışlarını və onların ədəbiyyatda mövcud narahatlıqlarla necə üst-üstə düşdüyünü göstərir.

Tədqiqatın ədəbiyyat bölməsi alqoritmik ayrı-seçkiliyin üç əsas mənbəsi üzərində dayanır: keçmiş bərabərsizlikləri daşıyan təlim məlumatları, model və ya sistem dizaynında yarana bilən qərəzlər və insanların alqoritmik tövsiyələrə tənqidi qiymətləndirmə aparmadan etibar etməsi. Müəlliflər keçmiş əmək bazarı və ya əməkhaqqı məlumatlarında olan gender bərabərsizliyinin gələcək namizəd sıralama və ya maaş proqnozu modellərinə ötürülə biləcəyini; qərar məntiqinin kifayət qədər şəffaf olmamasının isə təsirlənən şəxslərin mümkün ayrı-seçkilik nəticələrini görməsini və sorğulamasını çətinləşdirə biləcəyini müzakirə edirlər.

Sorğuda qadınların daha aşağı əməkhaqqı almasına dair sual üçün mənbədə iki fərqli faiz sırası mövcuddur. PDF-dəki Şəkil 1 təxminən %67,7 “bəli”, %22,6 “xeyr/bacarıq və təcrübədən asılıdır” və %9,7 “qərarsız” göstərdiyi halda, eyni şəkli izah edən mətn %65,6, %25 və %9,4 dəyərlərini verir. Mənbə bu uyğunsuzluğun səbəbini açıqlamadığı üçün iki sıra birləşdirilməmiş və onlardan heç biri digərinin yerinə “düzəldilməmişdir”.

Tədqiqatda həmçinin iştirakçıların %58 hissəsinin qadınların kişilər qədər vəzifədə irəliləyə bilmədiyini düşündüyü, %32 hissəsinin irəliləmədə genderin təsirli olmadığını düşündüyü və %10 hissəsinin qərarsız olduğu bildirilir. AI əsaslı işə qəbul vasitələrinin daha ədalətli işə qəbulu təmin edib-etmədiyi sualında iştirakçıların %41 hissəsi AI-nin insan qərəzlərini əks etdirə və ya gücləndirə biləcəyi barədə şübhə bildirib; %37 hissəsi AI-nin ayrı-seçkiliyi azalda biləcəyi barədə nisbətən nikbin olub; %22 hissəsi isə neytral qalıb və ya seçim etməyib. İştirakçıların %62 hissəsinin şirkətlərin AI əsaslı işə qəbul və maaş sistemlərini qərəz baxımından audit etməsini məcburi edən tənzimləmələri dəstəklədiyi bildirilib.

Tədqiqatın əsas tətbiq tövsiyələri bunlardır: daha balanslı və inklüziv məlumatlardan istifadə, müntəzəm qərəz auditləri, alqoritmik qərarların daha izaholunan və şəffaf hala gətirilməsi, müxtəlif təcrübə və mənşəyə malik insanların AI inkişaf proseslərində iştirakı, insan resursları əməkdaşlarının alqoritmik qərəz barədə təlimləndirilməsi və işə qəbul qərarlarında AI-nin insan qiymətləndirməsini tamamilə əvəz etməsi əvəzinə dəstəkləyici vasitə kimi istifadə olunması. Bu tövsiyələr sorğunun birbaşa eksperimental olaraq müqayisə etdiyi müdaxilələr deyil; tədqiqatın ədəbiyyat sintezi və sorğu nəticələrindən çıxardığı tətbiq tövsiyələridir.

Tədqiqatın əsas problemi

İnsan resurslarında süni intellekt; CV-lərin təsnifləndirilməsi, namizədlərin vəzifələrlə uyğunlaşdırılması, performansın qiymətləndirilməsi və əməkhaqqı proqnozu kimi işlərdə istifadə oluna bilər. Bu istifadənin əsas gözləntilərindən biri böyük həcmdə məlumatı sürətli və ardıcıl şəkildə qiymətləndirməkdir. Lakin bir alqoritmin insan tərəfindən verilmiş keçmiş qərarlarla öyrədilməsi, keçmiş qərarlardakı bərabərsizliklərin avtomatik şəkildə yox olacağı demək deyil.

Əgər işə qəbul məlumat dəstində keçmişdə müəyyən vəzifələrin böyük əksəriyyəti kişilərə verilibsə, model “uğurlu namizəd” nümunəsini tarixən kişi üstünlüklü nümunələrdən öyrənə bilər. Bunun üçün modelin açıq şəkildə “qadınları rədd et” formasında proqramlaşdırılması lazım deyil. İstifadə olunan xüsusiyyətlər, əmək tarixçəsi, əvvəlki vəzifələr və ya digər dəyişənlər tarixi sosial quruluşla əlaqəlidirsə, model eyni nümunəni dolayı şəkildə yenidən yarada bilər.

Alqoritmik Qərəz İşə Qəbulda Necə Ortaya Çıxa Bilər?

Bu tədqiqatın ədəbiyyat çərçivəsinə görə işə qəbulda alqoritmik qərəz yalnız modelin riyazi nüvəsindən qaynaqlanmır; istifadə olunan tarixi məlumatlar, sistemi dizayn edənlərin seçimləri və AI çıxışından istifadə edən insan qərarvericilərin davranışları nəticələrə birlikdə təsir göstərə bilər. Buna görə tədqiqat alqoritmik ədaləti yalnız “qərəzsiz alqoritm yazmaq” problemi kimi deyil, məlumat–dizayn–qərar zəncirinin hamısını əhatə edən sosial-texniki problem kimi nəzərdən keçirir.

1. Təlim məlumatlarından gələn qərəz

Maşın öyrənməsi sistemi keçmiş işə qəbul və ya əməkhaqqı məlumatları ilə öyrədildikdə model məlumatlardakı əlaqələri öyrənir. Keçmiş məlumatlarda kişilərin müəyyən vəzifələrdə daha çox təmsil olunması və ya qadınların tarixən daha aşağı əməkhaqqı alması gələcək proqnozlarda bu fərqlərin yenidən ortaya çıxmasına zəmin yarada bilər.

Burada mühüm fərq budur: model “keçmişdə nə baş verib?” sualını öyrənə bilər; lakin “ədalətli olan nə olmalıdır?” sualının cavabı keçmiş məlumatlardan avtomatik çıxmır. Keçmiş davranışın statistik baxımdan tez-tez görünməsi onun etik və ya hüquqi baxımdan düzgün olduğu demək deyil.

2. Dizayn mərhələsindən gələn qərəz

AI sistemi hazırlanarkən hansı məlumatların istifadə ediləcəyinə, hansı dəyişənlərin modelə daxil ediləcəyinə, hansı nəticələrin uğur kimi müəyyənləşdiriləcəyinə və səhvlərin necə qiymətləndiriləcəyinə insanlar qərar verir. Buna görə alqoritmik sistemin davranışı yalnız məlumatların deyil, dizayn qərarlarının da məhsuludur.

Tədqiqatın ədəbiyyat icmalı bu məqamı “algorithmic inclusion” yanaşması ilə əlaqələndirir. Bu yanaşmada ədalət sistem tamamlandıqdan sonra öz-özünə yaranması gözlənilən xüsusiyyət deyil; məlumat seçimi, inkişaf komandası, audit və qərar proseslərində fəal şəkildə nəzərə alınmalı dizayn hədəfidir.

3. İnsanların AI tövsiyəsindən necə istifadə etməsi

Alqoritm yalnız tövsiyə versə belə, insan qərarverici tövsiyənin məhdudiyyətlərini anlamadan onu düzgün qəbul edə bilər. Bu halda sistemdəki qərəz insan qərarı vasitəsilə institusional prosesə daşına bilər. Tədqiqatın baxışına görə buna görə “qərarı insan verdi, yoxsa AI?” şəklində sadə fərqləndirmə kifayət deyil; AI tövsiyəsinin insan tərəfindən necə şərh edilməsi də vacibdir.

Əməkhaqqı proqnozunda keçmiş məlumatların rolu

Tədqiqatın ədəbiyyat bölməsi əməkhaqqı təklifi və ya maaş proqnozu verən sistemlər keçmiş əməkhaqqı məlumatlarından istifadə etdikdə tarixi gender maaş fərqlərini yenidən yaratmaq riskinin olduğunu müzakirə edir. Əgər keçmiş məlumatlarda oxşar vəzifə və təcrübəyə baxmayaraq qadınların maaşları sistematik olaraq aşağıdırsa, modelin yalnız bu məlumatlardan “bazara uyğun maaş” öyrənməsi mövcud bərabərsizliyi normaya çevirə bilər.

Bu mexanizm tədqiqatın öz sorğusunda birbaşa maaş proqnozu modeli işlədilərək sınaqdan keçirilməyib. Mənbə mexanizmi əvvəlki ədəbiyyata əsaslanaraq müzakirə edir və sorğu nəticələrini əməkdaşların maaş bərabərsizliyi qavrayışları ilə əlaqələndirir.

Şəffaflıq niyə vacibdir?

Namizəd niyə rədd edildiyini və ya ona niyə müəyyən əməkhaqqı təklif olunduğunu anlaya bilmirsə, mümkün səhv və ya ayrı-seçkilik nəticəsinə etiraz etmək çətinləşir. Buna görə tədqiqat yalnız model dəqiqliyinə deyil, qərar mexanizminin başadüşülən olmasına və hesabatlılığa da əhəmiyyət verir.

Burada şəffaflıq hər alqoritmin bütün mənbə kodunun hamıya açıqlanması demək olmaq məcburiyyətində deyil. Tədqiqatın istifadə etdiyi daha ümumi mənada məsələ qərara təsir edən sistemin araşdırıla bilməsi, qərəz baxımından audit edilə bilməsi və təsirlənən şəxslərin qərarın hansı əsasa söykəndiyini sorğulaya bilməsidir.

Etik qavrayış və təşkilati etibar

Ədəbiyyat icmalında təqdim edilən ayrıca bir tədqiqat insanların AI əsaslı işə qəbul vasitələrini etik hesab etməsində performance expectancy, yəni texnologiyanın işə qəbul performansını həqiqətən yaxşılaşdıracağına dair gözləntinin mühüm olduğunu; buna qarşılıq sosial mühitin və ya sektorun texnologiyanı mənimsəməsini ifadə edən social influence amilinin eyni şəkildə əhəmiyyətli olmadığını bildirir.

Bu nəticə mövcud 65 nəfərlik sorğuya aid deyil. Verianla mətnində bu tapıntı məqalənin ədəbiyyat bölməsində istifadə etdiyi əvvəlki tədqiqatın nəticəsi kimi ayrılmışdır.

Amazon nümunəsinin məqalədəki rolu

Mənbə işə qəbul sistemlərinin keçmişdə kişi üstünlüklü texnologiya sektoru məlumatlarını yenidən yarada bilməsinə nümunə kimi Amazon-un əvvəllər hazırladığı avtomatlaşdırılmış işə qəbul alətini müzakirə edir. Bu nümunə mövcud tədqiqatın həyata keçirdiyi eksperiment deyil; ədəbiyyatdakı tarixi hadisə tədqiqat problemini izah etmək üçün istifadə olunur.

Alqoritmik qərəz ilə alqoritmik ayrı-seçkilik eyni şeydirmi?

Alqoritmik qərəz sistemli sapmanı və ya müəyyən qruplar arasında fərqli nəticələr yarada bilən məlumat/model davranışını təsvir edir; alqoritmik ayrı-seçkilik isə bu fərqin insanları gender kimi xüsusiyyətə görə dezavantajlı vəziyyətə salan nəticələrinə fokuslanır. Mənbə bu iki anlayışı qadınların işə qəbul və əməkhaqqı nəticələri kontekstində bir-birinə yaxın istifadə edir; lakin hər statistik fərq təkbaşına hüquqi mənada ayrı-seçkiliyin sübutu deyil.

Tədqiqatın araşdırma sualı

Mənbənin araşdırma sualı AI qərəzinin işə qəbul və maaş qərarlarında qadınlara necə təsir etdiyini və insan resursları proseslərində alqoritmik ayrı-seçkiliyi azaltmaq üçün hansı strategiyaların tətbiq oluna biləcəyini sorğulayır.

Bu sual istiqamətində tədqiqat dörd məqsəd müəyyənləşdirir: real dünya halları və akademik ədəbiyyat vasitəsilə gender qərəzini araşdırmaq; qərəzli təlim məlumatları, model dizaynı və sistemli əmək bazarı bərabərsizliyi kimi mənbələri müəyyən etmək; etik AI, şəffaflıq və tənzimləmə əsaslı azaltma yanaşmalarını qiymətləndirmək; şirkətlər və siyasətçilər üçün daha ədalətli tətbiq tövsiyələri hazırlamaq.

Nümunənin quruluşu

İşləyən iştirakçıların sektorları

Mənbə işləyən iştirakçılar arasında ən yüksək təmsilçiliyin informasiya texnologiyalarında olduğunu, ardınca maliyyə və təhsilin gəldiyini bildirir. IT üçün %31,3, maliyyə üçün %21,9 və təhsil üçün %18,8 dəyərləri verilir. Audit, idman, fitnes və dövlət xidmətləri daha kiçik qruplar kimi göstərilir.

Bu sektor faizlərinin bütün 65 nəfərə, yoxsa yalnız işləyən iştirakçılara tətbiq olunduğu cümlənin quruluşunda “among those employed” ifadəsi ilə işləyən qrupa bağlanır. Buna görə sözügedən nisbətlər ümumi nümunə nisbətləri kimi yenidən hesablanmayıb.

Bu Sorğu AI-nin Qadınlara Qarşı Ayrı-seçkilik Etdiyini Sübut Edirmi?

Xeyr. Tədqiqatın 65 nəfərlik sorğusu əməkhaqqı və vəzifədə irəliləmə bərabərsizliyi qavrayışlarını, AI əsaslı insan resursları vasitələrinin ədaləti barədə fikirləri və tənzimləmə gözləntilərini ölçür; müəyyən işə qəbul alqoritminin qadın və kişi namizədlərə verdiyi qərarları eksperimental şəkildə müqayisə etmədiyi üçün AI-nin müşahidə olunan maaş və ya irəliləmə fərqlərinə birbaşa səbəb olduğunu təkbaşına sübut edə bilməz. Tədqiqatın AI qərəzi ilə bağlı daha güclü mexanizm iddiaları əsasən ədəbiyyat icmalına söykənir.

Şəkil 1-də mənbədaxili faiz uyğunsuzluğu

Mənbə Şəkil 1-də “sahənizdə qadınlara qarşı əməkhaqqı ayrı-seçkiliyi olduğunu düşünürsünüzmü?” sualını dairəvi diaqramla təqdim edir. Lakin diaqramda görünən faiz etiketləri ilə dərhal altındakı mətn izahı fərqlidir. Mənbə hansı sıranın yekun/məlumatları təmizlənmiş nəticə olduğunu və ya fərqin çatışmayan cavablardan qaynaqlanıb-qaynaqlanmadığını izah etmir.

Bu fərq kiçik görünsə də, tədqiqat hesabatlılığı baxımından vacibdir. Faiz müəyyən kateqoriyaya düşən etibarlı cavabların sayının həmin suala verilmiş ümumi etibarlı cavabların sayına nisbətidir. Mənbə faiz hesabı üçün xüsusi tənlik vermir; əsas təsviri statistika məntiqi öyrədici olaraq belə ifadə edilə bilər:

\[ \text{Yüzde}=\frac{\text{Belirli kategoriye verilen geçerli yanıt sayısı}}{\text{İlgili soruya verilen toplam geçerli yanıt sayısı}}\times100 \]

Bu tənlik tədqiqatın orijinal formulu deyil; mənbədə istifadə olunan faiz təhlilini izah edən əsas statistik əlaqədir. Şəkil ilə mətn arasındakı fərqin fərqli sayda etibarlı cavabdan, məlumat versiyasından, yoxsa hesabat səhvindən qaynaqlandığı PDF-də göstərilmədiyinə görə xam cavab sayları geriyə doğru təxmin edilməməlidir.

Vəzifədə irəliləmə qavrayışı

Müəlliflər bu nəticəni əməkhaqqı bərabərsizliyinin yalnız işə giriş nöqtəsində deyil, karyera boyu davam edə biləcəyi müzakirəsi ilə əlaqələndirirlər. Lakin sorğudakı bu sual birbaşa müəyyən AI performans qiymətləndirmə sisteminin irəliləmə qərarlarını ölçmür. Buna görə “%58 nəticəsi AI irəliləmə alqoritmlərinin qadınlara qarşı ayrı-seçkilik etdiyini göstərir” formasında səbəb-nəticə şərhi vermək olmaz.

AI əsaslı işə qəbula etibar

Bu bölgü nümunədə AI-nin işə qəbulu mütləq daha ədalətli edəcəyinə dair güclü razılaşma olmadığını göstərir. Lakin burada da ölçülən dəyişən insanların fikridir; alqoritmin real səhv və ya ayrı-seçkilik nisbəti deyil.

Tənzimləmə və audit tələbi

Mənbə iştirakçıların %62 hissəsinin şirkətlərin AI əsaslı işə qəbul və maaş sistemlərini qərəz baxımından audit etməsini tələb edən tənzimləmələri dəstəklədiyini bildirir. Müəlliflər bu nəticəni daha çox institusional hesabatlılıq və ictimai tənzimləmə gözləntisinin göstəricisi kimi şərh edirlər.

Tədqiqat müəyyən audit üsulunu eksperimental olaraq tətbiq edib onun performansını ölçməyib. “Fairness audit” və ya ədalət auditi burada azaltma strategiyasıdır; sorğunun ölçdüyü şey bu strategiyanın dəqiqlik nisbəti deyil, tənzimləyici audit ideyasına iştirakçı dəstəyidir.

Könüllü Cavab Seçməsi Nəticələrə Necə Təsir Edir?

Könüllü cavab seçməsi (voluntary response sampling), tədqiqata kimin qatılacağını tədqiqatçının təsadüfi seçimindən daha çox insanların özlərinin iştirak etməyi seçməsinin müəyyən etdiyi nümunə götürmə üsuludur; praktik və sürətlidir, lakin mövzuya xüsusi marağı və ya güclü fikri olan şəxslərin sorğuda iştirak ehtimalı daha yüksək ola biləcəyindən nümunənin ümumi əhalini təmsil etməsinə zəmanət vermir.

Buna görə 65 iştirakçı arasındakı %62, %58 və ya %41 kimi nisbətlər “Kazakhstan'dakı bütün işçilərin” və ya “bütün qadınların” eyni fikrə malik olduğu kimi ümumiləşdirilməməlidir. Tədqiqatın öz məhdudiyyətlər bölməsi də nümunə ölçüsünün geniş sənaye meyllərini tam təmsil etməyə biləcəyini açıq şəkildə bildirir.

Gənc yaş quruluşunun əhəmiyyəti

Nümunənin təxminən %42–43'ünün 18–24 yaşında və təxminən %15 hissəsinin 18 yaşdan aşağı olması, xüsusən işə qəbul, maaş müəyyənləşdirmə və AI əsaslı HR sistemləri ilə birbaşa peşə təcrübəsinə dair şərhlərdə əhəmiyyətlidir. Mənbə eyni zamanda iştirakçıların təxminən %50,8 hissəsinin işləmədiyini bildirir.

Bu bölgü tədqiqatın dəyərsiz olduğu demək deyil. Lakin nəticələri “işə qəbul mütəxəssislərinin real tətbiq təcrübəsi” kimi deyil, fərqli təcrübə səviyyəsinə malik iştirakçıların qavrayış və fikirlərinin qarışığı kimi oxumaq daha təhlükəsizdir.

Mənbənin özünün qəbul etdiyi məhdudiyyətlər

• Nümunə yalnız 65 iştirakçıdan ibarətdir.
• Səhiyyə, mühəndislik və dövlət idarəçiliyi sektorlarının təmsilçiliyi aşağıdır.
• Bütün iştirakçılar AI əsaslı insan resursları sistemləri ilə birbaşa təcrübəyə malik deyil.
• Daha böyük və daha müxtəlif nümunələrlə tədqiqat aparılmalıdır.
• Müəyyən sektorları ayrıca araşdıran hədəfli tədqiqatlar tələb olunur.

Əlavə şərh həddi: qavrayış ilə ölçülmüş alqoritm davranışı arasındakı fərq

Verianla baxımından tədqiqatın ən vacib şərh həddi budur. Sorğuda “qadınların daha az əməkhaqqı aldığını düşünürsünüzmü?” kimi bir sual əməkhaqqı bərabərsizliyi qavrayışını ölçə bilər. Lakin eyni sual müəyyən maaş proqnozu alqoritminin eyni keyfiyyətlərə malik kişilərlə müqayisədə qadınlara sistematik olaraq daha aşağı təklif verdiyini ölçmür.

Belə alqoritmik səbəbiyyət iddiasını birbaşa sınaqdan keçirmək üçün, məsələn, eyni və ya nəzarət edilmiş xüsusiyyətlərə malik qadın və kişi namizəd profillərinin eyni sistemdə qiymətləndirilməsi, çıxış fərqlərinin ölçülməsi, nümunə ölçüsünün göstərilməsi və uyğun statistik təhlilin aparılması lazım ola bilərdi. Bu tədqiqat belə bir eksperiment keçirmir.

Tövsiyə edilən azaltma strategiyaları

Tədqiqat alqoritmik gender qərəzini azaltmaq üçün bir neçə müdaxiləni birlikdə tövsiyə edir:

• Balanslı və inklüziv təlim məlumatları: Tarixi bərabərsizliklərin birbaşa modelə daşınması riskini azaltmaq.
• Müntəzəm qərəz auditləri: İşə qəbul və maaş alqoritmlərinin fərqli qruplar üzərində nəticələrini dövri olaraq araşdırmaq.
• Qərar şəffaflığı: Namizədlərin və əməkdaşların qərarın əsasını anlaya və lazım gəldikdə sorğulaya bilməsinə imkan yaratmaq.
• Müxtəlif inkişaf komandaları: Dizayn mərhələsində daha geniş baxış bucaqlarını sistemə daxil etmək.
• HR və inkişaf etdirici təlimi: Alqoritmik qərəz riskləri və etik AI tətbiqləri barədə anlayışı artırmaq.
• İnsan + AI yanaşması: AI-nin insan mühakiməsini dəstəkləməsi, lakin kontekstual və etik qiymətləndirməni tamamilə aradan qaldırmaması.
• İnstitusional və xarici audit: Daxili etik strukturlardan və lazım olduqda müstəqil araşdırmalardan istifadə etmək.

Bu strategiyaların heç biri mövcud tədqiqatda randomizə olunmuş eksperimentlə müqayisə edilməyib. Buna görə mənbə “bu müdaxilə qərəzi %X azaldır” nəticəsini vermir.

Avropa İttifaqı AI Act istinadındakı mənbə problemi

Məqalə tənzimləyici tədbir nümunəsi kimi Avropa İttifaqı AI Act-i qeyd edir. Lakin müvafiq cümlə [8] nömrəli mənbəyə bağlanıb və ədəbiyyat siyahısı [8]-i Veale və Binns-in 2017-ci il tarixli “Fairer machine learning in the real world: Mitigating discrimination without collecting sensitive data” işi kimi göstərir. Buna görə PDF-in mövcud ədəbiyyat siyahısı AI Act ifadəsi üçün birbaşa sənəd mənbəyi deyil.

Bu biblioqrafik uyğunsuzluğa görə Verianla mətni AI Act-in aktual müddəalarını bu məqalədən çıxararaq genişləndirmir. Tədqiqatın ümumi tövsiyəsi olan alqoritmik hesabatlılıq və tənzimləyici nəzarət qorunur, lakin xüsusi qanunvericilik detalları tədqiqatın öz tapıntısı kimi təqdim edilmir.

Şirkət fairness audit iddialarındakı hədd

Mənbə Google və LinkedIn-in işə qəbul alqoritmlərində fairness audit və bias detection mexanizmlərindən istifadə etdiyini bildirir; lakin bu iddia [9] nömrəli ümumi AI accountability işinə bağlanıb. PDF-də həmin iki şirkətin tətbiqlərini birbaşa sənədləşdirən ayrıca şirkət hesabatı və ya texniki iş siyahıya alınmayıb.

Buna görə şirkət adları tədqiqatın ədəbiyyat anlatısında istifadə olunan nümunələr kimi qiymətləndirilməlidir; mövcud ədəbiyyat siyahısı əsasında müstəqil şəkildə ölçülmüş şirkət performansı və ya qərəz azalması nəticəsi çıxarıla bilməz.

Gələcək tədqiqatlar

Müəlliflər gələcəkdə AI əsaslı insan resursları tətbiqlərinin qadınların karyera inkişafına təsirinin daha ətraflı araşdırılmasını tövsiyə edirlər. Təklif olunan mövzular arasında karyera irəliləyişi, zaman içində maaş dəyişiklikləri və iş məmnunluğu var.

Həmçinin fərqli sektor və regionların müqayisəsi, qərəzin azaldılması üsullarının nəzarətli eksperimentlərlə sınaqdan keçirilməsi və AI əsaslı insan resursları sistemləri ilə qarşılaşan qadınların şəxsi təcrübələrini araşdıran keyfiyyət tədqiqatları tövsiyə olunur. Bu tövsiyələr xüsusən mövcud sorğunun qavrayış məlumatı ilə real sistem davranışı arasındakı boşluğu bağlamaq baxımından vacibdir.

Tədqiqatın Metodu və Nəticələri

Tədqiqat yanaşması

Tədqiqat kəmiyyət tədqiqat yanaşması çərçivəsində sorğu metodundan istifadə edib. Nümunə 65 iştirakçıdan ibarətdir və iştirakçılar könüllü cavab seçməsi yolu ilə tədqiqata daxil edilib. Mənbə xüsusilə IT, maliyyə və təhsil mütəxəssislərini qeyd edir; nəticələrdə başqa sektorların da təmsil olunduğu görünür.

Sorğunun quruluşu

Sorğu qapalı tipli suallardan ibarətdir və üç əsas bölməyə ayrılır:

1. Demoqrafik məlumatlar: Gender, yaş, sektor və məşğulluq vəziyyəti.
2. İnsan resurslarında AI qavrayışı: İşə qəbul və maaş qərarlarında AI istifadəsi barədə məlumatlılıq, həmçinin sistemlərin ədaləti və şəffaflığı haqqında fikirlər.
3. AI qərəzi təcrübəsi: AI dəstəkli işə qəbul və əməkhaqqı qərarlarında birbaşa və ya dolayı gender qərəzi təcrübələri və qeyri-bərabər rəftar qavrayışları.

Etik prosedur

Mənbə 65 iştirakçının hamısının tədqiqata qatılmadan əvvəl məlumatlandırılmış razılıq verdiyini, iştirakın könüllü olduğunu və şəxsi məlumatların anonimləşdirildiyini bildirir. Cavabların yalnız akademik təhlil məqsədilə istifadə edildiyi və məlumat məxfiliyinin qorunduğu qeyd olunur.

Statistik metod

Cavablar əsas təsviri statistika ilə təhlil edilib. Mənbə xüsusilə faizlərin istifadə olunduğunu; demoqrafik kateqoriyalar, sektorlar və əsas sorğu cavablarının bölgülərinin qrafik və cədvəllərlə araşdırıldığını bildirir.

Mənbədə inferensial statistik test hesabatlanmayıb. Buna görə:

• p dəyəri hesabatlanmayıb,
• etibar intervalı hesabatlanmayıb,
• effekt ölçüsü hesabatlanmayıb,
• reqressiya modeli hesabatlanmayıb,
• gender və ya sektor qrupları arasında əhəmiyyətlilik testi hesabatlanmayıb,
• sorğu şkalası üçün etibarlılıq əmsalı hesabatlanmayıb.

Buna görə “%58, %62 və ya %41” kimi nisbətlərin nümunə daxilində bölgünü göstərdiyi, lakin qruplar arasındakı fərqlərin statistik əhəmiyyətliliyini sübut etmədiyi unudulmamalıdır.

Əsas kəmiyyət nəticələri

Şəkil 1 məlumat tutarlılığı

Şəkil 1 və onu izah edən mətn eyni suala dair fərqli faizlər verir. Mənbədə xam məlumat cədvəli olmadığı üçün Verianla bu fərqi yenidən hesablayaraq həll edə bilməz. Xüsusilə ümumi iştirakçı sayının 65 olması hər suala mütləq 65 etibarlı cavab verildiyi demək deyil; lakin PDF hər sual üzrə etibarlı cavab sayını ayrıca bildirmədiyi üçün belə bir izah da fərz edilə bilməz.

Tədqiqatın dəstəklədiyi nəticələr

• Bu 65 nəfərlik nümunədə gender əsaslı əməkhaqqı və vəzifədə irəliləmə bərabərsizliyinə dair nəzərəçarpan narahatlıqlar var.
• Nümunədə AI əsaslı işə qəbul vasitələrinin avtomatik olaraq daha ədalətli olacağı barədə ortaq və güclü etibar yoxdur.
• İştirakçıların mühüm hissəsi AI əsaslı işə qəbul və maaş sistemlərinin qərəz baxımından audit edilməsini dəstəkləyir.
• Məqalənin ədəbiyyat sintezi tarixi məlumatların, model dizaynının, qərar şəffaflığının və insan istifadə formasının alqoritmik ədalət baxımından vacib olduğunu ortaya qoyur.
• Mənbə məlumat auditi, şəffaflıq, müxtəlif inkişaf komandaları, təlim və insan nəzarətini birlikdə istifadə edən fəal ədalət yanaşmasını müdafiə edir.

Tədqiqatın dəstəkləmədiyi ümumiləşdirmələr

• “AI bütün qadın namizədlərə daha aşağı maaş verir” nəticəsi bu tədqiqatda sınaqdan keçirilməyib.
• “İştirakçıların %65,6 hissəsi AI-nin qadınlara aşağı maaş verdiyini gördü” nəticəsi çıxarıla bilməz; müvafiq sual daha ümumi əməkhaqqı ayrı-seçkiliyi qavrayışıdır.
• Əməkhaqqı və ya irəliləmə fərqlərinin AI tərəfindən səbəbiyyətlə yaradıldığı göstərilməyib.
• 65 nəfərlik könüllü nümunənin bütün Kazakhstan işçi qüvvəsini və ya başqa ölkələri təmsil etdiyi qəbul edilə bilməz.
• Tədqiqat müəyyən işə qəbul modelinin fairness metrikasını, dəqiqliyini, false-positive/false-negative nisbətini və ya genderlərarası performans fərqini ölçmür.
• Tövsiyə olunan bias audit, balanslı məlumat və ya human-in-the-loop müdaxilələrinin bu nümunədə qərəzi müəyyən faizlə azaltdığı sınaqdan keçirilməyib.
• Tədqiqat müəyyən hüquqi rejimin uyğunluq qiymətləndirilməsini aparmır.

Güclü tərəflər

Tədqiqatın güclü tərəflərindən biri alqoritmik qərəzi yalnız texniki model səhvi kimi deyil, məlumat, dizayn, insan qərarı, təşkilati etibar və tənzimləmə ölçüləri ilə birlikdə nəzərdən keçirməsidir. Həmçinin tədqiqat Kazakhstan kontekstində AI dəstəkli insan resursları tətbiqlərinə dair qavrayış məlumatı yaratmağa çalışması baxımından regional töhfə məqsədi daşıyır.

Əsas məhdudiyyətlər

Nümunə ölçüsü kiçikdir və könüllü iştiraka əsaslanır. Nümunə yaş baxımından gənclərə meyllidir; iştirakçıların təxminən yarısı işləmir və mənbə açıq şəkildə bütün iştirakçıların AI əsaslı HR sistemləri ilə birbaşa təcrübəyə malik olmadığını bildirir. Bu xüsusiyyətlər nəticələrin geniş işçi əhalisinə ümumiləşdirilməsini məhdudlaşdırır.

Bundan əlavə, tədqiqat yalnız əsas faizlərə əsaslanır. Qruplar arasındakı fərqlərin təsadüfi nümunə dəyişkənliyindən ayrılıb-ayrılmadığını göstərəcək inferensial statistika yoxdur. Şəkil 1 ilə izah mətni arasındakı faiz uyğunsuzluğu da kəmiyyət hesabatında ayrıca diqqət tələb edir.

Ən mühüm metodoloji hədd isə qavrayış ölçümü ilə real alqoritmik davranışın eyni olmamasıdır. Tədqiqat real AI işə qəbul sistemini audit etmir, namizəd cütləri üzərində nəzarətli test aparmır və maaş təklifi verən modelin çıxışlarını genderə görə müqayisə etmir.

Mənbə və Metod Qeydi

Orijinal iş: AI bias and women: Addressing algorithmic discrimination in hiring and salary decisions

PDF-də müəllif sırası: Madina Tulemissova; Adeliya Yermekova; Liana Rakhimzhanova; Dilnaz Sapargaliyeva.

SSRN metadata müəllif sırası: Madina Tulemissova; Liana Rakhimzhanova; Adeliya Yermekova; Dilnaz Sapargaliyeva. PDF ilə SSRN arasında ikinci və üçüncü müəllifin sırası fərqlidir. Bu Verianla məqaləsinin başlıq bölməsində yüklənmiş mənbə PDF-in sırası qorunub.

PDF-dəki qurumlar: Dörd müəllifin hamısı School of Creative Industries, Astana IT University, Astana, Kazakhstan olaraq göstərilir.

Birinci müəllif məlumatı: Madina Tulemissova PDF-də Senior Lecturer kimi göstərilib və ORCID 0009-0007-0439-8932 verilib.

Corresponding / contact author: PDF corresponding author-u açıq şəkildə işarələmir. SSRN metadata Liana Rakhimzhanova-nı Contact Author kimi göstərir.

DOI: 10.2139/ssrn.7483742.

Platforma: SSRN.

SSRN-ə göndərilmə: 22 Sentyabr 2026.

SSRN-də göstərilən “Date Written”: 12 Aprel 2025.

Mənbə növü: Tədqiqat məqaləsi/manuscript; 65 iştirakçılı kəmiyyət sorğusu və ədəbiyyat müzakirəsi ehtiva edir.

Resenziya / version-of-record vəziyyəti: Yüklənmiş PDF və SSRN qeydi bu versiya üçün təsdiqlənmiş resenziyalı jurnal version-of-record məlumatı vermir. Astana IT University-nin rəsmi arxivində 2025 Digital Generation konfrans materialları var; lakin əlçatan rəsmi qeyddə bu başlıq birbaşa uyğunlaşdırıla bilmədiyi üçün bu nüsxə qəti şəkildə IEEE Xplore-da dərc olunmuş resenziyalı konfrans versiyası kimi etiketlənməyib.

Lisenziya: SSRN qeydi Creative Commons Attribution 4.0 International (CC BY 4.0) göstərir.

Maliyyələşdirmə: SSRN metadata tədqiqatın hər hansı maliyyələşdirən qurumdan, kommersiya təşkilatından və ya qeyri-kommersiya təşkilatından xüsusi qrant və ya maliyyə dəstəyi almadığını bildirir.

Maraqlar toqquşması: SSRN metadata müəlliflərin tədqiqata təsir edə biləcək məlum rəqib maliyyə maraqları və ya şəxsi münasibətlər bəyan etmədiyini göstərir.

Etika: PDF iştirakın könüllü olduğunu, bütün 65 iştirakçıdan məlumatlandırılmış razılıq alındığını və şəxsi məlumatların anonimləşdirildiyini bildirir. SSRN metadata şəxsi identifikasiya məlumatı toplanmayan anonim və həssas olmayan sorğu üçün formal institutional ethics committee review tələb olunmadığını bildirir.

Məlumat əlçatanlığı: Mənbə PDF-də xam sorğu məlumat dəsti və ya iştirakçı səviyyəsində məlumat cədvəli verilməyib. Buna görə faizlərdən xam cavab sayları etibarlı şəkildə yenidən qurulmayıb.

Metod: Voluntary response sampling ilə 65 iştirakçı; qapalı tipli sorğu; demoqrafiya, HR-də AI qavrayışı və AI qərəzi təcrübəsi olmaqla üç sual qrupu; əsas təsviri statistika və faizlər.

Statistik hədd: Mənbə p dəyəri, etibar intervalı, effekt ölçüsü, reqressiya, hipotez testi və ya nümunə çəkiləndirilməsi hesabatlamır.

Şəkil 1 uyğunsuzluğu: Şəklin görünən faiz dəyərləri %67,7 / %22,6 / %9,7 olduğu halda mətn izahı %65,6 / %25 / %9,4 verir. Xam məlumat olmadığı üçün fərqin səbəbi müəyyən edilməyib.

Məşğulluq vəziyyəti uyğunsuzluğu: Nəticələr iştirakçıların %49,2 hissəsinin işlədiyini və %50,8 hissəsinin işləmədiyini bildirdiyi halda müzakirə bölməsi iştirakçıların əksəriyyətinin işlədiyini deyir. Verianla mətnində kəmiyyət dəyərləri əsas götürülüb və uyğunsuzluq açıq saxlanılıb.

Ədəbiyyat qeydi: Məqalənin Avropa İttifaqı AI Act barədə cümlələri [8]-ə bağlanır; lakin ədəbiyyat siyahısında [8] Veale və Binns-in 2017-ci il tarixli maşın öyrənməsi ədaləti tədqiqatıdır. Buna görə [8] mövcud PDF-də AI Act üçün birbaşa qanunvericilik mənbəyi deyil.

Şirkət nümunələri qeydi: Google və LinkedIn fairness audit tətbiqlərinə dair ifadə [9] nömrəli Raji və həmkarlarının ümumi AI accountability işinə bağlanır; PDF-də iki şirkətin tətbiqlərini ayrı-ayrılıqda sənədləşdirən ilkin mənbə yoxdur.

Elmi şərh həddi: Sorğu nəticələri gender bərabərsizliyi və AI ədaləti haqqında iştirakçı qavrayışlarını göstərir. Müəyyən AI sisteminin qadın namizədləri sistematik şəkildə dezavantajlı vəziyyətə saldığına dair birbaşa alqoritmik audit və ya səbəbiyyət eksperimenti aparılmayıb.