Algoritmik önyargı (algorithmic bias), bir yapay zekâ veya algoritmik karar sisteminin kullandığı veri, tasarım, modelleme veya karar süreci nedeniyle belirli gruplar için sistematik olarak farklı ve potansiyel olarak adaletsiz sonuçlar üretme eğilimidir. Bu çalışma, yapay zekâ destekli işe alım ve ücret belirleme süreçlerinde kadınlara yönelik cinsiyet eşitsizliği algısını incelemek için 65 katılımcıyla gönüllü yanıt örneklemesine dayanan kapalı uçlu bir anket kullanmış ve sonuçları ağırlıklı olarak yüzdelerle değerlendirmiştir. Katılımcıların önemli bir bölümü kadınların aynı iş için daha düşük ücret alabildiğini, terfilerde dezavantaj yaşayabildiğini ve AI tabanlı işe alım araçlarının otomatik olarak daha adil karar garanti etmediğini düşünmektedir. Bununla birlikte çalışma, gerçek bir işe alım algoritmasının kararlarını veya kadın ve erkek adaylara verdiği maaş tekliflerini deneysel olarak karşılaştırmadığı için bu anket sonuçları AI'nın söz konusu eşitsizliklere doğrudan neden olduğunu kanıtlamaz; öncelikle katılımcı algılarını ve literatürdeki mevcut kaygılarla bunların nasıl örtüştüğünü gösterir.

Çalışmanın literatür bölümü algoritmik ayrımcılığın üç temel kaynağı üzerinde durmaktadır: geçmiş eşitsizlikleri taşıyan eğitim verileri, model veya sistem tasarımında oluşabilecek önyargılar ve insanların algoritmik önerilere eleştirel değerlendirme yapmadan güvenmesi. Yazarlar, geçmiş iş gücü veya ücret verilerinde bulunan cinsiyet eşitsizliğinin gelecekteki aday sıralama veya maaş tahmini modellerine aktarılabileceğini; karar mantığının yeterince şeffaf olmamasının da etkilenen kişilerin olası ayrımcı sonuçları fark etmesini ve sorgulamasını zorlaştırabileceğini tartışmaktadır.

Ankette kadınların daha düşük ücret aldığına ilişkin soru için kaynak içinde iki farklı yüzde dizisi bulunmaktadır. PDF'deki Şekil 1 görseli yaklaşık %67,7 “evet”, %22,6 “hayır/beceri ve deneyime bağlı” ve %9,7 “kararsız” gösterirken, aynı şekli açıklayan metin %65,6, %25 ve %9,4 değerlerini vermektedir. Kaynak bu uyuşmazlığın nedenini açıklamadığı için iki seri birleştirilmemiş ve herhangi biri diğerinin yerine “düzeltilmemiştir”.

Çalışmada ayrıca katılımcıların %58'inin kadınların erkekler kadar terfi alamadığını düşündüğü, %32'sinin terfide cinsiyetin etkili olmadığını düşündüğü ve %10'unun kararsız olduğu aktarılmaktadır. AI tabanlı işe alım araçlarının daha adil işe alım sağlayıp sağlamadığı sorusunda katılımcıların %41'i AI'nın insan önyargılarını yansıtabileceği veya büyütebileceği yönünde kuşku bildirmiş; %37'si AI'nın ayrımcılığı azaltabileceği konusunda görece iyimser olmuş; %22'si ise nötr kalmış veya seçim yapmamıştır. Katılımcıların %62'sinin şirketlerin AI tabanlı işe alım ve maaş sistemlerini önyargı açısından denetlemesini zorunlu kılan düzenlemeleri desteklediği raporlanmıştır.

Çalışmanın ana uygulama önerileri; daha dengeli ve kapsayıcı veri kullanımı, düzenli önyargı denetimleri, algoritmik kararların daha açıklanabilir ve şeffaf hale getirilmesi, farklı geçmişlerden gelen kişilerin AI geliştirme süreçlerine katılması, insan kaynakları çalışanlarının algoritmik önyargı konusunda eğitilmesi ve işe alım kararlarında AI'nın insan değerlendirmesinin tamamen yerini alması yerine destekleyici bir araç olarak kullanılmasıdır. Bu öneriler anketin doğrudan deneysel olarak karşılaştırdığı müdahaleler değildir; araştırmanın literatür sentezi ve anket bulgularından çıkardığı uygulama önerileridir.

Araştırmanın temel problemi

İnsan kaynaklarında yapay zekâ; özgeçmişlerin sınıflandırılması, adayların pozisyonlarla eşleştirilmesi, performans değerlendirmesi ve ücret tahmini gibi işlerde kullanılabilir. Bu kullanımın temel beklentilerinden biri, çok miktarda bilgiyi hızlı ve tutarlı biçimde değerlendirmektir. Ancak bir algoritmanın insan tarafından verilmiş geçmiş kararlarla eğitilmesi, geçmiş kararların içerdiği eşitsizliklerin otomatik olarak ortadan kalkacağı anlamına gelmez.

Bir işe alım veri setinde geçmişte belirli pozisyonların büyük çoğunlukla erkeklere verilmiş olması durumunda model, “başarılı aday” örüntüsünü tarihsel erkek ağırlıklı örneklerden öğrenebilir. Bu durum modelin açıkça “kadınları reddet” şeklinde programlanmış olmasını gerektirmez. Kullanılan özellikler, iş geçmişleri, önceki pozisyonlar veya başka değişkenler tarihsel toplumsal yapıyla ilişkiliyse model dolaylı biçimde aynı örüntüyü yeniden üretebilir.

Algoritmik Önyargı İşe Alımda Nasıl Ortaya Çıkabilir?

Bu çalışmanın literatür çerçevesine göre işe alımdaki algoritmik önyargı yalnız modelin matematiksel çekirdeğinden kaynaklanmaz; kullanılan geçmiş veriler, sistemi tasarlayanların seçimleri ve AI çıktısını kullanan insan karar vericilerin davranışları birlikte sonuçları etkileyebilir. Çalışma bu nedenle algoritmik adaleti yalnız “tarafsız bir algoritma yazma” problemi olarak değil, veri–tasarım–karar zincirinin tamamını kapsayan sosyoteknik bir problem olarak ele almaktadır.

1. Eğitim verisinden gelen önyargı

Makine öğrenmesi sistemi geçmiş işe alım veya ücret verileriyle eğitildiğinde model, veride bulunan ilişkileri öğrenir. Geçmiş veride erkeklerin belirli görevlerde daha fazla temsil edilmesi veya kadınların geçmişte daha düşük ücret almış olması, gelecekteki tahminlerde bu farkların yeniden ortaya çıkmasına zemin hazırlayabilir.

Burada önemli ayrım şudur: model “geçmişte ne olmuş?” sorusunu öğrenebilir; fakat “adil olan ne olmalıdır?” sorusunun cevabı geçmiş veriden otomatik olarak çıkmaz. Geçmiş davranışın istatistiksel olarak sık görülmesi, etik veya hukuki olarak doğru olduğu anlamına gelmez.

2. Tasarım aşamasından gelen önyargı

Bir AI sistemi geliştirilirken hangi verilerin kullanılacağına, hangi değişkenlerin modele gireceğine, hangi sonuçların başarı olarak tanımlanacağına ve hataların nasıl değerlendirileceğine insanlar karar verir. Dolayısıyla algoritmik sistemin davranışı yalnız verinin değil, tasarım kararlarının da ürünüdür.

Çalışmanın literatür incelemesi bu noktayı “algorithmic inclusion” yaklaşımıyla ilişkilendirir. Bu yaklaşımda adalet, sistem bittikten sonra kendiliğinden ortaya çıkması beklenen bir özellik değildir; veri seçimi, geliştirme ekibi, denetim ve karar süreçlerinde aktif olarak gözetilmesi gereken bir tasarım hedefidir.

3. İnsanların AI önerisini nasıl kullandığı

Algoritma yalnız bir öneri üretse bile insan karar verici önerinin sınırlarını anlamadan onu doğru kabul edebilir. Bu durumda sistemdeki önyargı insan kararı üzerinden kurumsal sürece taşınabilir. Çalışmanın bakış açısından bu nedenle “insan mı, AI mı karar verdi?” şeklindeki basit ayrım yeterli değildir; AI önerisinin insan tarafından nasıl yorumlandığı da önemlidir.

Ücret tahmininde geçmiş verinin rolü

Çalışmanın literatür bölümü, ücret önerisi veya maaş tahmini yapan sistemlerin geçmiş ücret verilerini kullanması durumunda tarihsel cinsiyet ücret farklarını yeniden üretme riski bulunduğunu tartışmaktadır. Eğer geçmiş veride benzer görev ve deneyime rağmen kadınların ücretleri sistematik olarak düşükse, modelin yalnız bu veriden “piyasaya uygun ücret” öğrenmesi mevcut eşitsizliği norm haline getirebilir.

Bu mekanizma çalışmanın kendi anketinde doğrudan bir maaş tahmin modeli çalıştırılarak test edilmemiştir. Kaynak, mekanizmayı önceki literatüre dayanarak tartışmakta ve anket sonuçlarını çalışanların ücret eşitsizliği algılarıyla ilişkilendirmektedir.

Şeffaflık neden önemlidir?

Bir aday neden elendiğini veya kendisine neden belirli bir ücret önerildiğini anlayamıyorsa olası yanlış veya ayrımcı sonuca itiraz etmek zorlaşır. Çalışma bu nedenle yalnız model doğruluğuna değil, karar mekanizmasının anlaşılabilirliğine ve hesap verebilirliğe de önem vermektedir.

Şeffaflık burada her algoritmanın bütün kaynak kodunun herkese açıklanması anlamına gelmek zorunda değildir. Çalışmanın kullandığı daha genel anlamıyla mesele, karar üzerinde etkili olan sistemin incelenebilir olması, önyargı bakımından denetlenebilmesi ve etkilenen kişilerin kararın hangi temele dayandığını sorgulayabilmesidir.

Etik algı ve örgütsel güven

Literatür incelemesinde aktarılan ayrı bir çalışma, insanların AI tabanlı işe alım araçlarını etik görmesinde performance expectancy, yani teknolojinin işe alım performansını gerçekten iyileştireceğine ilişkin beklentinin önemli olduğunu; buna karşılık sosyal çevrenin veya sektörün teknolojiyi benimsemiş olmasını ifade eden social influence unsurunun aynı şekilde anlamlı olmadığını bildirmektedir.

Bu sonuç mevcut 65 kişilik ankete ait değildir. Verianla anlatımında söz konusu bulgu, makalenin literatür bölümünde kullandığı önceki araştırmanın sonucu olarak ayrılmıştır.

Amazon örneğinin makaledeki rolü

Kaynak, işe alım sistemlerinin geçmiş erkek ağırlıklı teknoloji sektörü verilerini yeniden üretebilmesine örnek olarak Amazon'un daha önce geliştirdiği otomatik işe alım aracını tartışmaktadır. Bu örnek mevcut araştırmanın gerçekleştirdiği deney değildir; literatürdeki tarihsel bir vaka çalışmanın araştırma problemini açıklamak için kullanılmaktadır.

Algoritmik önyargı ile algoritmik ayrımcılık aynı şey midir?

Algoritmik önyargı, sistematik bir sapma veya belirli gruplar arasında farklı sonuç oluşturabilen veri/model davranışını anlatırken algoritmik ayrımcılık bu farklılığın insanları cinsiyet gibi bir özellik temelinde dezavantajlı hale getiren sonuçlarına odaklanır. Kaynak bu iki kavramı kadınların işe alım ve ücret sonuçları bağlamında yakın biçimde kullanmaktadır; ancak her istatistiksel farklılık tek başına hukuki anlamda ayrımcılık kanıtı değildir.

Çalışmanın araştırma sorusu

Kaynağın araştırma sorusu, AI önyargısının işe alım ve maaş kararlarında kadınları nasıl etkilediğini ve insan kaynakları süreçlerinde algoritmik ayrımcılığı azaltmak için hangi stratejilerin uygulanabileceğini sorgulamaktadır.

Bu soru doğrultusunda çalışma dört hedef belirlemektedir: gerçek dünya vakaları ve akademik literatür üzerinden cinsiyet önyargısını incelemek; önyargılı eğitim verisi, model tasarımı ve sistemik iş gücü eşitsizliği gibi kaynakları belirlemek; etik AI, şeffaflık ve düzenleme temelli azaltma yaklaşımlarını değerlendirmek; şirketler ve politika yapıcılar için daha adil uygulama önerileri geliştirmek.

Örneklemin yapısı

Çalışan katılımcıların sektörleri

Kaynak, çalışan katılımcılar arasında en yüksek temsilin bilgi teknolojilerinde olduğunu ve bunu finans ile eğitimin izlediğini bildirmektedir. IT için %31,3, finans için %21,9 ve eğitim için %18,8 değerleri verilmektedir. Audit, spor, fitness ve kamu hizmetleri daha küçük gruplar olarak belirtilmektedir.

Bu sektör yüzdelerinin bütün 65 kişiye mi yoksa yalnız çalışan katılımcılara mı uygulandığı cümlenin yapısında “among those employed” ifadesiyle çalışan gruba bağlanmaktadır. Bu nedenle söz konusu oranlar toplam örneklem oranları gibi yeniden hesaplanmamıştır.

Bu Anket AI'nın Kadınlara Ayrımcılık Yaptığını Kanıtlıyor mu?

Hayır. Çalışmanın 65 kişilik anketi, ücret ve terfi eşitsizliği algılarını, AI tabanlı insan kaynakları araçlarının adaleti konusundaki görüşleri ve düzenleme beklentilerini ölçmektedir; belirli bir işe alım algoritmasının kadın ve erkek adaylara verdiği kararları deneysel olarak karşılaştırmadığı için AI'nın gözlenen ücret veya terfi farklarına doğrudan neden olduğunu tek başına kanıtlayamaz. Çalışmanın AI önyargısına ilişkin daha güçlü mekanizma iddiaları büyük ölçüde literatür incelemesine dayanmaktadır.

Şekil 1'deki kaynak içi yüzde uyuşmazlığı

Kaynak Şekil 1, “alanınızda kadınlara karşı ücret ayrımcılığı olduğunu düşünüyor musunuz?” sorusunu pasta grafikle sunmaktadır. Ancak grafikte görünen yüzde etiketleri ile hemen altındaki metinsel açıklama farklıdır. Kaynak hangi dizinin nihai/veri-temizlenmiş sonuç olduğunu veya farklılığın eksik yanıtlardan kaynaklanıp kaynaklanmadığını açıklamamaktadır.

Bu fark küçük görünse de araştırma raporlaması açısından önemlidir. Bir yüzde, ilgili kategoriye düşen geçerli yanıt sayısının o soruya verilen toplam geçerli yanıt sayısına oranıdır. Kaynak yüzde hesabı için özel bir denklem vermemektedir; temel betimsel istatistik mantığı öğretici olarak şöyle ifade edilebilir:

\[ \text{Yüzde}=\frac{\text{Belirli kategoriye verilen geçerli yanıt sayısı}}{\text{İlgili soruya verilen toplam geçerli yanıt sayısı}}\times100 \]

Bu denklem çalışmanın özgün formülü değildir; kaynakta kullanılan yüzde analizini açıklayan temel istatistiksel ilişkidir. Şekil ve metin arasındaki farkın farklı sayıda geçerli yanıttan mı, veri sürümünden mi yoksa raporlama hatasından mı kaynaklandığı PDF'de belirtilmediğinden ham yanıt sayıları geriye doğru tahmin edilmemelidir.

Terfi algısı

Yazarlar bu sonucu ücret eşitsizliğinin yalnız işe giriş noktasında değil kariyer boyunca sürebileceği tartışmasına bağlamaktadır. Ancak anketteki bu soru doğrudan belirli bir AI performans değerlendirme sisteminin terfi kararlarını ölçmemektedir. Bu nedenle “%58'lik sonuç AI terfi algoritmalarının kadınlara ayrımcılık yaptığını gösterir” şeklinde bir nedensel yorum yapılamaz.

AI tabanlı işe alıma duyulan güven

Bu dağılım, örneklem içinde AI'nın işe alımı mutlaka daha adil hale getirdiğine ilişkin güçlü bir uzlaşma bulunmadığını göstermektedir. Ancak yine burada ölçülen değişken insanların görüşüdür; algoritmanın gerçek hata veya ayrımcılık oranı değildir.

Düzenleme ve denetim talebi

Kaynak katılımcıların %62'sinin şirketlerin AI tabanlı işe alım ve ücret sistemlerini önyargı açısından denetlemesini gerektiren düzenlemeleri desteklediğini bildirmektedir. Yazarlar bu sonucu daha fazla kurumsal hesap verebilirlik ve kamusal düzenleme beklentisinin göstergesi olarak yorumlamaktadır.

Çalışma belirli bir denetim yöntemini deneysel olarak uygulayıp performansını ölçmemiştir. “Fairness audit” veya adalet denetimi burada bir azaltma stratejisidir; anketin ölçtüğü şey bu stratejinin doğruluk oranı değil, düzenleyici denetim fikrine yönelik katılımcı desteğidir.

Gönüllü Yanıt Örneklemesi Sonuçları Nasıl Etkiler?

Gönüllü yanıt örneklemesi (voluntary response sampling), araştırmaya kimlerin katılacağına araştırmacının rastgele seçiminden çok bireylerin katılmayı tercih etmesinin yön verdiği örnekleme biçimidir; pratik ve hızlıdır ancak konuya özellikle ilgi duyan veya güçlü görüşleri bulunan kişilerin ankete katılma olasılığı daha yüksek olabileceği için örneklemin genel nüfusu temsil etmesini garanti etmez.

Bu nedenle 65 katılımcı arasındaki %62, %58 veya %41 gibi oranlar “Kazakhstan'daki bütün çalışanların” veya “bütün kadınların” aynı görüşe sahip olduğu şeklinde genellenmemelidir. Araştırmanın kendi sınırlılıklar bölümü de örneklem büyüklüğünün geniş endüstri eğilimlerini tam temsil etmeyebileceğini açıkça belirtmektedir.

Genç yaş yapısının önemi

Örneklemin yaklaşık %42–43'ünün 18–24 yaşında ve yaklaşık %15'inin 18 yaş altında olması, özellikle işe alım, ücret belirleme ve AI tabanlı İK sistemleriyle doğrudan profesyonel deneyime ilişkin yorumlarda önem taşır. Kaynak aynı zamanda katılımcıların yaklaşık %50,8'inin çalışmadığını bildirmektedir.

Bu dağılım araştırmanın değersiz olduğu anlamına gelmez. Ancak sonuçların “işe alım uzmanlarının gerçek uygulama deneyimi” olarak değil, farklı düzeylerde deneyime sahip katılımcıların algı ve görüşlerinin karışımı olarak okunması daha güvenlidir.

Kaynağın kendi kabul ettiği sınırlılıklar

• Örneklem yalnız 65 katılımcıdan oluşmaktadır.
• Sağlık, mühendislik ve kamu yönetimi sektörlerinin temsili düşüktür.
• Bütün katılımcılar AI tabanlı insan kaynakları sistemleriyle doğrudan deneyime sahip değildir.
• Daha büyük ve daha çeşitli örneklemlerle çalışma yapılması gerekmektedir.
• Belirli sektörleri ayrı ayrı inceleyen hedefli araştırmalar gerekmektedir.

Ek yorum sınırı: algı ile ölçülmüş algoritma davranışı arasındaki fark

Verianla açısından çalışmanın en önemli yorum sınırı budur. Ankette “kadınların daha az ücret aldığını düşünüyor musunuz?” şeklindeki bir soru, ücret eşitsizliği algısını ölçebilir. Fakat aynı soru, belirli bir maaş tahmin algoritmasının kadınlara aynı niteliklere sahip erkeklerden sistematik olarak daha düşük teklif verdiğini ölçmez.

Böyle bir algoritmik nedensellik iddiasını doğrudan test etmek için örneğin aynı veya kontrollü özelliklere sahip kadın ve erkek aday profillerinin aynı sistemde değerlendirilmesi, çıktı farklarının ölçülmesi, örneklem büyüklüğünün belirtilmesi ve uygun istatistiksel analiz yapılması gerekebilirdi. Bu çalışma böyle bir deney gerçekleştirmemektedir.

Önerilen azaltma stratejileri

Çalışma algoritmik cinsiyet önyargısını azaltmak için birden fazla müdahaleyi birlikte önermektedir:

• Dengeli ve kapsayıcı eğitim verileri: Tarihsel eşitsizliklerin doğrudan modele taşınma riskini azaltmak.
• Düzenli önyargı denetimleri: İşe alım ve ücret algoritmalarının farklı gruplar üzerindeki sonuçlarını periyodik olarak incelemek.
• Karar şeffaflığı: Adayların ve çalışanların kararın temelini anlayabilmesine ve gerektiğinde sorgulayabilmesine olanak sağlamak.
• Çeşitli geliştirme ekipleri: Tasarım aşamasında daha geniş bakış açılarını sisteme dahil etmek.
• HR ve geliştirici eğitimi: Algoritmik önyargı risklerinin ve etik AI uygulamalarının anlaşılmasını artırmak.
• İnsan + AI yaklaşımı: AI'nın insan muhakemesini desteklemesi, fakat bağlamsal ve etik değerlendirmeyi tamamen ortadan kaldırmaması.
• Kurumsal ve dış denetim: İç etik yapıları ve gerektiğinde bağımsız incelemeleri kullanmak.

Bu stratejilerin hiçbiri mevcut çalışmada randomize deneyle karşılaştırılmamıştır. Dolayısıyla kaynak “şu müdahale önyargıyı %X azaltır” sonucunu vermemektedir.

Avrupa Birliği AI Act atfındaki kaynak problemi

Makale düzenleyici önlem örneği olarak Avrupa Birliği AI Act'i anmaktadır. Ancak ilgili cümle [8] numaralı kaynağa bağlanmış ve kaynakça [8]'i Veale ile Binns'in 2017 tarihli “Fairer machine learning in the real world: Mitigating discrimination without collecting sensitive data” çalışması olarak vermiştir. Bu nedenle PDF'nin mevcut kaynakçası AI Act ifadesi için doğrudan belge kaynağı değildir.

Bu bibliyografik uyuşmazlık nedeniyle Verianla anlatımı AI Act'in güncel hükümlerini bu makaleden çıkararak genişletmez. Çalışmanın genel önerisi olan algoritmik hesap verebilirlik ve düzenleyici gözetim korunurken, spesifik mevzuat ayrıntıları araştırmanın kendi bulgusu gibi sunulmaz.

Şirket fairness audit iddialarındaki sınır

Kaynak Google ve LinkedIn'in işe alım algoritmalarında fairness audit ve bias detection mekanizmaları kullandığını ifade etmektedir; ancak bu iddia [9] numaralı genel AI accountability çalışmasına bağlanmıştır. PDF'de söz konusu iki şirketin uygulamalarını doğrudan belgeleyen ayrı bir şirket raporu veya teknik çalışma listelenmemektedir.

Bu nedenle şirket isimleri, çalışmanın literatür anlatısında kullanılan örnekler olarak değerlendirilmelidir; mevcut kaynakça üzerinden bağımsız olarak ölçülmüş şirket performansı veya önyargı azalması sonucu çıkarılamaz.

Gelecek araştırmalar

Yazarlar gelecekte AI tabanlı insan kaynakları uygulamalarının kadınların kariyer gelişimi üzerindeki etkisinin daha ayrıntılı incelenmesini önermektedir. Önerilen konular arasında kariyer ilerlemesi, zaman içindeki maaş değişimleri ve iş tatmini bulunmaktadır.

Ayrıca farklı sektör ve bölgelerin karşılaştırılması, önyargı azaltma yöntemlerinin kontrollü deneylerle test edilmesi ve AI tabanlı insan kaynakları sistemleriyle karşılaşan kadınların kişisel deneyimlerini inceleyen nitel araştırmalar önerilmektedir. Bu öneriler özellikle mevcut anketin algı verisi ile gerçek sistem davranışı arasındaki boşluğu kapatma açısından önemlidir.

Çalışmanın Yöntemi ve Bulguları

Araştırma yaklaşımı

Çalışma nicel araştırma yaklaşımı kapsamında anket yöntemini kullanmıştır. Örneklem 65 katılımcıdan oluşmaktadır ve katılımcılar gönüllü yanıt örneklemesi yoluyla çalışmaya dahil edilmiştir. Kaynak IT, finans ve eğitim profesyonellerini özellikle belirtmektedir; sonuçlarda başka sektörlerin de temsil edildiği görülmektedir.

Anket yapısı

Anket kapalı uçlu sorulardan oluşmakta ve üç ana bölüme ayrılmaktadır:

1. Demografik bilgiler: Cinsiyet, yaş, sektör ve çalışma durumu.
2. İnsan kaynaklarında AI algısı: İşe alım ve maaş kararlarında AI kullanımı hakkındaki farkındalık ile sistemlerin adaleti ve şeffaflığına ilişkin görüşler.
3. AI önyargısı deneyimi: AI destekli işe alım ve ücret kararlarında doğrudan veya dolaylı cinsiyet önyargısı deneyimleri ve eşitsiz muamele algıları.

Etik prosedür

Kaynak, 65 katılımcının tamamının araştırmaya katılmadan önce bilgilendirilmiş onam verdiğini, katılımın gönüllü olduğunu ve kişisel bilgilerin anonimleştirildiğini belirtmektedir. Yanıtların yalnız akademik analiz amacıyla kullanıldığı ve veri gizliliğinin korunduğu ifade edilmektedir.

İstatistiksel yöntem

Yanıtlar temel betimsel istatistiklerle analiz edilmiştir. Kaynak özellikle yüzdelerin kullanıldığını; demografik kategoriler, sektörler ve temel anket cevaplarının dağılımlarının grafik ve tablolarla incelendiğini belirtmektedir.

Kaynakta inferansiyel istatistiksel test raporlanmamaktadır. Dolayısıyla:

• p değeri raporlanmamıştır,
• güven aralığı raporlanmamıştır,
• etki büyüklüğü raporlanmamıştır,
• regresyon modeli raporlanmamıştır,
• cinsiyet veya sektör grupları arasında anlamlılık testi raporlanmamıştır,
• anket ölçeği için güvenilirlik katsayısı raporlanmamıştır.

Bu nedenle “%58, %62 veya %41” gibi oranların örneklem içindeki dağılımları gösterdiği, fakat gruplar arasındaki farkların istatistiksel anlamlılığını kanıtlamadığı unutulmamalıdır.

Temel nicel sonuçlar

Şekil 1 veri tutarlılığı

Şekil 1 ve onu açıklayan metin aynı soruya ilişkin farklı yüzdeler vermektedir. Kaynakta ham veri tablosu bulunmadığı için Verianla bu farkı yeniden hesaplayarak çözemez. Özellikle toplam katılımcı sayısının 65 olması, her soruya mutlaka 65 geçerli yanıt verildiği anlamına gelmez; fakat PDF her sorunun geçerli yanıt sayısını ayrıca raporlamadığı için böyle bir açıklama da varsayılamaz.

Çalışmanın desteklediği sonuçlar

• Bu 65 kişilik örneklemde cinsiyete dayalı ücret ve terfi eşitsizliğine ilişkin belirgin kaygılar bulunmaktadır.
• Örneklemde AI tabanlı işe alım araçlarının otomatik olarak daha adil olacağı konusunda ortak ve güçlü bir güven bulunmamaktadır.
• Katılımcıların önemli bölümü AI tabanlı işe alım ve ücret sistemlerinin önyargı açısından denetlenmesini desteklemektedir.
• Makalenin literatür sentezi, geçmiş veri, model tasarımı, karar şeffaflığı ve insan kullanım biçiminin algoritmik adalet açısından önemli olduğunu ortaya koymaktadır.
• Kaynak, veri denetimi, şeffaflık, çeşitli geliştirme ekipleri, eğitim ve insan gözetimini birlikte kullanan aktif bir adalet yaklaşımını savunmaktadır.

Çalışmanın desteklemediği genellemeler

• “AI bütün kadın adaylara daha düşük maaş verir” sonucu bu çalışmada test edilmemiştir.
• “Katılımcıların %65,6'sı AI'nın kadınlara düşük ücret verdiğini gördü” sonucu çıkarılamaz; ilgili soru daha genel ücret ayrımcılığı algısıdır.
• Ücret veya terfi farklılıklarının AI tarafından nedensel olarak yaratıldığı gösterilmemiştir.
• 65 kişilik gönüllü örneklem bütün Kazakhstan iş gücünü veya başka ülkeleri temsil ettiği kabul edilemez.
• Çalışma belirli bir işe alım modelinin fairness metriğini, doğruluğunu, false-positive/false-negative oranını veya cinsiyetler arası performans farkını ölçmemektedir.
• Önerilen bias audit, dengeli veri veya human-in-the-loop müdahalelerinin bu örneklemde önyargıyı belirli bir yüzdeyle azalttığı test edilmemiştir.
• Çalışma belirli bir yasal rejimin uyumluluk değerlendirmesini yapmamaktadır.

Güçlü yönler

Çalışmanın güçlü yönlerinden biri, algoritmik önyargıyı yalnız teknik model hatası olarak değil veri, tasarım, insan kararı, örgütsel güven ve düzenleme boyutlarıyla birlikte ele almasıdır. Ayrıca araştırma, Kazakhstan bağlamında AI destekli insan kaynakları uygulamalarına ilişkin algı verisi üretmeye çalışması bakımından bölgesel bir katkı hedeflemektedir.

Temel sınırlılıklar

Örneklem büyüklüğü küçük ve gönüllü katılıma dayalıdır. Örneklem yaş açısından gençlere doğru eğimlidir; katılımcıların yaklaşık yarısı çalışmamaktadır ve kaynak açıkça bütün katılımcıların AI tabanlı İK sistemleriyle doğrudan deneyimi olmadığını belirtmektedir. Bu özellikler sonuçların geniş çalışan nüfusuna genellenmesini sınırlar.

Ayrıca çalışma yalnız temel yüzdelere dayanmaktadır. Gruplar arası farkların tesadüfi örneklem değişkenliğinden ayrılıp ayrılamayacağını gösterecek inferansiyel istatistikler bulunmamaktadır. Şekil 1 ile açıklama metni arasındaki yüzde uyuşmazlığı da nicel raporlamada ayrıca dikkat gerektirmektedir.

En önemli metodolojik sınır ise algı ölçümü ile gerçek algoritmik davranışın birbirine eşit olmamasıdır. Çalışma gerçek bir AI işe alım sistemini denetlememekte, aday çiftleri üzerinde kontrollü test yapmamakta ve maaş önerisi üreten bir modelin çıktılarını cinsiyete göre karşılaştırmamaktadır.

Kaynak ve Yöntem Notu

Özgün çalışma: AI bias and women: Addressing algorithmic discrimination in hiring and salary decisions

PDF'deki yazar sırası: Madina Tulemissova; Adeliya Yermekova; Liana Rakhimzhanova; Dilnaz Sapargaliyeva.

SSRN metadata yazar sırası: Madina Tulemissova; Liana Rakhimzhanova; Adeliya Yermekova; Dilnaz Sapargaliyeva. PDF ile SSRN arasındaki ikinci ve üçüncü yazar sırası farklıdır. Bu Verianla makalesinin başlık bölümünde yüklenen kaynak PDF'nin sırası korunmuştur.

PDF'deki kurumlar: Dört yazar da School of Creative Industries, Astana IT University, Astana, Kazakhstan olarak gösterilmektedir.

Birinci yazar bilgisi: Madina Tulemissova, PDF'de Senior Lecturer olarak belirtilmiş ve ORCID 0009-0007-0439-8932 verilmiştir.

Corresponding / contact author: PDF açıkça corresponding author işaretlememektedir. SSRN metadata Liana Rakhimzhanova'yı Contact Author olarak göstermektedir.

DOI: 10.2139/ssrn.7483742.

Platform: SSRN.

SSRN'ye gönderim: 22 Eylül 2026.

SSRN'de belirtilen “Date Written”: 12 Nisan 2025.

Kaynak türü: Araştırma makalesi/manuscript; 65 katılımcılı nicel anket ve literatür tartışması içermektedir.

Hakemlik / version-of-record durumu: Yüklenen PDF ve SSRN kaydı bu sürüm için doğrulanmış hakemli dergi version-of-record bilgisi vermemektedir. Astana IT University resmî arşivinde 2025 Digital Generation konferans bildirileri bulunmaktadır; ancak erişilebilen resmî kayıtta bu başlık doğrudan eşleştirilemediği için bu kopya kesin biçimde IEEE Xplore'da yayımlanmış hakemli konferans sürümü olarak etiketlenmemiştir.

Lisans: SSRN kaydı Creative Commons Attribution 4.0 International (CC BY 4.0) göstermektedir.

Finansman: SSRN metadata, çalışmanın herhangi bir finansman kuruluşu, ticari kuruluş veya kâr amacı gütmeyen kuruluştan özel hibe veya finansal destek almadığını belirtmektedir.

Çıkar çatışması: SSRN metadata, yazarların çalışmayı etkileyebilecek bilinen rakip finansal çıkar veya kişisel ilişki beyan etmediğini göstermektedir.

Etik: PDF katılımın gönüllü olduğunu, tüm 65 katılımcıdan bilgilendirilmiş onam alındığını ve kişisel bilgilerin anonimleştirildiğini belirtmektedir. SSRN metadata, kişisel tanımlayıcı bilgi toplanmayan anonim ve hassas olmayan anket için formal institutional ethics committee review gerekmediğini belirtmektedir.

Veri erişilebilirliği: Kaynak PDF'de ham anket veri seti veya katılımcı düzeyinde veri tablosu verilmemektedir. Bu nedenle yüzdelerden ham yanıt sayıları güvenilir biçimde yeniden oluşturulmamıştır.

Yöntem: Voluntary response sampling ile 65 katılımcı; kapalı uçlu anket; demografi, HR'de AI algısı ve AI önyargısı deneyimi olmak üzere üç soru grubu; temel betimsel istatistikler ve yüzdeler.

İstatistiksel sınır: Kaynak p değeri, güven aralığı, etki büyüklüğü, regresyon, hipotez testi veya örneklem ağırlıklandırması raporlamamaktadır.

Şekil 1 tutarsızlığı: Şeklin görünür yüzde değerleri %67,7 / %22,6 / %9,7 iken metinsel açıklama %65,6 / %25 / %9,4 vermektedir. Ham veri bulunmadığından farkın nedeni belirlenememiştir.

Çalışma durumu tutarsızlığı: Sonuçlar katılımcıların %49,2'sinin çalıştığını ve %50,8'inin çalışmadığını bildirirken tartışma bölümü katılımcıların çoğunluğunun çalıştığını ifade etmektedir. Verianla metninde nicel değerler esas alınmış ve tutarsızlık açık tutulmuştur.

Kaynakça notu: Makalenin Avrupa Birliği AI Act hakkındaki cümleleri [8]'e bağlanmaktadır; ancak kaynakça [8] Veale ve Binns'in 2017 tarihli makine öğrenmesi adaleti çalışmasıdır. Bu nedenle [8], mevcut PDF'de AI Act için doğrudan mevzuat kaynağı değildir.

Şirket örnekleri notu: Google ve LinkedIn fairness audit uygulamalarına ilişkin ifade [9] numaralı Raji ve arkadaşlarının genel AI accountability çalışmasına bağlanmaktadır; PDF'de iki şirketin uygulamalarını ayrı ayrı belgeleyen birincil kaynak bulunmamaktadır.

Bilimsel yorum sınırı: Anket sonuçları cinsiyet eşitsizliği ve AI adaleti hakkındaki katılımcı algılarını gösterir. Belirli bir AI sisteminin kadın adayları sistematik olarak dezavantajlı hale getirdiğine ilişkin doğrudan algoritmik audit veya nedensel deney yapılmamıştır.