Algoritmik Yanlılık Nedir? Örnekler ve Önlemler

Basira Editör Ekibi · · 10 dk okuma · Bilimsel inceleme: Doç. Dr. Hasan Yıldırım

Aa Yazı boyutu
Yazı boyutu

Anahtar çıkarımlar

  • Algoritmik yanlılık, bir algoritmanın ya da makine öğrenmesi modelinin çıktılarının belirli kişi gruplarını sistematik olarak dezavantajlı duruma düşürmesidir; kaynağı çoğu zaman veri, ölçüm ve kullanım biçimidir.
  • Yanlılık veri toplamadan kullanıma kadar yedi ayrı yerden girebilir: tarihsel, temsil, ölçüm, birleştirme, öğrenme, değerlendirme ve kullanım yanlılığı (Suresh ve Guttag, 2021).
  • Başlıca grup adalet ölçütleri bağımsızlık (eşit kabul oranı), ayrışma (eşit hata oranları) ve yeterliliktir (gruba göre kalibrasyon); gruplar arasında sonucun yaygınlığı farklıysa bunlar, tahmin hatasız olmadıkça, aynı anda sağlanamaz.
  • Duyarlı değişkeni modelden çıkarmak yanlılığı gidermez; öteki değişkenler aynı bilgiyi taşıyabilir. Etkili önlemler hedefin doğru tanımlanması, temsili veri ve başarının alt gruplara ayrılarak raporlanmasıdır.
  • AB Yapay Zekâ Yasası yüksek riskli sistemlerin verilerinin yanlılık bakımından incelenmesini ister; Ek III'teki sistemler için bu kurallar Kasım 2026 itibarıyla 2 Aralık 2027'den uygulanacaktır.

İçindekiler

İçindekiler

Algoritmik yanlılık, bir algoritmanın ya da makine öğrenmesi modelinin çıktılarının belirli kişi gruplarını (cinsiyete, ten rengine ya da etnik kökene göre) sistematik olarak dezavantajlı duruma düşürmesidir. Kaynağı çoğu zaman algoritmanın kendisi değil; geçmiş kararları yansıtan veri, yanlış seçilmiş bir ölçüm ya da modelin nasıl kullanıldığıdır.

Bu konu, makine öğrenmesi modelleri sağlık, kredi, işe alım ve eğitim gibi kişiler hakkında karar verilen alanlara girdikçe önem kazandı. Aşağıda önce kavram tanımlanıyor, sonra yanlılığın nereden girdiği, iyi belgelenmiş örnekler, adalet ölçütleri ve bu ölçütlerin neden aynı anda sağlanamadığı, önlemler ve hukuki çerçeve anlatılıyor. Yapay zekânın genel tanımı ve alt dalları yapay zekâ nedir yazısındadır.

Algoritmik yanlılık nedir?

“Algoritmik yanlılık” tek ve kesin bir tanımı olan bir terim değildir. Suresh ve Guttag (2021), “algoritmik yanlılık” ya da “veri yanlılığı” gibi belirsiz terimleri, makine öğrenmesinin yaşam döngüsündeki ayrı zarar kaynaklarına ayırmayı önerir. Ortak nokta şudur: sistemin hataları ya da sağladığı yararlar gruplar arasında haksız biçimde farklılaşır ve bu fark rastlantısal değil, sistematiktir.

Kavram, istatistikteki yanlılıkla aynı şey değildir ama onunla akrabadır. İstatistikte yanlılık, bir kestiricinin ortalamada gerçek değerden sapmasıdır. Örneklemede ise seçim, kapsam ve yanıtsızlık yanlılığı, örneklemin kitleyi sistematik olarak yanlış temsil etmesidir; bu türler örnekleme yöntemleri yazısında anlatılır. Algoritmik yanlılık bu tür veri sorunlarından doğabilir, ama asıl ölçütü bir kitle parametresinin yanlış kestirilmesi değil, kişiler hakkında verilen kararların gruplar arasında adil olup olmadığıdır.

Yanlılık bir niyet gerektirmez. Duyarlı değişkeni (cinsiyet, etnik köken) hiç kullanmayan bir model de yanlı olabilir. Barocas vd. (2023), büyük değişken kümelerinde duyarlı özelliğin öteki değişkenlerden çoğu zaman yeniden çıkarılabildiğini, bu yüzden onu modelden çıkarmanın (“farkında olmayarak adalet”) etkisiz kalabileceğini belirtir.

Algoritmik yanlılık nereden kaynaklanır?

Suresh ve Guttag (2021), veri toplamadan kullanıma kadar yedi ayrı zarar kaynağı tanımlar. Bu ayrım önlemi seçmek için önemlidir: her kaynağın çaresi farklıdır.

KaynakNe olur?
Tarihsel yanlılıkVeri kusursuz ölçülüp örneklense bile dünyanın kendisi zararlı sonuç üretir
Temsil yanlılığıGeliştirme örneklemi kitlenin bir kesimini az temsil eder
Ölçüm yanlılığıÖlçülemeyen bir kavramın yerine konan vekil değişken kötü seçilir ya da gruplar arasında farklı üretilir
Birleştirme yanlılığıFarklı alt grupları olan veriye herkes için tek bir model kurulur
Öğrenme yanlılığıModelleme seçimleri gruplar arasındaki başarı farkını büyütür
Değerlendirme yanlılığıBaşarının ölçüldüğü veri ya da ölçüt kullanım kitlesini temsil etmez
Kullanım yanlılığıModel, tasarlandığı sorundan farklı bir biçimde kullanılır

Her kaynağın bir örneği vardır:

  • Tarihsel yanlılık: Geçmiş işe alım kararlarından öğrenen model, o kararlardaki ayrımcılığı sürdürür.
  • Temsil yanlılığı: Açık tenli yüzlerin ağırlıkta olduğu yüz görüntüsü veri setleri.
  • Ölçüm yanlılığı: Sağlık ihtiyacının yerine sağlık harcamasının kullanılması.
  • Birleştirme yanlılığı: Benzer hastalığın kadınlarda ve erkeklerde farklı seyretmesi.
  • Öğrenme yanlılığı: Yalnız genel doğruluğu en büyük yapan amaç fonksiyonu.
  • Değerlendirme yanlılığı: Toplam doğruluğun alt gruplardaki düşük başarıyı gizlemesi.
  • Kullanım yanlılığı: Karar destek aracının fiilen tek başına karar verici olması.

Tablonun ilk üç satırı veri oluşumundan, sonraki üçü modelin kurulması ve değerlendirilmesinden, sonuncusu kullanımdan kaynaklanır. Ölçüm yanlılığı araştırmacıya en tanıdık olanıdır: bir etiket ya da değişken, doğrudan gözlenemeyen bir kavramın (kredi değerliliği, sağlık ihtiyacı, başarı) somut bir vekilidir ve vekil gruplar arasında aynı biçimde üretilmiyorsa model bu farkı öğrenir (Suresh ve Guttag, 2021).

Algoritmik yanlılık örnekleri

Aşağıdaki üç örnek hakemli dergilerde ve konferans bildirilerinde yayımlanmış, alanda sık anılan çalışmalardır. Her biri farklı bir kaynağı gösterir.

Sağlıkta yanlış vekil: harcama ihtiyacın yerine konunca

Obermeyer vd. (2019), ABD’de karmaşık sağlık ihtiyacı olan hastaları ek bakım programlarına yönlendirmek için kullanılan ve milyonlarca hastayı etkileyen yaygın bir ticari algoritmayı incelemiştir. Aynı risk puanını alan siyahi hastalar, kontrol altına alınamamış hastalık belirtilerine göre beyaz hastalardan belirgin biçimde daha hastaydı. Bu eşitsizlik giderilseydi ek yardım alan siyahi hastaların oranı %17,7’den %46,5’e çıkacaktı.

Yanlılığın nedeni bir ölçüm seçimiydi: algoritma hastalığı değil, sağlık harcamasını tahmin ediyordu. Bakıma erişim eşit olmadığı için aynı ihtiyaçtaki siyahi hastalar için daha az harcama yapılıyordu. Harcama, bazı tahmin başarısı ölçütlerine göre sağlığın iyi bir vekili gibi görünse de büyük bir yanlılık üretti.

Dikkat

Yazarlar, kolay ve görünüşte etkili vekil seçiminin birçok bağlamda algoritmik yanlılığın önemli bir kaynağı olabileceğini vurgular. Hedef, harcama yerine sağlık ihtiyacını yansıtacak biçimde yeniden tanımlandığında ek bakıma alınacak hastaların seçimindeki ırksal yanlılık azalır (Obermeyer vd., 2019).

Yüz analizinde temsil: Gender Shades

Buolamwini ve Gebru (2018), iki yaygın yüz analizi veri setinin (IJB-A ve Adience) büyük çoğunluğunun açık tenli kişilerden oluştuğunu (sırasıyla %79,6 ve %86,2) saptamıştır. Yazarlar cinsiyet ve deri tipine (Fitzpatrick sınıflaması) göre dengelenmiş yeni bir veri seti kurup üç ticari cinsiyet sınıflandırma sistemini sınamıştır. En çok yanlış sınıflandırılan grup koyu tenli kadınlardı ve hata oranı %34,7’ye kadar çıkıyordu; açık tenli erkeklerde en yüksek hata oranı %0,8’di.

Bu çalışma iki ders verir. Birincisi temsil yanlılığıdır: model, az gördüğü gruplarda daha kötü çalışır. İkincisi değerlendirmeyle ilgilidir: hatalar yalnız cinsiyete ya da yalnız ten rengine göre ayrıldığında değil, ikisinin kesiştiği alt gruplarda en belirgin hâle gelir. Toplam doğruluk bu farkı gizler.

Ceza adaletinde risk puanları

ABD’de tutukluluk, şartlı tahliye ve ceza kararlarında yeniden suç işleme olasılığını tahmin eden araçlar kullanılır. Dressel ve Farid (2018), yaygın bir ticari araç olan COMPAS’ın, ceza adaleti alanında uzmanlığı az olan ya da hiç olmayan kişilerin tahminlerinden daha doğru ya da daha adil olmadığını; yalnız iki değişkenli basit doğrusal bir tahmin modelinin, 137 değişken kullanan COMPAS’a neredeyse eşdeğer sonuç verdiğini göstermiştir.

Bu araçlar hakkındaki kamusal tartışma, farklı adalet tanımları arasındaki gerilimi görünür kıldı (Chouldechova, 2017; Kleinberg vd., 2017). Bir taraf, aynı risk puanının iki grupta aynı anlama gelmesine bakıyordu; öteki taraf, sonradan suç işlemeyen kişilerin iki grupta aynı sıklıkla yüksek riskli sayılıp sayılmadığına. Aşağıdaki iki bölüm bu iki bakışın neden aynı anda sağlanamadığını anlatır.

Adalet ölçütleri nelerdir?

Bir sınıflandırıcının adil olup olmadığını sınamak için önerilen grup ölçütlerinin çoğu üç temel koşula indirgenebilir (Barocas vd., 2023). Gösterimde RR modelin puanı ya da kararı, AA duyarlı özellik (grup), YY gerçekleşen sonuçtur. Sınıflandırma başarısının ölçütleri ve karmaşıklık matrisi makine öğrenmesinde sınıflandırma yazısında anlatılır.

Ölçüt (başka adı)KoşulSorduğu soru
Bağımsızlık (demografik eşitlik)R⊥AR \perp AOlumlu karar (kabul) oranı bütün gruplarda aynı mı?
Ayrışma (eşit hata oranları, equalized odds)R⊥A∣YR \perp A \mid YGerçek sonucu aynı olan kişilerde yanlış pozitif ve yanlış negatif oranları gruplar arasında aynı mı?
Eşit fırsat (ayrışmanın yalnız olumlu sınıftaki biçimi; Hardt vd., 2016)R⊥A∣Y=1R \perp A \mid Y = 1Gerçekte olumlu olan kişilerde doğru pozitif oranı gruplar arasında aynı mı?
Yeterlilik (gruba göre kalibrasyon)Y⊥A∣RY \perp A \mid RAynı puanı alan kişilerde sonucun gerçekleşme olasılığı gruptan bağımsız mı?

Bağımsızlık, gerçek sonuçtaki grup farkını hesaba katmaz; gruplar arasında sonucun yaygınlığı gerçekten farklıysa doğru tahmin yapan bir model bile bu ölçütü bozar. Ayrışma, hataların yükünün gruplar arasında eşit dağılmasını ister. Yeterlilik ise puanın her grupta aynı anlama gelmesini ister: “%30 risk” diyen bir puan iki grupta da gerçekte yaklaşık %30 sıklıkla olumsuz sonuca karşılık gelmelidir (Barocas vd., 2023).

Bu ölçütlerin hepsi grup düzeyindedir. Dwork vd. (2012) bunun yerine bireysel adaleti önerir: göreve özgü bir benzerlik ölçüsüne göre birbirine benzeyen kişilere benzer davranılmalıdır. Bu yaklaşımın güçlüğü, “benzer kişi” tanımının kendisinin bir değer yargısı olmasıdır.

Adalet ölçütleri neden aynı anda sağlanamaz?

Kleinberg vd. (2017), risk puanları için üç koşulu biçimsel olarak tanımlamıştır: grup içinde kalibrasyon, olumlu sınıf için denge (sonucu olumlu olan kişilerin ortalama puanının iki grupta aynı olması) ve olumsuz sınıf için denge. Kanıtladıkları teoreme göre üç koşul ancak iki özel durumda birlikte sağlanabilir: tahmin hatasızsa ya da iki grupta sonucun taban oranı (yaygınlığı) aynıysa. Koşulların yaklaşık olarak sağlanması bile verinin bu özel durumlardan birine yakın olmasını gerektirir.

Chouldechova (2017) aynı sonuca ikili kararlar için ulaşır: sonucun yaygınlığı gruplar arasında farklıysa ölçütler aynı anda sağlanamaz. Nedeni karmaşıklık matrisinin tanımlarından çıkan şu özdeşlikte görülür:

YPO=p1−p⋅1−PKDPKD⋅(1−YNO)\mathrm{YPO} = \frac{p}{1-p} \cdot \frac{1-\mathrm{PKD}}{\mathrm{PKD}} \cdot \left(1-\mathrm{YNO}\right)

Burada pp gruptaki taban oranı, PKD pozitif kestirim değeri (kesinlik; modelin olumlu dediklerinden gerçekten olumlu olanların oranı), YNO yanlış negatif oranı, YPO yanlış pozitif oranıdır. İki grupta kesinlik eşitse (ve ne 0 ne de 1 ise) ama pp farklıysa, yanlış pozitif ve yanlış negatif oranları aynı anda eşit olamaz. Chouldechova (2017), hata oranı dengesi sağlanmadığında grupların farklı biçimde etkilenebileceğini gösterir.

İpucu

Bu sonuçların pratik anlamı şudur: hangi ölçütün korunacağı istatistiksel değil, kararın bağlamına bağlı bir değer seçimidir. Bir hastalık taramasında kaçırılan hastanın bedeli ile gereksiz tetkikin bedeli, bir kredi kararında haksız retle yanlış onayın bedeli aynı değildir. Bu yüzden araştırmacı tek bir “adil model” ilan etmek yerine hangi ölçütü neden seçtiğini yazmalı ve öteki ölçütlerin değerini de raporlamalıdır.

Algoritmik yanlılık nasıl önlenir?

Yanlılık tek bir düzeltmeyle giderilmez; yaşam döngüsünün her aşamasında ayrı soru sorulur. Araştırmacı için başlıca adımlar şunlardır:

  1. Hedefi ve vekili sorgulayın. Tahmin edilen değişken gerçekten ilgilenilen kavram mı, yoksa onun kolay ölçülen bir vekili mi? Obermeyer vd. (2019) örneğinde sorun algoritmada değil hedefin seçimindeydi.
  2. Verinin kimi temsil ettiğini belgeleyin. Örneklemdeki grupların dağılımı, modelin kullanılacağı kitleyle karşılaştırılır; az temsil edilen gruplar raporlanır.
  3. Başarıyı alt gruplara ayırarak raporlayın. Doğruluk, duyarlılık, yanlış pozitif oranı ve kalibrasyon her grup ve uygun olduğunda grupların kesişimleri için ayrı verilir. Mitchell vd. (2019) bu bilgilerin, modelin amaçlanan kullanımıyla birlikte “model kartı” denen kısa bir belgede sunulmasını önerir.
  4. Duyarlı değişkeni çıkarmakla yetinmeyin. Öteki değişkenler aynı bilgiyi taşıyabilir (Barocas vd., 2023); yanlılığı ölçebilmek için grup bilgisi çoğu zaman değerlendirmede gereklidir.
  5. Müdahalenin yerini seçin. Müdahale verinin hazırlanmasında, modelin eğitiminde ya da eğitilmiş modelin çıktısında yapılabilir (Barocas vd., 2023). Kamiran ve Calders (2012) ilk yol için duyarlı özelliği çıkarmayı, bazı etiketleri değiştirmeyi ve gözlemleri yeniden ağırlıklandırmayı ya da yeniden örneklemeyi inceler ve geliştirir.
  6. Kullanımı izleyin. Model, tasarlandığı karar sürecinde mi kullanılıyor? Karar destek aracı fiilen tek başına karar veriyorsa ya da kitle zamanla değiştiyse değerlendirme yenilenir.

Bu adımlar, modelin başarısını abartan veri sızıntısı denetimleriyle birlikte yürütülür.

Tezde nasıl yazılır

Tezde ya da makalede hangi grupların nasıl tanımlandığı, hangi adalet ölçütlerinin neden seçildiği ve alt grup sonuçları yöntem ve bulgular bölümlerinde açıkça yazılır.

Algoritmik yanlılık ve hukuk: AB Yapay Zekâ Yasası ne diyor?

Avrupa Birliği’nin Yapay Zekâ Yasası (Tüzük (AB) 2024/1689), yüksek riskli sistemlerin eğitim, doğrulama ve test verileri için açık yükümlülükler koyar. 10. maddeye göre bu veriler, kişilerin sağlığını ve güvenliğini etkileyebilecek, temel haklar üzerinde olumsuz etki yaratabilecek ya da AB hukukunun yasakladığı ayrımcılığa yol açabilecek yanlılıklar bakımından incelenir; bulunan yanlılıkları saptamak, önlemek ve azaltmak için uygun önlemler alınır.

Veri setleri amaca göre ilgili, yeterince temsili ve olabildiğince hatasız ve eksiksiz olmalıdır (Avrupa Birliği, 2024, md. 10).

Kişilerin kredi değerliliğini değerlendiren, işe alımda adayları eleyen ya da eğitime kabulde kullanılan sistemler yüksek riskli sayılır (Avrupa Birliği, 2024, Ek III). Avrupa Komisyonu’na göre yasa 2 Ağustos 2026’da bazı istisnalarla uygulanır hâle geldi; Ek III’teki yüksek riskli sistemlere ilişkin kurallar ise 2 Aralık 2027’den, düzenlenen ürünlere gömülü sistemler (Ek I) için 2 Ağustos 2028’den itibaren uygulanacak (Avrupa Komisyonu, 2026; Kasım 2026 itibarıyla).

Yanlılığı ölçmek çoğu zaman grup bilgisini gerektirir; oysa etnik köken ya da sağlık gibi bilgiler özel nitelikli kişisel veridir. Yasa bu yüzden, yalnız yanlılığın saptanması ve düzeltilmesi için kesinlikle gerekli olduğu ölçüde ve sıkı güvencelerle bu verilerin istisnai olarak işlenmesine izin verir: amaç sentetik ya da anonim veriyle karşılanamıyor olmalı, veri takma adlandırma gibi önlemlerle korunmalı, başkalarına aktarılmamalı ve yanlılık düzeltilince silinmelidir.

2026’daki değişiklik tüzüğü bu hükmü yeni 4a maddesine taşıdı ve öteki yapay zekâ sistemlerinin sağlayıcılarını ve uygulayıcılarını da kapsayacak biçimde genişletti (Avrupa Birliği, 2026).

Türkiye’de ırk, etnik köken, sağlık, biyometrik ve genetik veriler 6698 sayılı Kişisel Verilerin Korunması Kanunu’nun 6. maddesine göre özel nitelikli kişisel veridir ve işlenmeleri kanundaki şartlara bağlıdır. Bu verileri toplayan bir araştırmada izinler ve aydınlatılmış onam etik kurul başvurusu aşamasında planlanır.

Sık sorulan sorular

Algoritmik yanlılık ile istatistikteki yanlılık aynı şey mi?

Hayır. İstatistikte yanlılık, bir kestiricinin ortalamada gerçek değerden sapmasıdır; örneklem varyansında n yerine n − 1’e bölünmesinin nedeni budur (dağılım ölçüleri). Algoritmik yanlılık ise kişiler hakkında verilen kararların gruplar arasında sistematik olarak farklılaşmasıdır. Örneklemedeki seçim ve kapsam yanlılığı algoritmik yanlılığın kaynaklarından biri olabilir.

Cinsiyet ya da etnik köken değişkenini modelden çıkarmak yanlılığı giderir mi?

Çoğu zaman gidermez. Posta kodu, okul ya da harcama gibi değişkenler duyarlı özelliği dolaylı olarak taşıyabilir ve model aynı bilgiyi bunlardan öğrenir (Barocas vd., 2023). Ayrıca grup bilgisi silinirse yanlılığın varlığı da ölçülemez hâle gelir.

Hangi adalet ölçütü seçilmeli?

Tek bir doğru ölçüt yoktur. Sonucun yaygınlığı gruplar arasında farklıysa kalibrasyon ve eşit hata oranları birlikte sağlanamaz (Kleinberg vd., 2017; Chouldechova, 2017). Seçim, hangi hatanın kimin için daha ağır sonuç doğurduğuna bağlıdır; gerekçesi yazılır ve öteki ölçütlerin değeri de raporlanır.

Yüksek doğruluklu bir model yanlı olabilir mi?

Evet. Toplam doğruluk, küçük bir alt gruptaki yüksek hata oranını gizleyebilir (Buolamwini ve Gebru, 2018). Obermeyer vd. (2019) örneğinde de harcama, bazı tahmin başarısı ölçütlerine göre iyi bir vekil gibi görünürken büyük bir yanlılık üretmiştir.

Algoritmik yanlılık yalnız yapay zekâda mı görülür?

Hayır. Elle yazılmış bir puanlama kuralı ya da basit bir regresyon modeli de aynı sorunları taşıyabilir; sorun çoğu zaman yöntemin karmaşıklığında değil, veride, hedefin seçiminde ve kullanımdadır. Dil modelleriyle yapılan analizlerin kendine özgü sınırları yapay zekâ ile veri analizi yazısında ele alınır.

Veri sızıntısı ile algoritmik yanlılık arasındaki fark nedir?

Veri sızıntısı, modelin tahmin anında bilemeyeceği bir bilginin eğitime karışmasıdır ve başarıyı herkes için olduğundan yüksek gösterir. Algoritmik yanlılık ise başarının ya da hataların gruplar arasında haksız biçimde dağılmasıdır. Bir model sızıntısız olup yine de yanlı olabilir; iki denetim ayrı ayrı yapılır.

  • #yapay-zeka
  • #makine-ogrenmesi
  • #model-degerlendirme
  • #algoritmik-yanlilik

Bilimsel inceleme

Doç. Dr. Hasan Yıldırım

Karamanoğlu Mehmetbey Üniversitesi Öğretim Üyesi

İnceleme tarihi:

Makine öğrenmesi ve biyoistatistik alanlarında çalışır; sağlık, fen ve sosyal bilimlerde disiplinlerarası araştırmalarda istatistik danışmanlığı yürütür.

Kaynakça

  1. Avrupa Birliği. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union, L, 2024/1689.
  2. Avrupa Birliği. (2026). Regulation (EU) 2026/1744 of the European Parliament and of the Council of 8 July 2026 amending Regulations (EU) 2024/1689, (EU) 2018/1139 and (EU) 2023/1230 as regards the simplification of the implementation of harmonised rules on artificial intelligence (Digital Omnibus on AI). Official Journal of the European Union, L, 2026/1744.
  3. Avrupa Komisyonu. (2026). AI Act: Regulatory framework for AI. 6 Kasım 2026'da erişildi.
  4. Barocas, S., Hardt, M., & Narayanan, A. (2023). Fairness and machine learning: Limitations and opportunities. MIT Press.
  5. Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. In S. A. Friedler & C. Wilson (Eds.), Proceedings of the 1st Conference on Fairness, Accountability and Transparency (Proceedings of Machine Learning Research, Vol. 81, pp. 77–91). PMLR.
  6. Chouldechova, A. (2017). Fair prediction with disparate impact: A study of bias in recidivism prediction instruments. Big Data, 5(2), 153–163.
  7. Dressel, J., & Farid, H. (2018). The accuracy, fairness, and limits of predicting recidivism. Science Advances, 4(1), eaao5580.
  8. Dwork, C., Hardt, M., Pitassi, T., Reingold, O., & Zemel, R. (2012). Fairness through awareness. In Proceedings of the 3rd Innovations in Theoretical Computer Science Conference (pp. 214–226). Association for Computing Machinery.
  9. Hardt, M., Price, E., & Srebro, N. (2016). Equality of opportunity in supervised learning. In Advances in Neural Information Processing Systems 29 (NIPS 2016).
  10. Kamiran, F., & Calders, T. (2012). Data preprocessing techniques for classification without discrimination. Knowledge and Information Systems, 33(1), 1–33.
  11. Kleinberg, J., Mullainathan, S., & Raghavan, M. (2017). Inherent trade-offs in the fair determination of risk scores. In C. H. Papadimitriou (Ed.), 8th Innovations in Theoretical Computer Science Conference (ITCS 2017) (Leibniz International Proceedings in Informatics, Vol. 67, pp. 43:1–43:23). Schloss Dagstuhl–Leibniz-Zentrum für Informatik.
  12. Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., Spitzer, E., Raji, I. D., & Gebru, T. (2019). Model cards for model reporting. In Proceedings of the Conference on Fairness, Accountability, and Transparency (pp. 220–229). Association for Computing Machinery.
  13. Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447–453.
  14. Suresh, H., & Guttag, J. (2021). A framework for understanding sources of harm throughout the machine learning life cycle. In Equity and Access in Algorithms, Mechanisms, and Optimization (EAAMO '21) (pp. 1–9). Association for Computing Machinery.
  15. 6698 sayılı Kişisel Verilerin Korunması Kanunu. (2016). Resmî Gazete, 29677.

Kendi verinizde görün

Kavramı kendi verinizde görmek isterseniz Basira’yı ücretsiz deneyebilirsiniz. Basira’yı deneyin

Kavramı kendi verinizde görmek isterseniz panelinize dönebilirsiniz. Panele git

İlgili yazılar