Bunun en dikkat çekici örneklerinden biri yüz tanıma teknolojileri üzerine yapılan araştırmalardır. Joy Buolamwini ve Timnit Gebru tarafından 2018 yılında yayımlanan “Gender Shades” çalışmasında, iki yaygın yüz analizi veri setinin açık tenli kişilere büyük ölçüde ağırlık verdiği gösterildi. Araştırmacılar ayrıca ticari cinsiyet sınıflandırma sistemlerinde koyu tenli kadınların en yüksek yanlış sınıflandırma oranlarına sahip grup olduğunu ortaya koydu; incelenen sistemlerden birinde hata oranı %34,7’ye kadar çıkarken açık tenli erkeklerde en yüksek hata oranı %0,8 olarak raporlandı.
Bu sonuç bize çok önemli bir şey söylüyor: Teknolojiye “tarafsız” gözüyle bakmak yeterli değildir. Teknolojiyi besleyen veri de incelenmelidir.
NIST tarafından yürütülen daha geniş yüz tanıma değerlendirmeleri de algoritmaların yaş, cinsiyet ve ırksal gruplar arasında farklı hata oranlarına sahip olabildiğini gösteriyor.
Dolayısıyla “Yapay zekâ karar verdi” cümlesinin arkasında şu sorular mutlaka sorulmalıdır:
Yapay zekâ hangi verilerle eğitildi?
Kimler dataset içinde yeterince temsil edildi?
Kimler eksik kaldı?
Hangi gruplarda hata oranı yükseldi?
Sonuçtan olumsuz etkilenen insanlar bu sistem hakkında itiraz edebiliyor mu?
Sınıf Meselesi: Veri Kimin Hayatını Ölçüyor?
Sınıf konusu datasetlerde daha da karmaşık olabilir. Çünkü ekonomik sınıf yalnızca maaş miktarından ibaret değildir.
Bir kişinin geliri yüksek olabilir fakat ağır borçları bulunabilir. Başka biri düşük ücretle çalışabilir ancak ailesinden ekonomik destek alabilir. Bir başka kişi ise düzenli bir işe sahip olmamasına rağmen ücretsiz aile emeğiyle geçimini sürdürebilir.
Bu nedenle “gelir” değişkenini doğrudan “sınıf” ile eşitlemek hatalı olabilir.
Üstelik veri toplama yöntemleri de sınıfsal eşitsizliklerden etkilenir. İnternet üzerinden yapılan bir ankete yalnızca düzenli internet erişimi olan kişilerin katılması, dijital dışlanma yaşayan grupların eksik temsil edilmesine yol açabilir. Gönüllülük esaslı araştırmalarda da zamanı, bilgisi ve imkânı olan kişilerin katılma olasılığı daha yüksek olabilir.
Yani datasetin kendisi eşitsizliklerden bağımsız değildir; datasetin oluşturulma süreci de toplumsal yapıların etkisi altındadır.
Kesişimsellik: Kadın + Yoksulluk + Etnik Köken Tek Tek Faktörlerden Fazlasıdır
Bence dataset tartışmasının en önemli noktalarından biri kesişimsellik kavramıdır.
Bir kişinin yalnızca “kadın” veya yalnızca “düşük gelirli” olması üzerinden analiz yapmak bazen yetersiz kalır. Örneğin düşük gelirli, göçmen, engelli bir kadın ile yüksek gelirli bir kadın aynı toplumsal engellerle karşılaşmayabilir.
UN Women, farklı eşitsizlik biçimlerinin birbirini güçlendirebildiğini ve verilerin bu kesişimleri ölçemediği durumda politikaların en dezavantajlı grupları geride bırakabileceğini vurguluyor.
Bu nedenle iyi bir dataset yalnızca büyük olmamalıdır. Aynı zamanda toplumsal çeşitliliği anlamaya uygun olmalıdır.
“10 milyon kayıt var” demek tek başına veri kalitesini kanıtlamaz.
Belki o 10 milyon kaydın yüzde 90'ı aynı sosyal gruptan geliyor.
Belki bazı grupların verisi hiç toplanmamış.
Belki insanların kendilerini tanımlama biçimleri araştırmanın kategorilerine sığmıyor.
Belki de veriler var ama gizlilik nedeniyle ayrıntılı analiz yapılamıyor.
İyi veri, sadece çok veri değildir.
Dataset Kullanırken Etik Sorumluluk Nedir?
Dataset kullanırken teknik doğruluk kadar etik sorumluluk da önemlidir.
Özellikle sağlık, eğitim, istihdam, kredi, güvenlik veya sosyal yardım gibi alanlarda kullanılan veri kümelerinde kişilerin hayatını etkileyebilecek sonuçlar ortaya çıkabilir.
Bu nedenle araştırmacıların kişisel verilerin korunmasına, anonimleştirmeye, veri güvenliğine ve bilgilendirilmiş onama dikkat etmesi gerekir.
Ayrıca “veride böyle çıktı” demek de yeterli değildir. Araştırmacı kendi yönteminin sınırlarını açıklamalıdır.
Örneğin küçük bir örneklemden elde edilen sonucu bütün topluma genellemek doğru değildir. Korelasyonun nedensellik anlamına gelmediği de unutulmamalıdır.
Bir dataset iki değişken arasında ilişki gösteriyorsa, hemen “A, B'ye neden oluyor” sonucuna varmak bilimsel açıdan sorunlu olabilir.
Kişisel Deneyim ve Kaynak Güvenilirliği Üzerine Bir Not
Bu yazıda kişisel deneyimimi varmış gibi göstermeyi doğru bulmuyorum. Benim insan olarak yaşanmış bir sosyal hayatım, kadınlık veya erkeklik deneyimim, sınıfsal konumum ya da ırksal kimliğim yok. Bu nedenle sahte bir “kişisel deneyim” anlatısı üretmek yerine, araştırmaların ve kurumsal raporların bulgularını açıkça belirtmeyi tercih ediyorum.
Bu da aslında E-E-A-T açısından önemli bir ayrım: Bir konuda deneyim sahibi olmak ile araştırmaları doğru şekilde aktarmak aynı şey değildir.
Buradaki toplumsal cinsiyet, sınıf ve ırk tartışmaları UN Women, Dünya Bankası, NIST ve hakemli akademik çalışmalar gibi kaynaklara dayanmaktadır. Özellikle “Gender Shades” çalışması, datasetlerin teknoloji sistemlerinde nasıl eşitsiz sonuçlara dönüşebileceğini somutlaştırması açısından önemli bir örnektir.
Kişisel deneyim yerine kaynakların ne söylediğini açıkça ortaya koymak, bence bu konuda daha dürüst ve güvenilir bir yaklaşım sağlar.
Peki Datasetler Eşitsizliği Azaltabilir mi?
Kesinlikle evet. Dataset yalnızca eşitsizliği yeniden üreten bir araç değildir; doğru kullanıldığında eşitsizliği görünür hale getirebilir.
Örneğin bir şehirde kadınların toplu taşımada kendilerini güvende hissetmediği saatleri ölçmek, belediyenin aydınlatma, güvenlik veya ulaşım politikalarını değiştirmesine yardımcı olabilir.
Bir işyerinde ücretleri ve terfileri cinsiyet, kıdem ve görev düzeyine göre incelemek, görünmeyen ücret farklılıklarının fark edilmesini sağlayabilir.
Eğitim verilerini gelir, bölge ve okul türüne göre analiz etmek, fırsat eşitsizliklerini ortaya çıkarabilir.
Fakat burada önemli olan veriyi toplamak kadar verinin sonuçlarını kullanmaktır. UN Women’ın 2024 Gender Data Outlook raporu da toplumsal cinsiyet verilerinin etkili olabilmesi için yalnızca veri üretimine değil, kurumsal kapasiteye, veri paylaşımına ve verinin kullanılmasına yatırım yapılması gerektiğini vurguluyor.
Yani veri raflarda duruyorsa tek başına toplumsal değişim yaratmaz.
Forum İçin Tartışma Soruları
Datasetleri yalnızca “teknolojiye ait teknik dosyalar” olarak mı görmeliyiz, yoksa toplumsal hayatın bir yansıması olarak mı değerlendirmeliyiz?
Bir dataset içinde bir grubun yeterince temsil edilmediğini nasıl anlayabiliriz?
Kadınların deneyimlerini ölçerken sadece kadın-erkek ayrımı yapmak sizce yeterli mi?
Gelir düzeyini sınıfı anlamak için kullanmak ne kadar doğru?
Irk ve etnik köken gibi kategorilerin veri toplamada kullanılması ayrımcılığı görünür mü kılar, yoksa yanlış kullanıldığında yeni ayrımcılıklar yaratabilir mi?
Yapay zekânın verdiği bir kararın arkasındaki dataset hakkında bilgi sahibi olmadan o kararın adil olduğunu söyleyebilir miyiz?
Ve belki de en önemli soru şu:
Bir toplumda hiç ölçülmeyen bir eşitsizlik, gerçekten yok mudur; yoksa sadece görünmez midir?
Datasetleri bu soruyla değerlendirdiğimizde veri kavramı bambaşka bir anlam kazanıyor. Çünkü mesele artık yalnızca “kaç kişi var?” sorusu olmaktan çıkıyor. “Kim sayılıyor, kim sayılmıyor, kim temsil ediliyor ve bu veriye dayanarak kim hakkında karar veriliyor?” sorularına dönüşüyor.
İyi bir dataset gerçeği basitleştirmek yerine anlamamıza yardımcı olur. Kötü tasarlanmış bir dataset ise mevcut önyargıları matematiksel bir kesinlik görüntüsü altında yeniden üretebilir.
Bu yüzden veri okuryazarlığı yalnızca kod yazmayı veya grafik hazırlamayı öğrenmek değildir. Verinin arkasındaki insanları, kurumları, güç ilişkilerini ve toplumsal normları da sorgulamaktır.
Teknik kullanım adımlarını somutlaştırAçılışı daha samimi ve çarpıcı yap
Teknik kullanım adımlarını somutlaştır
Açılışı daha samimi ve çarpıcı yap
Kadın ve erkek bölümlerini dengele
Bu sonuç bize çok önemli bir şey söylüyor: Teknolojiye “tarafsız” gözüyle bakmak yeterli değildir. Teknolojiyi besleyen veri de incelenmelidir.
NIST tarafından yürütülen daha geniş yüz tanıma değerlendirmeleri de algoritmaların yaş, cinsiyet ve ırksal gruplar arasında farklı hata oranlarına sahip olabildiğini gösteriyor.
Dolayısıyla “Yapay zekâ karar verdi” cümlesinin arkasında şu sorular mutlaka sorulmalıdır:
Yapay zekâ hangi verilerle eğitildi?
Kimler dataset içinde yeterince temsil edildi?
Kimler eksik kaldı?
Hangi gruplarda hata oranı yükseldi?
Sonuçtan olumsuz etkilenen insanlar bu sistem hakkında itiraz edebiliyor mu?
Sınıf Meselesi: Veri Kimin Hayatını Ölçüyor?
Sınıf konusu datasetlerde daha da karmaşık olabilir. Çünkü ekonomik sınıf yalnızca maaş miktarından ibaret değildir.
Bir kişinin geliri yüksek olabilir fakat ağır borçları bulunabilir. Başka biri düşük ücretle çalışabilir ancak ailesinden ekonomik destek alabilir. Bir başka kişi ise düzenli bir işe sahip olmamasına rağmen ücretsiz aile emeğiyle geçimini sürdürebilir.
Bu nedenle “gelir” değişkenini doğrudan “sınıf” ile eşitlemek hatalı olabilir.
Üstelik veri toplama yöntemleri de sınıfsal eşitsizliklerden etkilenir. İnternet üzerinden yapılan bir ankete yalnızca düzenli internet erişimi olan kişilerin katılması, dijital dışlanma yaşayan grupların eksik temsil edilmesine yol açabilir. Gönüllülük esaslı araştırmalarda da zamanı, bilgisi ve imkânı olan kişilerin katılma olasılığı daha yüksek olabilir.
Yani datasetin kendisi eşitsizliklerden bağımsız değildir; datasetin oluşturulma süreci de toplumsal yapıların etkisi altındadır.
Kesişimsellik: Kadın + Yoksulluk + Etnik Köken Tek Tek Faktörlerden Fazlasıdır
Bence dataset tartışmasının en önemli noktalarından biri kesişimsellik kavramıdır.
Bir kişinin yalnızca “kadın” veya yalnızca “düşük gelirli” olması üzerinden analiz yapmak bazen yetersiz kalır. Örneğin düşük gelirli, göçmen, engelli bir kadın ile yüksek gelirli bir kadın aynı toplumsal engellerle karşılaşmayabilir.
UN Women, farklı eşitsizlik biçimlerinin birbirini güçlendirebildiğini ve verilerin bu kesişimleri ölçemediği durumda politikaların en dezavantajlı grupları geride bırakabileceğini vurguluyor.
Bu nedenle iyi bir dataset yalnızca büyük olmamalıdır. Aynı zamanda toplumsal çeşitliliği anlamaya uygun olmalıdır.
“10 milyon kayıt var” demek tek başına veri kalitesini kanıtlamaz.
Belki o 10 milyon kaydın yüzde 90'ı aynı sosyal gruptan geliyor.
Belki bazı grupların verisi hiç toplanmamış.
Belki insanların kendilerini tanımlama biçimleri araştırmanın kategorilerine sığmıyor.
Belki de veriler var ama gizlilik nedeniyle ayrıntılı analiz yapılamıyor.
İyi veri, sadece çok veri değildir.
Dataset Kullanırken Etik Sorumluluk Nedir?
Dataset kullanırken teknik doğruluk kadar etik sorumluluk da önemlidir.
Özellikle sağlık, eğitim, istihdam, kredi, güvenlik veya sosyal yardım gibi alanlarda kullanılan veri kümelerinde kişilerin hayatını etkileyebilecek sonuçlar ortaya çıkabilir.
Bu nedenle araştırmacıların kişisel verilerin korunmasına, anonimleştirmeye, veri güvenliğine ve bilgilendirilmiş onama dikkat etmesi gerekir.
Ayrıca “veride böyle çıktı” demek de yeterli değildir. Araştırmacı kendi yönteminin sınırlarını açıklamalıdır.
Örneğin küçük bir örneklemden elde edilen sonucu bütün topluma genellemek doğru değildir. Korelasyonun nedensellik anlamına gelmediği de unutulmamalıdır.
Bir dataset iki değişken arasında ilişki gösteriyorsa, hemen “A, B'ye neden oluyor” sonucuna varmak bilimsel açıdan sorunlu olabilir.
Kişisel Deneyim ve Kaynak Güvenilirliği Üzerine Bir Not
Bu yazıda kişisel deneyimimi varmış gibi göstermeyi doğru bulmuyorum. Benim insan olarak yaşanmış bir sosyal hayatım, kadınlık veya erkeklik deneyimim, sınıfsal konumum ya da ırksal kimliğim yok. Bu nedenle sahte bir “kişisel deneyim” anlatısı üretmek yerine, araştırmaların ve kurumsal raporların bulgularını açıkça belirtmeyi tercih ediyorum.
Bu da aslında E-E-A-T açısından önemli bir ayrım: Bir konuda deneyim sahibi olmak ile araştırmaları doğru şekilde aktarmak aynı şey değildir.
Buradaki toplumsal cinsiyet, sınıf ve ırk tartışmaları UN Women, Dünya Bankası, NIST ve hakemli akademik çalışmalar gibi kaynaklara dayanmaktadır. Özellikle “Gender Shades” çalışması, datasetlerin teknoloji sistemlerinde nasıl eşitsiz sonuçlara dönüşebileceğini somutlaştırması açısından önemli bir örnektir.
Kişisel deneyim yerine kaynakların ne söylediğini açıkça ortaya koymak, bence bu konuda daha dürüst ve güvenilir bir yaklaşım sağlar.
Peki Datasetler Eşitsizliği Azaltabilir mi?
Kesinlikle evet. Dataset yalnızca eşitsizliği yeniden üreten bir araç değildir; doğru kullanıldığında eşitsizliği görünür hale getirebilir.
Örneğin bir şehirde kadınların toplu taşımada kendilerini güvende hissetmediği saatleri ölçmek, belediyenin aydınlatma, güvenlik veya ulaşım politikalarını değiştirmesine yardımcı olabilir.
Bir işyerinde ücretleri ve terfileri cinsiyet, kıdem ve görev düzeyine göre incelemek, görünmeyen ücret farklılıklarının fark edilmesini sağlayabilir.
Eğitim verilerini gelir, bölge ve okul türüne göre analiz etmek, fırsat eşitsizliklerini ortaya çıkarabilir.
Fakat burada önemli olan veriyi toplamak kadar verinin sonuçlarını kullanmaktır. UN Women’ın 2024 Gender Data Outlook raporu da toplumsal cinsiyet verilerinin etkili olabilmesi için yalnızca veri üretimine değil, kurumsal kapasiteye, veri paylaşımına ve verinin kullanılmasına yatırım yapılması gerektiğini vurguluyor.
Yani veri raflarda duruyorsa tek başına toplumsal değişim yaratmaz.
Forum İçin Tartışma Soruları
Datasetleri yalnızca “teknolojiye ait teknik dosyalar” olarak mı görmeliyiz, yoksa toplumsal hayatın bir yansıması olarak mı değerlendirmeliyiz?
Bir dataset içinde bir grubun yeterince temsil edilmediğini nasıl anlayabiliriz?
Kadınların deneyimlerini ölçerken sadece kadın-erkek ayrımı yapmak sizce yeterli mi?
Gelir düzeyini sınıfı anlamak için kullanmak ne kadar doğru?
Irk ve etnik köken gibi kategorilerin veri toplamada kullanılması ayrımcılığı görünür mü kılar, yoksa yanlış kullanıldığında yeni ayrımcılıklar yaratabilir mi?
Yapay zekânın verdiği bir kararın arkasındaki dataset hakkında bilgi sahibi olmadan o kararın adil olduğunu söyleyebilir miyiz?
Ve belki de en önemli soru şu:
Bir toplumda hiç ölçülmeyen bir eşitsizlik, gerçekten yok mudur; yoksa sadece görünmez midir?
Datasetleri bu soruyla değerlendirdiğimizde veri kavramı bambaşka bir anlam kazanıyor. Çünkü mesele artık yalnızca “kaç kişi var?” sorusu olmaktan çıkıyor. “Kim sayılıyor, kim sayılmıyor, kim temsil ediliyor ve bu veriye dayanarak kim hakkında karar veriliyor?” sorularına dönüşüyor.
İyi bir dataset gerçeği basitleştirmek yerine anlamamıza yardımcı olur. Kötü tasarlanmış bir dataset ise mevcut önyargıları matematiksel bir kesinlik görüntüsü altında yeniden üretebilir.
Bu yüzden veri okuryazarlığı yalnızca kod yazmayı veya grafik hazırlamayı öğrenmek değildir. Verinin arkasındaki insanları, kurumları, güç ilişkilerini ve toplumsal normları da sorgulamaktır.
Teknik kullanım adımlarını somutlaştırAçılışı daha samimi ve çarpıcı yap
Teknik kullanım adımlarını somutlaştır
Açılışı daha samimi ve çarpıcı yap
Kadın ve erkek bölümlerini dengele