Yapay zekâ beslendiği verilere göre taraf tutabiliyor.
Geçmişte insanlar tarafından oluşturulan veriler, geçmiş kararların veya toplumsal eşitsizliklerin izlerini taşıyorsa, yapay zekâ da bu örüntüleri öğrenebiliyor. Yapay zekâ verilerin neden bu şekilde oluştuğunu sorgulamaz; veriler arasındaki ilişkileri öğrenir. Bu nedenle veri kalitesi ve veri tarafsızlığı, günümüzde yapay zekânın güvenilirliği açısından en önemli konular arasında yer almakta.
Peki veriler neden taraflı olabilir?
Toplumdaki
ekonomik ve sosyal eşitsizlikler,
cinsiyet ayrımcılığı,
bölgesel hizmet farklılıkları,
sağlık hizmetlerine erişimdeki adaletsizlikler veya
belirli grupların veri setlerinde yeterince temsil edilmemesi
zamanla veri tabanlarına yansıyabilir. Yapay zekâ ise bunları hatalı ya da adaletsiz olarak değerlendirmez; öğrendiği kalıpları yeni kararlarında kullanır.
Amazon'un işe alım sistemi en iyi örneklerdendir. Şirket, özgeçmişleri değerlendirmek için geliştirdiği yapay zekâyı geçmiş işe alım verileriyle eğitmiş. Teknoloji sektöründe geçmişte işe alınan çalışanların çoğu erkek olduğu için sistem de erkek adayları daha başarılı olarak öğrenmeye başlamış. Kadın adaylara ait bazı özgeçmişleri daha düşük puanlamış. Bu fark edilince Amazon sistemi kullanımdan kaldırmış.
Benzer bir örnek sağlık alanında yaşanmış. 2019 yılında Science dergisinde önemli bir araştırma yayınlandı. Milyonlarca hastayı değerlendiren bir yapay zekâ algoritmasının siyahi hastaların sağlık ihtiyaçlarını olduğundan düşük tahmin ettiğini ortaya koymakta. Algoritma hastalık düzeyini değil, geçmiş sağlık harcamalarını temel alıyormuş. Tarihsel eşitsizlikler nedeniyle siyahi hastalara daha az sağlık harcaması yapılmış olması, algoritmanın onları daha düşük riskli olarak değerlendirmesine yol açmış. Aynı hastalık yüküne sahip beyaz hastalar daha yüksek öncelik alırken, birçok siyahi hasta ihtiyaç duyduğu bakım programlarının dışında kalıyormuş.
Sorun algoritmada değil, geçmiş insan kararlarını yansıtan verilerdeki sistematik yanlılığın öğrenilmesindedir. Amazon örneğinde yapay zekâ, erkek adayları daha uygun görmeyi öğrenmiştir. Bazı sağlık uygulamalarında ise siyahi hastalara randevu ve bakım önceliği verilmesinde eşitsizlikler oluşmuştur.
Yapay zekâdaki önyargılar yalnızca bu iki örnekle sınırlı değil.
MIT Media Lab'de yürütülen Gender Shades (Cinsiyet ve Ten Rengi) araştırması, bazı yüz tanıma sistemlerinin koyu tenli kadınlarda açık tenli erkeklere göre çok daha yüksek hata yaptığını göstermiştir. Bunun nedeni, eğitim verilerinde açık tenli erkeklerin daha fazla, koyu tenli kadınların ise daha az yer almasıdır. Sonuç olarak yapay zekâ, yeterince temsil edilmeyen grupların yüzlerini tanımada ve cinsiyetlerini doğru sınıflandırmada daha fazla hata yapmıştır.
Benzer sorunlar kredi değerlendirme, sigortacılık ve suç tahmin sistemlerinde de gözlenmiştir.
Bu örnekler, yapay zekâya güvenilmemesi gerektiğini değil, güvenilir yapay zekâ geliştirmenin yalnız iyi algoritmalarla mümkün olmadığını göstermektedir. Günümüzde güvenilir yapay zekâ için veri kalitesi ve veri yönetişimi temel gereklilikler arasında görülmektedir.
Sonuç olarak sorun yapay zekânın düşünme biçiminde değil, beslendiği verilerdedir. Yapay zekâ, geçmişteki sistematik yanlılıkları öğrenebilir ve bunları gelecekteki kararlarına taşıyabilir. Bu nedenle Yapay zekâ çağında güvenin temeli yalnızca teknoloji değil; güvenilir, kaliteli ve tarafsız veridir.
