Kod KâşifiMERAK ET. DENE. KEŞFET.Bir şey öğren

Yayıncı: Kod Kâşifi · Düzeltme bildir

Yapay zekâ ve önyargı: makineler de yanılır

Yapay zekâ hesap yaparken hata yaparsa düzeltilebilir. Ama insanlar hakkında yanlış sonuçlar üretirse bu çok daha ciddi bir sorundur.

Eksik örneklerle eğitilmiş ayırma düzeneğinin terazisini ekip birlikte düzeltiyor.
Eksik ya da dengesiz örnekler, yapay zekânın bazı kişilere haksız davranmasına yol açabilir. Kod Kâşifi için üretilen yapay zekâ illüstrasyonu.

Verideki örneklerin izi

Bir sistemi yalnızca güneşli günlerde çekilmiş bisiklet fotoğraflarıyla eğittiğini düşün. Yağmurda veya karanlıkta çekilen bir bisikleti daha zor tanıyabilir. Bu hayalî örnek, verinin hangi durumları kapsadığının neden önemli olduğunu gösterir. İnsanlarla ilgili uygulamalarda da veri bazı grupları veya koşulları yeterince temsil etmeyebilir. Fakat önyargı yalnızca eksik örnekten kaynaklanmaz; amaç, etiketleme, tasarım ve kullanım kararları da sonucu etkileyebilir.

Geçmişteki kararlar adil değilse bunları düşünmeden öğrenme verisi yapmak, eski eşitsizlikleri yeni bir sisteme taşıyabilir. Örneğin bir kulüp eskiden belirli bir gruba fırsat vermediyse geçmiş katılım kayıtları kimin gerçekten başarılı olabileceğini tam göstermez. Bilgisayarın sayılarla çalışması, bu sınırlamayı yok etmez. Verinin nasıl oluştuğunu sormak, modelin son çıktısına bakmak kadar önemlidir; kaynakta saklı kararlar da incelenmelidir.

Ortalama başarı her kullanıcıyı anlatmaz

NIST'in yüz tanıma değerlendirmeleri, incelenen birçok algoritmada bazı demografik gruplar arasında hata farklılıkları bulunduğunu göstermiştir. Sonuçlar algoritmaya, göreve ve veriye göre değişir; bütün yüz tanıma sistemlerini tek bir doğruluk oranıyla anlatmak uygun değildir. Bu bulgu, bir aracın ortalama başarısını bilmenin herkese aynı deneyimi sunduğunu kanıtlamadığını gösterir. Ayrıntılı ölçümlere ve kullanımın sonuçlarına da bakmak gerekir.

Yanlış sonuç telefon kilidini açamamana neden olduğunda bir rahatsızlık yaratabilir; bir kişiye haksız şüphe yönelttiğinde etkisi çok farklıdır. Bu nedenle teknik hata ve sosyal sonuç birbirinden kopuk değildir. Sorunu yalnızca yazılımcıya veya yalnızca kullanıcıya bırakmak yeterli olmayabilir. Geliştirenlerin, kullanan kurumların ve etkilenen insanların bakışları birlikte değerlendirilir. Adalet, bilgisayarın kendiliğinden ürettiği basit bir puan değildir.

Bir sonucu incelemek

Bir yapay zekâ görsel aracının belirli meslekleri hep benzer kişilerle göstermesi, kalıplaşmış çıktılar üzerine düşünmene yardımcı olabilir. Ancak birkaç resim görmek bütün modelin önyargısını bilimsel olarak ölçmüş olmak değildir. İsteklerin nasıl yazıldığı ve çıktıların değişebilmesi de önemlidir. Kişisel fotoğraf yüklemeden, uygun koşullarda hayalî karakter örnekleri üzerinden gözlem yapabilirsin. Gördüğün örneğin sınırını dürüstçe belirtmek gerekir.

Kâğıtta hayalî bir robot kulübünün katılım listesini çiz: yalnızca daha önce davet edilen öğrenciler yer alıyor olsun. “Bu listedekiler en meraklı öğrenciler” sonucunu çıkarmak neden sorunlu? Davet edilmeyenlerin ilgisini bilmiyorsun. Veride bulunmamak, bir özelliğin bulunmadığını kanıtlamaz. Böyle bir örnek, eksik temsilin nasıl yanlış yorumlanabileceğini teknoloji kullanmadan da gösterir; benzer sorular gerçek sistemlerde daha dikkatli araştırılır.

Sorulacak üç somut soru

Bir otomatik karar gördüğünde “Kimler için denendi?”, “Yanlış olduğunda kimi etkiliyor?” ve “İtiraz veya düzeltme yolu var mı?” diye düşünebilirsin. Bunlar her ayrıntısını bilmeden de sorulabilen sorulardır. Yapay zekânın sonucu insanları etkiliyorsa yalnızca etkileyici görünmesi yeterli olmaz. Hatanın fark edilmesi, değerlendirilmesi ve gerektiğinde düzeltilebilmesi gerekir. Teknolojiyi eleştirmek, onun bütün yararlarını reddetmek değil; kullanımını daha anlaşılır ve sorumlu biçimde incelemektir.

Sınıf etkinliğinde bir puan kuralı tasarlarken farklı koşulları dene. Sadece hız puanı verdiğinde dikkatli ama yavaş çalışan biri geride kalabilir. Kuralın neyi ödüllendirdiğini açıkça yaz. Bu küçük tasarım bir yapay zekâ modeli değildir; yine de hedef seçmenin sonuçlarını gösterir. Adil değerlendirmeyi yalnızca daha çok veri ekleyerek çözebileceğini varsaymak yerine, ölçmek istediğin şeyin gerçekten amacına uygun olup olmadığını da sorgularsın.

Kaynaklar ve ileri okuma

KEŞFE DEVAM

Bir sonraki merakın ne?

Discord olayı için ağ bağlantısı ve kilitle hazırlanmış temsili çizim
2 dk okumaSiber olaylar

Discord olayı: bir kimlik fotoğrafı neden sıradan bir dosya değildir?

Discord’un 2025 destek hizmeti ihlalinde, bazı kullanıcıların kimlik görüntüleri de olası etki kapsamına girdi. Bir belge yüklerken dosyanın gideceği yolu düşünmek gerekiyor.

Yazıyı oku
Belge kenarındaki soru ve öneri, yazarıyla birlikte paragrafı geliştirmeye yardım ediyor.
6 dk okumaYeni keşif

Belge yorumlarıyla nazikçe birlikte çalışmak

Bir arkadaşının yazısına yorum bırakırken hem işi geliştirmek hem de emeğine saygı göstermek mümkündür. Açık ve nazik geri bildirim, birlikte düzenlemeyi kolaylaştırır.

Yazıyı oku
İki kişi harita ve hareket parçalarını ayrı hazırlayıp ortak projede birleştiriyor.
6 dk okumaYeni keşif

İki kişi tek projede nasıl çalışır?

İki kişi aynı oyuna fikir eklemek ister, ama aynı anda aynı parçayı değiştirince karışıklık çıkabilir. Görevleri konuşup bölmek ortak çalışmayı kolaylaştırır.

Yazıyı oku