VİCDAN SORUSU: HANGİSİ ÖLSÜN? Yeşil ışıkta geçen evsiz mi, kırmızıda geçen doktor mu?

Bence sürücüsüz otomobil asla seri üretimle piyasaya çıkmamalı ama belli ki adamlar kararlı, prototipler çoktan hazır. Peki, o otomobili yönetecek yapay zekanın davranış modelini programlarken hangi global ölçütler esas alınacak? Bu amaçla Massachusetts Institute of Technology (MIT) öncülüğünde bir uluslararası araştırma ekibi online deney platformu hazırlamış. “Moral Machine” adlı platformda 13 ayrı kaza senaryosu yer alıyor.

İnsanı etik ikilemlerle yüzleştiren zor bir imtihan. Çeşitli ölümlü kaza senaryoları ve potansiyel kaza kurbanı kombinasyonlarına bakıp kimlerin öleceğine karar vermeniz gerekiyor. Örneğin bir senaryoda direksiyonda bir erkek, karşısında koca bir beton duvar var ve fren tutmuyor. Çarpışma ve ölüm kaçınılmaz, direksiyonu kırarsa karşıdan karşıya geçmekte olan bir çocuğa çarpacak. Normal şartlarda bu kaza saniyelik reflekslerle sonuçlanır, sürücü muhtemelen kendini kurtaracak hamleyi yapar, yolda kimin olduğunu görmez bile.

Bu senaryoda kendinizi feda edip çocuğu kurtarır mıydınız?

Ancak senaryo üzerinde düşünürken saniyelik refleks değil, vicdan söz konusu. Yapay zekanın çarpma anında bütün kriterleri gözeterek yapacağı analizin temelini oluşturacak etik değerlerden bahsediyoruz. Test sonunda değer yargılarınız da tabloyla bildiriliyor size. Bir skala üzerinde ortalama ile aranızdaki farkı da görüyorsunuz. Ortalama derken, 233 ülkeden 40 milyon kombinasyon sonucuyla kıyasta ortaya çıkan bir vasat. Senaryolardaki figürler sadece yaş gruplarına ayrılmıyor; şişman/fit kadın ve erkekler, evsizler, soyguncular, doktorlar, iş insanları, kırmızı veya yeşil ışıkta geçenler (yaya), kedi ve köpekler var.

Benim test sonucum şu; en çok çocukları kurtarıyor, en çok erkekleri öldürüyor, ölecek kişinin sosyal statüsüyle hiç ilgilenmiyorum. Anlaşılan herhangi bir toplumsal fayda sağlamayan evsizleri sırf yeşil ışıkta geçtikleri için, kırmızı ışık ihlali yapan beyaz yakalılara tercih etmişim. Çünkü bir sonraki skalada bakıyorum, kurallara uyum konusunda ortalamanın çok üstündeyim. Hayvanları gözetme dürtüm de ortalamanın biraz üstünde. Kim olduğuna bakmaksızın, daha fazla hayat kurtarma refleksim ise tavanda.

GÜNEYLİ HALLERİ

Dünyadaki eğilimler sosyo-kültürel farkları da ortaya koyuyor. Üçe ayırmışlar yerküreyi. Doğu-batı-güney şeklinde ama tam olarak coğrafi değil. Türkiye güney grubuna giriyor, çoğunluğu Latin Amerika ülkeleriyle, Fransa ve Fransa’nın denizaşırı topraklarının bulunduğu grup. Türklerin tercihleri en fazla Arjantinliler ile benzeşip, en çok Çinlilerle farklılaşıyor. Yayaları koruma içgüdümüz yüksek; 113 ülke arasında 14’üncü sırada görünüyoruz. Ancak bu sonuç, yayaların kırmızı ışık ihlallerine önem vermediğimiz için ortaya çıkıyor, trafik kurallarına uyumda yerimiz 93’üncülük. Hiç şaşırtıcı değil, çünkü nedense trafik ışıklarının yayaları değil de daha çok araçları ilgilendirdiği gibi uygunsuz hallerimiz olduğunu düşünüyorum.

Doğu grubundaki Asya ülkelerinde yaşlıların hayatta kalması tercih edilip, gençler feda ediliyor. “İslami ve Konfüçyus değerlerinin ağır bastığı toplumlar” olarak tarif edilen o kesimde yaşlılara daha fazla saygı gösterildiği için, diyor araştırmacılar. Örneğin Japonya en çok Kuveyt’yle benzeşiyor. Doğudaki Çin’le taban tabana zıt Türkiye sonuçları ise yaşlılardan çok çocukların ve kadınların hayatına daha fazla önem verildiğine işaret ediyor.

Ülke ekonomileri de tercihlerde rol oynuyor. Güçlü kurumsal yapıların bulunduğu refah toplumlarındaki ortak tavır trafik ışıklarını ihlal eden yayalara kesinlikle tolerans gösterilmemesi. Örneğin Japonya ve Finlandiya’dan teste katılanlar kırmızı ışıkta geçen yayalara çarpmayı tercih ederken, Nijerya ve Pakistan’da bu faktör dikkate alınmıyor. Gelir uçurumunun bulunmadığı Finlandiya’da kazada ölecek kişinin sosyal statüsü dikkate alınmazken, sosyal adaleti zayıf Kolombiya’da yoksulların ölümü tercih ediliyor.

GLOBAL ORTALAMA

Küresel bakıldığında şu ortalama eğilimler ortaya çıkıyor:

Teste katılanların büyük çoğunluğu mümkün mertebe fazla hayat kurtarmaya bakıyor. Böyle durumlarda, yaş, cinsiyet ve sosyal statü ikinci planda kalıyor.

Daha çok yaşlılar değil, çocuklar kurtarılıyor. Ortalamada yine kurtarılan kadın sayısı erkeklere göre daha fazla.

Kimin öleceğine karar verilirken fiziksel özelliklere bakılmıyor, ancak sosyal pozisyon önemli rol oynuyor. Evsizler ve soygunculara karşı doktorların hayatı tercih ediliyor doğal olarak.

İnsan mı hayvan mı ikileminde de çoğunlukla insan hayatında karar kılınıyor.

Yeşil ışıkta karşıdan karşıya geçen yayaların hayatı da kırmızı ışık ihlali yapanlara göre daha fazla önemseniyor.

Direksiyondaki kişi olarak kimin öleceğine karar verirken, araçtaki yolcuların hayatının yoldaki yayalardan üstün tutulmadığı da görülüyor ki, bu hiç gerçekçi bir durum değil. Araştırmacıların yorumuna göre bu tercih, testi yapan kişinin kendisini sürücüyle özdeşleştirmediğini gösteriyor.

NABZA GÖRE ZEKA MI?

Google’dan Tesla’ya teknoloji devleri, sürücüsüz otomobillerle daha fazla yol güvenliği ve enerji tasarrufu sağlanacağını, trafiğin rahatlayacağını savunuyor. Sosyal bilimciler ise etik sorununun yanı sıra kamu güvenliği ve çevre bakımından öngörülemeyecek sonuçları olabileceğini ileri sürüyor.

Kaldı ki, madem o araçlar da kazalara karışacak, kim ne yapsın mükemmel olmayan yeni teknolojiyi. Ayrıca sürüş zevki diye bir şey var. Direksiyon seven neden mahrum kalsın. Bütün organlarımızın işlevlerini neden makinelere terkedelim. Makine davranışlarına rehberlik edecek ahlaki ilkelerin kaynağı olan insan zihni de her zaman eşitlikçi olmayabiliyor. Yapay zekanın ırk ve cinsiyet ayrımcılığına dair sayısız örnek var.

Üstelik sürücüsüz araç bahsinde, çeşitli kültürlerin insan hayatına bakış açısının devreye girmesi de söz konusu. “Kimin hayatı daha değerlidir?” sorusu tehlikeli ve etik sınırlarını zorlayan bir soru. Yani otomotiv endüstrisinin, şu online araştırmadan yola çıkarak her topluma göre farklı yapay zeka programladığını düşünsenize. Örneğin ister misiniz, Kolombiya’da nasıl olsa yoksulların hayatına değer verilmiyor diye, yayalara yeşil ışık yandığında bile berduş kıyımına girişen sürücüsüz canavarlar pazarlansın!

Araştırmayı yapan ekip, sürücüsüz otomobillerin toplumlarda kabul görebilmesi için deneyde çıkan kültürel nüansların dikkate alınması gerektiği görüşünde. Araştırmanın yayınlandığı “Nature” dergisindeki habere göre, sürücüsüz otomobil modeli üzerinde çalışan Audi yetkilileri, araştırmanın üretim aşamasındaki tartışmalara ışık tutacağını söylüyor. Dergi, sürücüsüz otomobil projeleri bulunan Toyota ile teknoloji şirketleri Waymo ve Uber’in de görüşlerine başvurmuş araştırmayla ilgili, ama “yorum yok” yanıtını almış. Ancak yorumlarını merak etmemiz gerekiyor. Yani şirketler sürücüsüz otomobili üretirken global ortak paydaları mı dikkate alacaklar, yoksa pazar odaklı ihtiraslara mı kapılacaklar?