İnsanlar algoritmaların asla bizim yerimize önemli kararlar alamayacağını çünkü önemli kararların etik bir boyutu olduğunu ve algoritmaların etikten anlamadığını iddia edebilirler. Lakin algoritmaların etik konusunda bile ortalama bir insanı aşamayacağını farz etmek için hiçbir sebep yok. Şimdi bile akıllı telefonlar ve otonom arabalar gibi araçlar eskiden insanların tekelinde bulunan karar alma işine soyunup insanların binlerce yıl boyunca yakasını kurtaramadığı etik sorunların benzerleriyle boğuşuyor.
Diyelim ki top peşinde koşturan iki çocuk bir otonom arabanın önüne atlıyor. Arabanın algoritması şimşek hızıyla yaptığı hesaplamalar sonucunda bu iki çocuğa çarpmamanın tek yolunun ters şeride direksiyon kırıp yaklaşan kamyona çarpma riskini göze almak olduğu sonucuna varıyor. Algoritmatik çarpışma gerçekleşirse arkada mışıl mışıl uyuyan araç sahibinin ölme ihtimalinin yüzde 70 olduğunu hesaplıyor. Bu algoritmanın ne yapması gerekir?“
Filozoflar binlerce yıldır bu tür “vagon problemleri” hakkında tartışıp dururlar (bunlara “vagon problemi” denilmesinin sebebi, ders kitaplarındaki çağdaş felsefi tartışmalar için örnekler verilirken otonom arabalara değil, tren raylarında hızla ilerleyen kontrolsüz bir lokomotife atıfta bulunulmasıdır) Şimdiye kadar bu tür tartışmaların fiili davranışlar üzerinde utanç verici derecede az etkisi oldu çünkü insanlar kriz anlarında felsefî görüşleri unutup duygu ve içgüdüleri doğrultusunda hareket etmeye meyillidir.
Tanımadığınız Birini Ne Kadar Önemsiyorsunuz?
Sosyal bilimler tarihinin en nahoş deneylerinden biri 1970'in Aralık ayında, Princeton İlahiyat Fakültesi'nde Presbiteryen Kilisesi’nde vaiz olmak için okuyan bir grup öğrenci üzerinde gerçekleştirilmişti: Öğrencilerin her birinden çabucak uzaktaki bir amfiye gidip iyi Samiriyeli meseli üzerine vaaz vermeleri istenir. Bu meselde anlatılan şudur: Kudüs’ten Eriha’ya giden bir Yahudi yolda eşkıyalar tarafından soyulup dövülür ve yolun kenarında ölmeye terk edilir. Bir süre sonra bir rahiple Levi kabilesinden birinin de yolu o tarafa düşer ama ikisi de adamı görmezden gelip geçip giderler. Sonra aynı yere bir Samiriyeli varır. (Yahudilerin hiç hoşlanmadığı bir mezhebe mensup birisi) ama Samiriyeli, öncekilerin aksine, mağduru görünce durup yardım eder ve adamın hayatını kurtarır. Bu meselin kıssadan hissesi erdemin dini eğilimlere göre değil fiili davranışlara bakılarak değerlendirilmesi gerektiğidir.
Hevesli ilahiyat öğrencileri iyi Samiriyeli meselinden alınacak dersi en iyi nasıl anlatacaklarını düşünerek amfiye koştururlar. Ama deneyi yürütenler amfiye giden yolun üstüne gözleri kapalı vaziyette bir kapı eşiğine çökmüş üstü başı perişan birini yerleştirmişler. Bir şeyden haberi olmayan öğrenciler hızla geçip giderken “mağdur” aksırıp tıksırıp acınacak halde inliyormuş. Çoğu öğrenci bırakın yardım eli uzatmayı, durup neyin var diye bile sormamış. Bir an önce amfiye ulaşma gerekliliğinin üzerlerinde yarattığı duygusal gerginlik, yardıma ihtiyacı olan bir yabancıya yardım etmek gibi bir ahlaki yükümlülüğün önüne geçmiş.
Pek çok başka durumda da insan duyguları felsefi teorilerin önüne geçer. Bu durum dünyanın ahlaki ve felsefi tarihini, şahane ideallerle ideal olmaktan çok uzak davranışların iç karartıcı bir anlatısına döndürmüştür. Kaç Müslüman gerçekten de kendine tokat atana öteki yanağını uzatır? Kaç Budist gerçekten bencil saplantılarını geride bırakır? Kaç Yahudi gerçekten komşusunu kendi canıymış gibi sever? Tüm memeliler gibi Homo sapiens de ölüm kalım meselesi söz konusuysa hızlıca karar alabilmek için hislerini kullanır. Öfkemizi, korkularımızı ve arzularımızı her biri doğal seçilimin çetin kalite kontrol testlerinden geçmiş atalarımızdan miras almışız.
Peki Ya Otomobil Kullanırken?
Ne yazık ki, bir milyon yıl önce Afrika’nın savanalarında hayatta kalmak ve üremek için işe yarayan şeyler 21. yüzyılın otobanlarında sağduyulu davranışlar sergilememizi sağlayacak diye bir kural yok. Dalgın, öfkeli ve sabırlı insan sürücüler her yıl bir milyondan fazla insanın trafık kazalarında hayatını kaybetmesine neden oluyor. Bu sürücülere tüm filozoflarımızı. tüm peygamberlerimizi, tüm din adamlarımızı göndersek, yola çıktıklarında yine memeli hayvanlara özgü hisleri ve savanalardan kalma içgüdüleri devreye girecek. Dolayısıyla ilahiyat öğrencileri telaş içindeyken yardıma ihtiyacı olan insanları görmezden gelecek, sürücüler kriz anlarında yayaları ezecek.
İlahiyat fakültesiyle yol arasındaki bu ayrılık etik alanının en büyük sorunlarından biridir. Immanuel Kant, ]ohn Stuart Mill ve John Rawls üniversitelerin rahat amfilerinde oturup günlerce kuramsal sorunları tartışabilirler ama vardıkları sonuçlar tehlike anında stres altındaki sürücüler tarafından uygulamaya geçirilecek mi? Belki gelmiş geçmiş en iyi sürücü olarak anılan Formula 1 şampiyonu Michael Schumacher yarış esnasında felsefî düşüncelere dalma yetisine sahipti ama çoğumuz Schumacher değiliz.
Oysa bilgisayar algoritmaları doğal seçilim tarafından şekillendirilmediği gibi duygu ya da içgüdü sahibi de değil. Dolayısıyla etik kurallarını doğru şekilde sayılar ve istatistikler olarak kodlamanın bir yolunu bulabilirsek, kriz anlarında etik ilkelere insanlardan daha iyi uyabilirler. Kant, Mill ve Rawls’a kodlama öğretebilseydik rahat laboratuvarlarında otonom arabayı itinayla programlarlar ve araba otoyola çıktığında verdikleri komutları hiç şüphesiz harfiyen uygulardı. Bunun sonucunda her araba yekvücut olmuş Michael Schumacher’le Immanuel Kant tarafından kullanılırdı.
Otonom Arabaya Ahlak Yüklemek
Şöyle ki, otonom bir arabayı yardıma ihtiyacı olan bir yabancı gördüğünde durup yardım etmeye programlarsanız, bu araba kıyamet kopsa da bu komutu uygular (tabii yazılıma gerçekten kıyamet kopmasına dair bir istisna madde eklemezseniz). Aynı şekilde otonom arabanız önüne atlayan iki çocuğu kurtarmak için ters şeride direksiyon kırmaya programlanmışsa tamı tamına öyle yapacağına adınız gibi emin olabilirsiniz. Bu da demek oluyor ki Toyota ya da Tesla otonom arabalarını tasarlarken ahlak felsefesine ilişkin teorik bir problemi mühendislik çerçevesindeki pratik bir probleme dönüştürecek.
Felsefî algoritmaların asla mükemmel olamayacağı ortada. Yaralanmalara, ölümlere ve son derece karmaşık davalara neden olacak kazalar illa ki yaşanacaktır. (Tarihte ilk defa, teorilerinin yol açtığı vahim sonuçlara istinaden bir filozofu dava edebileceksiniz çünkü felsefi fikirlerle gerçek hayatta cereyan eden olaylar arasında doğrudan sebep sonuç ilişkisi ilk defa kurulabilecek.) Yine de insan sürücülerin yerini almaları için algoritmaların kusursuz olmasına gerek yok. İnsanlardan iyi olmaları yeterli. İnsan sürücülerin her yıl bir milyondan fazla kişinin canını aldığı düşünülürse, bu pek de zor değil.
Schumacher- Kant Sürücüleri
Ölçüp biçerseniz, yanınızda seyreden arabayı sarhoş bir ergenin mi yoksa Schumacher-Kant ikilisinin mi kullanmasını tercih edersiniz?
Aynı mantık araba kullanmanın dışında başka pek çok durum için de geçerli. Örneğin iş başvurularını ele alalım. 21. yüzyılda birini işe alıp almama kararı giderek artan bir oranda algoritmalar tarafından verilecek. Gerekli etik standartları belirlemeyi makinelere bırakamayız; bunları yine insanların be lirlemesi gerekecek. Ama iş dünyasına dair etik standartları, örneğin ırk veya cinsiyet ayrımı yapmanın yanlış olduğunu belirlediğimizde, makinelerin bu standartları insanlardan daha iyi uygulayıp koruyacağına emin olabiliriz.
İnsan bir yönetici siyahlara ve kadınlara karşı ayrımcılık yapmamak gerektiğini bilmenin yanı sıra bu görüşe katılmasına rağmen, siyah bir kadın iş başvurusunda bulunduğunda bilinçsizce ayrımcılık yapıp bu kadını işe almamaya karar verebilir. İş başvurularını değerlendirmeye bir bilgisayarı atar ve bu bilgisayarı ırk ve cinsiyeti hiçbir şekilde göz önüne almamaya programlarsak, bilgisayarın gerçekten de bu unsurları dikkate almayacağına emin olabiliriz çünkü bilgisayarların bilinçaltı yok. Elbette iş başvurularını değerlendirebilecek bir kod yazmak kolay olmayacaktır ve mühendislerin kendi bilinçaltlarındaki önyargıları yazılıma aktarmaları riski hep olacaktır. Ama bu tür hataları fark edip yazılımı düzeltmek, insanları ırkçılıktan ve kadın düşmanlığından arındırmanın yanında devede kulak kalır.
Şoförler ve trafik polisleri dahil (bildiğini okuyan insanların yerini itaatkâr algoritmalar alınca trafik polislerine de gerek kalmayacaktır) pek çok insanın, yapay zekânın yükselişiyle çalışma yaşamının dışına atılabileceğini gördük. Fakat şimdiye kadar sahip oldukları yetiler piyasa değeri barındırmazken, birden kıymete binecek felsefeciler için yeni alanlar açılabilir. O yüzden ileride iyi bir iş garantisi bulunan bir dalda eğitim almak istiyorsanız sermayeyi felsefeye yüklemek çok da yanlış olmayabilir.
Tabii filozofların doğru eylemlerin yolları konusunda anlaştığı pek görülmemiştir. Az sayıda “vagon problemi” tüm filozofları tatmin edecek şekilde çözülmüştür; John Stuart Mill gibi eylemleri ortaya çıkan sonuca göre değerlendiren sonuççu düşünürlerle Immanuel Kant gibi eylemleri mutlak kurallara göre değerlendiren deontolojist düşünürler birbirinden oldukça farklı tikilere sahiptir. Tesla’nın bir araç üretmek için bu kördüğüm meseleler hakkına gerçekten de belli bir tutum takınması mı gerekecek?
ölümü de olsa sahibini kurtarmak için elinden ne geliyorsa yapar. Müşteriler de meylettikleri felsefî görüşe en uygun arabayı satın alabilirler. Bencil modeli daha çok satılıyor diye Tesla’yı suçlayamazsınız. Ne de olsa müşteri her zaman haklıdır.
Bu bir şaka değil. 2015 yılında yapılan öncü bir çalışmada, insanlara otonom bir arabanın birtakım yayalara çarpmak üzere olduğuna dair farazi bir senaryo sunulmuş. Çoğu insan böyle bir durumda arabanın sahibini öldürmek pahasına yayaların canını kurtarması gerektiğini söylemiş. Bu insanlara çoğunluğun yararı için sahibini tehlikeye atmaya programlı bir arabayı satın almak isteyip istemeyecekleri sorulduğundaysa çoğu hayır cevabını vermiş. Kendileri söz konusu olunca tercihleri bencil Tesla yönünde olmuştur.
Şöyle bir durum düşünün: Yeni bir araba aldınız ama arabayı kullanmaya başlamadan önce ayarlar menüsünü açıp seçeneklerden birini işaretlemeniz gerekiyor. Kaza anında araba hayatınızı mı tehlikeye atsın yoksa diğer arabadaki aileyi mi öldürsün? Bu yapmak isteyeceğiniz bir tercih mi? Hangi kutucuğu işaretleyeceğiniz konusunda eşinizle ne kavgalar edeceğinizi düşünün.
O yüzden belki de devletin piyasanın işleyişini düzenlemek için devreye girip tüm otonom arabalar için geçerli bir etik kod şart koşması gerekecek. Kimi kanun koyucu merciler, nihayet her daim harfi harfine uyulacak yasalar koyma fırsatı buldukları için çok sevinecektir. Bu benzeri görülmemiş ve totaliter sorumluluk karşısında dehşete düşecek kanun koyucular da çıkabilir tabii. Ne de olsa tarih boyunca, yeni bir yasa yürürlüğe girdiğinde, yasal yaptırımların kısıtlamaları kanun koyucuların önyargılarını, hata ve aşırılıklarının kontrol edilmesine imkân tanımıştır. Beşer şaşar siyasetçilerin kararlarının yerçekimi denli sarsılmaz olduğu bir düzen ister miyiz gerçekten?
Kriz Anında En Uygun Olasılık
Diyelim ki top peşinde koşturan iki çocuk bir otonom arabanın önüne atlıyor. Arabanın algoritması şimşek hızıyla yaptığı hesaplamalar sonucunda bu iki çocuğa çarpmamanın tek yolunun ters şeride direksiyon kırıp yaklaşan kamyona çarpma riskini göze almak olduğu sonucuna varıyor. Algoritmatik çarpışma gerçekleşirse arkada mışıl mışıl uyuyan araç sahibinin ölme ihtimalinin yüzde 70 olduğunu hesaplıyor. Bu algoritmanın ne yapması gerekir?“
Bu Aslında Bir Vagon Problemi
Filozoflar binlerce yıldır bu tür “vagon problemleri” hakkında tartışıp dururlar (bunlara “vagon problemi” denilmesinin sebebi, ders kitaplarındaki çağdaş felsefi tartışmalar için örnekler verilirken otonom arabalara değil, tren raylarında hızla ilerleyen kontrolsüz bir lokomotife atıfta bulunulmasıdır) Şimdiye kadar bu tür tartışmaların fiili davranışlar üzerinde utanç verici derecede az etkisi oldu çünkü insanlar kriz anlarında felsefî görüşleri unutup duygu ve içgüdüleri doğrultusunda hareket etmeye meyillidir.
Tanımadığınız Birini Ne Kadar Önemsiyorsunuz?
Sosyal bilimler tarihinin en nahoş deneylerinden biri 1970'in Aralık ayında, Princeton İlahiyat Fakültesi'nde Presbiteryen Kilisesi’nde vaiz olmak için okuyan bir grup öğrenci üzerinde gerçekleştirilmişti: Öğrencilerin her birinden çabucak uzaktaki bir amfiye gidip iyi Samiriyeli meseli üzerine vaaz vermeleri istenir. Bu meselde anlatılan şudur: Kudüs’ten Eriha’ya giden bir Yahudi yolda eşkıyalar tarafından soyulup dövülür ve yolun kenarında ölmeye terk edilir. Bir süre sonra bir rahiple Levi kabilesinden birinin de yolu o tarafa düşer ama ikisi de adamı görmezden gelip geçip giderler. Sonra aynı yere bir Samiriyeli varır. (Yahudilerin hiç hoşlanmadığı bir mezhebe mensup birisi) ama Samiriyeli, öncekilerin aksine, mağduru görünce durup yardım eder ve adamın hayatını kurtarır. Bu meselin kıssadan hissesi erdemin dini eğilimlere göre değil fiili davranışlara bakılarak değerlendirilmesi gerektiğidir.
Hevesli ilahiyat öğrencileri iyi Samiriyeli meselinden alınacak dersi en iyi nasıl anlatacaklarını düşünerek amfiye koştururlar. Ama deneyi yürütenler amfiye giden yolun üstüne gözleri kapalı vaziyette bir kapı eşiğine çökmüş üstü başı perişan birini yerleştirmişler. Bir şeyden haberi olmayan öğrenciler hızla geçip giderken “mağdur” aksırıp tıksırıp acınacak halde inliyormuş. Çoğu öğrenci bırakın yardım eli uzatmayı, durup neyin var diye bile sormamış. Bir an önce amfiye ulaşma gerekliliğinin üzerlerinde yarattığı duygusal gerginlik, yardıma ihtiyacı olan bir yabancıya yardım etmek gibi bir ahlaki yükümlülüğün önüne geçmiş.
Pek çok başka durumda da insan duyguları felsefi teorilerin önüne geçer. Bu durum dünyanın ahlaki ve felsefi tarihini, şahane ideallerle ideal olmaktan çok uzak davranışların iç karartıcı bir anlatısına döndürmüştür. Kaç Müslüman gerçekten de kendine tokat atana öteki yanağını uzatır? Kaç Budist gerçekten bencil saplantılarını geride bırakır? Kaç Yahudi gerçekten komşusunu kendi canıymış gibi sever? Tüm memeliler gibi Homo sapiens de ölüm kalım meselesi söz konusuysa hızlıca karar alabilmek için hislerini kullanır. Öfkemizi, korkularımızı ve arzularımızı her biri doğal seçilimin çetin kalite kontrol testlerinden geçmiş atalarımızdan miras almışız.
Peki Ya Otomobil Kullanırken?
Ne yazık ki, bir milyon yıl önce Afrika’nın savanalarında hayatta kalmak ve üremek için işe yarayan şeyler 21. yüzyılın otobanlarında sağduyulu davranışlar sergilememizi sağlayacak diye bir kural yok. Dalgın, öfkeli ve sabırlı insan sürücüler her yıl bir milyondan fazla insanın trafık kazalarında hayatını kaybetmesine neden oluyor. Bu sürücülere tüm filozoflarımızı. tüm peygamberlerimizi, tüm din adamlarımızı göndersek, yola çıktıklarında yine memeli hayvanlara özgü hisleri ve savanalardan kalma içgüdüleri devreye girecek. Dolayısıyla ilahiyat öğrencileri telaş içindeyken yardıma ihtiyacı olan insanları görmezden gelecek, sürücüler kriz anlarında yayaları ezecek.
İlahiyat fakültesiyle yol arasındaki bu ayrılık etik alanının en büyük sorunlarından biridir. Immanuel Kant, ]ohn Stuart Mill ve John Rawls üniversitelerin rahat amfilerinde oturup günlerce kuramsal sorunları tartışabilirler ama vardıkları sonuçlar tehlike anında stres altındaki sürücüler tarafından uygulamaya geçirilecek mi? Belki gelmiş geçmiş en iyi sürücü olarak anılan Formula 1 şampiyonu Michael Schumacher yarış esnasında felsefî düşüncelere dalma yetisine sahipti ama çoğumuz Schumacher değiliz.
Oysa bilgisayar algoritmaları doğal seçilim tarafından şekillendirilmediği gibi duygu ya da içgüdü sahibi de değil. Dolayısıyla etik kurallarını doğru şekilde sayılar ve istatistikler olarak kodlamanın bir yolunu bulabilirsek, kriz anlarında etik ilkelere insanlardan daha iyi uyabilirler. Kant, Mill ve Rawls’a kodlama öğretebilseydik rahat laboratuvarlarında otonom arabayı itinayla programlarlar ve araba otoyola çıktığında verdikleri komutları hiç şüphesiz harfiyen uygulardı. Bunun sonucunda her araba yekvücut olmuş Michael Schumacher’le Immanuel Kant tarafından kullanılırdı.
Otonom Arabaya Ahlak Yüklemek
Şöyle ki, otonom bir arabayı yardıma ihtiyacı olan bir yabancı gördüğünde durup yardım etmeye programlarsanız, bu araba kıyamet kopsa da bu komutu uygular (tabii yazılıma gerçekten kıyamet kopmasına dair bir istisna madde eklemezseniz). Aynı şekilde otonom arabanız önüne atlayan iki çocuğu kurtarmak için ters şeride direksiyon kırmaya programlanmışsa tamı tamına öyle yapacağına adınız gibi emin olabilirsiniz. Bu da demek oluyor ki Toyota ya da Tesla otonom arabalarını tasarlarken ahlak felsefesine ilişkin teorik bir problemi mühendislik çerçevesindeki pratik bir probleme dönüştürecek.
Felsefî algoritmaların asla mükemmel olamayacağı ortada. Yaralanmalara, ölümlere ve son derece karmaşık davalara neden olacak kazalar illa ki yaşanacaktır. (Tarihte ilk defa, teorilerinin yol açtığı vahim sonuçlara istinaden bir filozofu dava edebileceksiniz çünkü felsefi fikirlerle gerçek hayatta cereyan eden olaylar arasında doğrudan sebep sonuç ilişkisi ilk defa kurulabilecek.) Yine de insan sürücülerin yerini almaları için algoritmaların kusursuz olmasına gerek yok. İnsanlardan iyi olmaları yeterli. İnsan sürücülerin her yıl bir milyondan fazla kişinin canını aldığı düşünülürse, bu pek de zor değil.
Schumacher- Kant Sürücüleri
Ölçüp biçerseniz, yanınızda seyreden arabayı sarhoş bir ergenin mi yoksa Schumacher-Kant ikilisinin mi kullanmasını tercih edersiniz?
Aynı mantık araba kullanmanın dışında başka pek çok durum için de geçerli. Örneğin iş başvurularını ele alalım. 21. yüzyılda birini işe alıp almama kararı giderek artan bir oranda algoritmalar tarafından verilecek. Gerekli etik standartları belirlemeyi makinelere bırakamayız; bunları yine insanların be lirlemesi gerekecek. Ama iş dünyasına dair etik standartları, örneğin ırk veya cinsiyet ayrımı yapmanın yanlış olduğunu belirlediğimizde, makinelerin bu standartları insanlardan daha iyi uygulayıp koruyacağına emin olabiliriz.
İnsan bir yönetici siyahlara ve kadınlara karşı ayrımcılık yapmamak gerektiğini bilmenin yanı sıra bu görüşe katılmasına rağmen, siyah bir kadın iş başvurusunda bulunduğunda bilinçsizce ayrımcılık yapıp bu kadını işe almamaya karar verebilir. İş başvurularını değerlendirmeye bir bilgisayarı atar ve bu bilgisayarı ırk ve cinsiyeti hiçbir şekilde göz önüne almamaya programlarsak, bilgisayarın gerçekten de bu unsurları dikkate almayacağına emin olabiliriz çünkü bilgisayarların bilinçaltı yok. Elbette iş başvurularını değerlendirebilecek bir kod yazmak kolay olmayacaktır ve mühendislerin kendi bilinçaltlarındaki önyargıları yazılıma aktarmaları riski hep olacaktır. Ama bu tür hataları fark edip yazılımı düzeltmek, insanları ırkçılıktan ve kadın düşmanlığından arındırmanın yanında devede kulak kalır.
Şoförler ve trafik polisleri dahil (bildiğini okuyan insanların yerini itaatkâr algoritmalar alınca trafik polislerine de gerek kalmayacaktır) pek çok insanın, yapay zekânın yükselişiyle çalışma yaşamının dışına atılabileceğini gördük. Fakat şimdiye kadar sahip oldukları yetiler piyasa değeri barındırmazken, birden kıymete binecek felsefeciler için yeni alanlar açılabilir. O yüzden ileride iyi bir iş garantisi bulunan bir dalda eğitim almak istiyorsanız sermayeyi felsefeye yüklemek çok da yanlış olmayabilir.
Tabii filozofların doğru eylemlerin yolları konusunda anlaştığı pek görülmemiştir. Az sayıda “vagon problemi” tüm filozofları tatmin edecek şekilde çözülmüştür; John Stuart Mill gibi eylemleri ortaya çıkan sonuca göre değerlendiren sonuççu düşünürlerle Immanuel Kant gibi eylemleri mutlak kurallara göre değerlendiren deontolojist düşünürler birbirinden oldukça farklı tikilere sahiptir. Tesla’nın bir araç üretmek için bu kördüğüm meseleler hakkına gerçekten de belli bir tutum takınması mı gerekecek?
Tesla'nın Ahlak Testi
Belki de Tesla kararı piyasaya bırakmayı seçer, özgeci Tesla ve bencil fetila adlı iki ayrı otonom araç üretir. Özgeci modeli tehlike anında çoğunluğun iyiliğini düşünüp sahibini kurban eder. Bencil modeli işin ucunda iki çocuğunölümü de olsa sahibini kurtarmak için elinden ne geliyorsa yapar. Müşteriler de meylettikleri felsefî görüşe en uygun arabayı satın alabilirler. Bencil modeli daha çok satılıyor diye Tesla’yı suçlayamazsınız. Ne de olsa müşteri her zaman haklıdır.
Bu bir şaka değil. 2015 yılında yapılan öncü bir çalışmada, insanlara otonom bir arabanın birtakım yayalara çarpmak üzere olduğuna dair farazi bir senaryo sunulmuş. Çoğu insan böyle bir durumda arabanın sahibini öldürmek pahasına yayaların canını kurtarması gerektiğini söylemiş. Bu insanlara çoğunluğun yararı için sahibini tehlikeye atmaya programlı bir arabayı satın almak isteyip istemeyecekleri sorulduğundaysa çoğu hayır cevabını vermiş. Kendileri söz konusu olunca tercihleri bencil Tesla yönünde olmuştur.
Şöyle bir durum düşünün: Yeni bir araba aldınız ama arabayı kullanmaya başlamadan önce ayarlar menüsünü açıp seçeneklerden birini işaretlemeniz gerekiyor. Kaza anında araba hayatınızı mı tehlikeye atsın yoksa diğer arabadaki aileyi mi öldürsün? Bu yapmak isteyeceğiniz bir tercih mi? Hangi kutucuğu işaretleyeceğiniz konusunda eşinizle ne kavgalar edeceğinizi düşünün.
O yüzden belki de devletin piyasanın işleyişini düzenlemek için devreye girip tüm otonom arabalar için geçerli bir etik kod şart koşması gerekecek. Kimi kanun koyucu merciler, nihayet her daim harfi harfine uyulacak yasalar koyma fırsatı buldukları için çok sevinecektir. Bu benzeri görülmemiş ve totaliter sorumluluk karşısında dehşete düşecek kanun koyucular da çıkabilir tabii. Ne de olsa tarih boyunca, yeni bir yasa yürürlüğe girdiğinde, yasal yaptırımların kısıtlamaları kanun koyucuların önyargılarını, hata ve aşırılıklarının kontrol edilmesine imkân tanımıştır. Beşer şaşar siyasetçilerin kararlarının yerçekimi denli sarsılmaz olduğu bir düzen ister miyiz gerçekten?
Yorumlar