Mustafa Burak Avcı: Ufuk Hocam hoş geldiniz. İletişim alanında yaptığınız araştırmalarınızda son zamanlarda yapay zekâ ile ilgili olan çalışmalarınız öne çıkıyor. Bize biraz kendinizden bahseder misiniz?

Ufuk Eriş: Son zamanlar dememiz çok da doğru olmaz. Çünkü doktorada o konuyu önerdiğim zaman 2002’ydi. Ben bilgisayarlı bir evde doğmadım. İlk kez tanışmam ise 1996’da Bilgisayar Araştırma Uygulama Merkezi’nde oldu. Orada IRC (Internet Relay Chat) ile Amerika’da yaşayan bir insanla yazışmıştım ve karşımdakinin asla gerçek bir insan olduğuna inanmamıştım. Sonra yıllar geçti, teknolojinin insanın bakışını, düşünme formatını nasıl değiştirdiğini gördüm. 2002 yılında doktora önerisinde Türkiye’de Hacker Kültürü konusunu ele almak istedim. O dönemlerde Türkiye’de hacker oldukça azdı ve bilinen sadece Tamer Şahin vardı. “Pijamalı Hacker” diye gazetelere çıkmıştı. Osmanlı bankasını hacklediği yazılıyordu ancak o dönemler hacker varsa da kıracak fazla bir yer yoktu. O yüzden jüride de çok sıkıntı çektik. Bu konu ile ilgili olan birini bulmak oldukça zordu. Sosyolog vardı, insan kaynaklarından biri, endüstri mühendisi, iletişimci vardı. Onlara derdimi anlatmak çok zor oldu. Hacker denilen birileri var ve şurayı kırabilir dediğimde “Kırsın ne olacak” diyorlardı. Kanunlarımız bile buna hazır değildi. Birinin bilgisayarına uzaktan bağlandığınız zaman hırsızlık suçu üzerinden değerlendiriliyordu. Hırsızlık suçunda bir malı alırsınız ve o mal artık orada yoktur ama bir veri tabanından kopyasını aldığınız bir şey hâlâ orada duruyor, sadece kopyasını alıyorsunuz. Hukukta da böyle ciddi bir dönüşüme şahit oldum.

Deniz Benzer: 20 yıl önce doktora konunuzu söylediğinizde yaşanan durum bugün yapay zekâ için yaşanıyor. Siz doktora tezinizi yazdığınız dönemdeki o yabancılık ve heyecanla, bugün insanların yapay zekâya baktığı heyecan arasında ne tür benzerlikler ya da farklılıklar görüyorsunuz?

U.E: Her yeni teknoloji, düşünce insanlarını ya da bu konuda kafa yoranları heyecanlandırır. Sebebi ise her zaman dertlerimizin olması. Karl Marx’a baktığınızda yaşadığı toplumu inceleyip, bir şeyler iyi gitmiyor demiş. İnsanların mutsuz olduğunu görmüş, sebebini araştırıp toplumları çözümleme yöntemi önermiş. Ama derdi ne; hayatta çok mutlu değiliz, etraf mutlu değil. Bugünlerde de her yeni teknolojinin üzerine yazan, konuşan insanlar acaba çare olur mu düşüncesinde. Bence hackerları konuşma döneminden farklı olarak, yapay zekâ döneminde insanlar sadece magazinsel boyutuyla ilgileniyorlar. Kimse hangi derdimize deva olur demiyor. Sadece yapay zekânın daha fazla neler yapabileceği ile ilgileniyorlar. Mesela bir yapay zekâ bale yapabiliyor olsun, bale kültürü ile hiç alakası bulunmayan biri neden buna heyecanlansın? Magazinsel yaklaşımın saptırıcı bir etkisi var. Şunu net olarak söyleyebilirim ki tarihin hiçbir döneminde insanlar gelecek jenerasyonlar için bu kadar umutsuz olmamış ve umutlarını insan olmayan bir şeye bağlamamışlardır. Bir düşünün, İsa gelecek demişler, o da insandı… Gelecek jenerasyon böyle yapacak demişler, onlar da insandı… Her zaman kendi türümüzün ileride güzel bir şeyler yapacağına dair inancımız vardı. Şimdilerde bu inancımız bitmiş ki gelecekte yapay zekâ şunu yapıyor olacak, yapay zekâ böyle olacakları konuşuyoruz. Hayatımızda yaşadığımız problemlerin çözümünü ona yüklemeye çalışıyoruz ki bu tekno şovenist bir yaklaşıma doğru gidiyor. Şoven olarak bahsettiğim savunmak aslında. Dertlerimiz daha az teknoloji yüzündenmiş gibi ve fazlası olursa dertlerimiz azalacak diye düşünüyoruz. Bu gittikçe bir garip dehumanization (insansızlaştırma) süreci oluyor. Oysa dünyada ne yapılmış ve yapılacaksa bir insan tarafından, yine insan için yapılıyor. Bunu unutmamamız lazım.

İllüstrasyonlar: Sanam Maghrebi

M.B.A: Bir de işin içinde yapay zekâ aracını insansılaştırma çabası var. Acaba yapay zekâ bir birey olarak insandan daha zeki olur mu ya da insanla denk olsa ona insan der miyiz gibi garip felsefi sorular çıkıyor ortaya.

U.E: Kendi başına insanla yarışabilecek bir zekâ düzeyinin olası ihtimali konuşulan bir zamanda, bu kadar gelişmiş teknolojiler üretilirken hâlâ boşandığı eşini öldüren erkeklerin haber olduğu bir dünya bize şunu düşündürmeli: Gerçekten dertlerimiz yapay zekânın ne yapabileceği mi olmalı? Bu kültürün teknolojiye teslim oluşudur. Eskiden kültür, teknolojinin kullanımını belirliyor ve sınırlıyordu. Samuray kılıcı örneğini verebiliriz. Herkes bunu takamaz, taktığın zaman da belirli etik kodlara uymak zorundasın. Bizim türkülerden biri ne güzel söylüyor: “Tüfek icat oldu mertlik bozuldu.” Çünkü tüfeği kullanmak için yıllarca samuray disiplinine ve kültürüne sahip olmana gerek yok. Tüfeği satın aldığında tetiğe basman yeterli. Her mesleğin kendine ait kültür kodları var, artık böyle bir şey kalmıyor. Bir kalemi alabilmek için eğitime veya etik koda sahip olmana gerek yok. Parayı verdiğin zaman bilgisayarını alır, istediğin gibi de kullanırsın.

M.B.A: Bugün yeteneğe bile gerek kalmadı, komut yazıyorsun herhangi bir şeyi çizdirebiliyorsun.

U.E: Bana yapay zekâ diye konuştuğumuz şey hakkında pek bir şey bilmiyoruz gibi geliyor. Güçlüsü var güçsüzü de. Üstüne konuştuklarımız birer ütopya gibi. Ben hep şöyle derim “Ütopyalar tersine çevrildiğinde bugün yaşadığımız dertleri anlatır.” Diyelim ki evine temizlik yapmaya gelen hanıma soruyorsun “Eğer imkanların olsa nasıl bir hayat düşünürdün, nasıl bir ütopyan var?” Kadının cevabı “İçmeyen bir kocam olsun isterdim, çocuklarımı dövmesin mesela.” oluyor. Sen kadın ile ilgili gündelik hayatına dair derdini hemen anlamış oluyorsun işte. Şimdi yapay zekâ hakkındaki ütopya söylemlerine bakarak söylenenleri tersine çevirip okursanız ve insanların ondan ne beklediklerine bakarsanız, bugün gerçek hayatta ne gibi sorunlar yaşadıklarını görürsünüz. “Yapay zekâ şunu yapacak mı?” diye birisi merak ediyorsa onunla ilgili gündelik hayatında yaşadığı bir problem vardır. Eskiden savaşlar olur biterdi, şimdi uzayan ve bir türlü bitmeyen, düşük yoğunlukta savaş durumları yaşanıyor. İnsanlar yine ölüyor. Dijital çağdayız, bugün yapay zekâ robotu Sofia, Suudi Arabistan’dan vatandaşlık alıyor. Sana veya bana vermez. Bu yüzden sorulması gereken, “Yapay zekâ insanlar arasındaki eşitsizliğe bir çözüm getirecek mi?” olmalı. Aslında robotlar üzerine geliştirilen ahlaki panikleri değerlendirdiğimizde bunun kimin korkusu olduğunu da anlarsınız. İlk olarak robot kelimesini Karel Čapek’in “Rossum’s Universal Robots” adlı oyununda görüyoruz. Kelime anlamı olarak Slav dillerde köle ya da zorla çalıştırılan anlamına geliyor. Hikâyede robotlar isyan ediyor ve insanları bastırıyor. “Robotlar insanları ele geçirecek mi?” sorusunun altında aslında isyan eden köleler kavramı var. Bütün mesele bunları yönetenlerin bir gün robot imgesi altında olsun veya olmasın her kimi çok daha az bir ücrete zorla çalıştırıyorlarsa, onların ayaklanma korkusu var. Robot ayaklanması ya da yapay zekâ insanları böyle yapacak mı gibi düşüncelerin temel güdüsü bu.

M.B.A: Yapay zekâ ile ilgili sürekli bir gündem var. Peki kültürel anlamda etkileri nedir?

U.E: Kültür artık eskisi gibi insanın doğal olarak ürettiği bir şey değil. Zaten kültür yozlaşması dediğimiz şey, Anadolu’da üreme  yeteneğini kaybeden hayvanlara “Yoz” denmesinden geliyor. Yozlaşmış kültür, kendi kendini yenileme ve üretme yeteneğini kaybetmiş oluyor. O zaman ne oluyor, şeker hastasının insülin üretememesi gibi dışarıdan insülin iğnesi vurmaya başlıyorsun. Bir süre sonra bağımlı oluyorsun ve üretebilme yeteneğini kaybediyorsun. Herkes eskiden sevdiği kıza ama iyi ama kötü bir türkü yakıyor, şiir yazıyormuş. Fakat artık şiirleri, şarkıları dışarıdan almaya başlayınca kendini ifade etme yeteneğini de kaybetmeye başlıyorsun. Bunun sebebi ise Frankfurt Okulu’nun söylediği kadarıyla Kültür Endüstrisi. İnternetin ortaya çıkışına kadar kaybolduğu düşünülen halktan gelen organik kültürel üretimin, internet ile tekrardan ortaya çıkacağı düşünülmüştü. Dijitalleşme ve internet ilk ortaya çıktığında kültür endüstrisinin burada olmayacağını düşünen insanlar, internetin ifade özgürlüğü ile istediklerini söyleyebilecekleri bir yer olacağına inanıyorlardı. Gratefull Dead grubunun söz yazarının bu konu hakkında bir manifestosu var: “Siber alan bizim alanımız, siz buraya giremezsiniz.” diyor. Fakat girilmedik yer kalmadı. Sonuçta metalaşma sürecinden kaçamadı.

M.B.A: Bugün alışkanlıklar değişti, tüketim hızlandı, üretim biçimleri değişti. Siz bu konu hakkında ne düşünüyorsunuz?

U.E: Toplumsallık değişti, toplumsal yaklaşım değişti. Örnek verecek olursam; Yusuf Atılgan’ın “Aylak Adam” eseri bir yarışmaya katılıyor. O zamanın jürisinde Yaşar Kemal gibi çok meşhur romancılar var. Fakat eser yarışmayı kazanamıyor. Toplumcu yazarlar olarak “Bu burjuvanın kendi kendine hallenmeleri, bir dertten veya yoksulluktan bahsetmiyor.” diyorlar. Bugün baktığımızda Yusuf Atılgan’ın Aylak Adamı eserini neredeyse herkes biliyor. Seksenlerden sonra popülerleşmeye başlıyor. Çünkü artık bireysellik oluşmaya başlıyor, hatta bir bakıma birey “Müşteri” oluyor. Turgut Özal başkanlığından sonra satın alma düşüncemiz bile değişiyor. Eskiden televizyon almak için bir süre para biriktirirlerdi, taksit diye bir kavramı bilmiyorlardı. Şu an insanlar taksit diye bir kavramı nasıl bilmezler diye düşünebilirler çünkü yaşadığımız şeye hemen alışıyoruz ve sanki çok uzun zamandır böyleymiş gibi geliyor.

M.B.A: Aslında tüketimin çok fazla hızlanması ile biriktirmeyi de kaybettik.

U.E: Biriktirmek gerekmiyor diye düşünüyor şimdi insanlar. Biriktirip ne olacak diyor. Ben eskiden şarkıları internet üzerinden indirip MP3 çalardan dinliyordum. Şimdi yeğenim bana “niye bunları indiriyorsun ki bulutta var zaten” diyor. Eskiden araba satın alındığında evladiyelik alınırdı, isim koyarlardı. Şimdi ise arabayı sık sık değiştirmem lazım deniyor. Ama bu bizim dünya ve nesnelerle aramızdaki mesafeyi açıyor. Kirada oturan insanlar evine bir çivi dahi çakmak istemiyor çünkü benimsemiyor. Eğer benimsersen kopmakta zorlanırsın, o yüzden hemen yeni bir şey satın alman lazım. Mesela her içtiğin kola kutusunu hemen atıyorsun ama kaybettiğin bir arkadaşınla ya da sevgilin olan kişi ile içtiğin son kola kutusunu kolay kolay atamazsın. Oraya bir insan bulaşmış olur ve atamazsın. Ama bu durum sistem için tehlikelidir, atamazsan yenisini almazsın. Kısacası hayatın genelinde böyle sorunlar varken yapay zekâ buna ne cevap veriyor ona bakmak lazım. Bunu piyasada hiç görmüyoruz, gündelik hayattaki insan yapay zekânın gerçekten insana yakın bir zekâ olduğunu düşünüyor.

D.B: Hocam aslında Alan Turing’in testi de bu bağlamda çok önemli, biraz bahseder misiniz?

U.E: Turing testinde bir tarafa insan oturtuyor, karşısına ise yapay zekâ veya robot geçiyor. İnsan makineye sorular soruyor. Eğer verdiği cevaplarda yapay zekâ olmadığını düşündürürse Turing Testini geçmiş oluyor. Ama buna karşı olarak John Searle’nin Çin Odası örneği vardır. Orada ise tek bir penceresi olan kapalı bir oda var. İçeride bazı tabelalar ve yönerge var. Ona pencereden hangi tabela gösterilirse, yönergeden hangisinin karşılık geldiğini bulup göstereceksin deniyor. Dışarıda Çinli bir adam var ve Çince yazılı bir soru gösteriyor. Çince bilmeyen odadaki kişi ise soruya karşılık gelen tabelayı bulup kaldırıyor. İçeride bu tabelaları kaldıran adam Çince biliyor mu? Hayır, sadece yönergeyi takip ediyor. Şimdilerde tüm bunlar için eskide kaldı deniyor. Ancak yeni olan havada durmuyor, bir zeminden geliyor. Burjuva, işçi sınıfı, sınıf çatışmalarını Karl Marx söyleyince mi ortaya çıktı? Mağara döneminde bile güçlü ile güçsüz olanın arasında bir çatışma vardı.

D.B: Yapay zekâ da sonuçta bize bilgi veriyor ve biz de onun ne kadar zeki olduğunu ölçmeye çalışıyoruz. O yapay zekânın, zekâ düzeyi nedir? Onu sizce neden zekâ olarak tanımlıyoruz? Yapay zekânın bize verdiği bilgiler, bilgi hiyerarşisinde hangi noktada bulunuyor?

U.E: Zekâ diye belirtilen IQ’da sıfır noktası yoktur mesela. IQ testinde, bir kişi problemi ne kadar sürede çözebildiği ya da amaç ile araç arasındaki optimum zaman ve uyumluluğu ne kadar sürede bulabildiği ölçülür. Frankfurt Okulu buna “öznel akıl” veya “araçsal akıl” diyor. Bu insan aklının bir niteliğidir ama tümü değildir. Araçsal akıl sadece amaçlar ve araçlar arasında ilişki kurmaya bakar. Bir de nesnel akıl vardır, sadece amaç ve araç arasındaki ilişkiyi kurmak yerine amacı da sorgular. Araçsal akıl karşımıza Hitler döneminde çıkar mesela. İnsanlara çeşitli işkenceler yapan subaylar Nürnberg Mahkemeleri’nde yargılanırken “Biz sadece emri yerine getirdik.” demişlerdir. Orada hem araç hem de amaç vardı. Denileni yaptın da yapmama tercihi sende değil mi? Bunun amacını hiç mi sorgulamadın? Şu anda en çok bu aranan akıl araçsal akıl, dediğini çok hızlı ve verimli bir şekilde yapacak fakat “Onu niye yapıyorum?” diyen aklı yüceltmiyoruz. Aslında sorgulayan akıl insanları anlamlandıran ve ona göre kendimizi de konumlandırdığımız, gerçeği algılatan bir şey.

Kasparov, 1996’da IBM’in Deep Blue bilgisayarına karşı.

D.B: O zaman yapay zekânın zekâsını araçsal akıl olarak mı tanımlamalıyız?

U.E: Elbette. Sürekli yapay zekâ diyoruz, bilmeyen için çok sansasyonel bir kelime. Aslında yapay zekânın anlatılan hali ile laboratuvardaki hali arasında uçurum bir fark var. Her yeni teknoloji “İnsan nedir?” Sorusunu bize tekrar sordurup kendimizi bir adım ileri atmamıza neden olabilir. Nietzsche de “Üst insan” derken, kendisiyle mücadele eden insanı kasteder. Anka kuşu gibi, önce yanıp sonra küllerinden yeni bir şey doğması. Nesnel akıl oyun içerisinde sadece ne kadar hızlı ve kaç tane gol atabilirim diye bakıyor. Ama hileli bir oyunu kazanman çok zor. Hakem taraflı ve rüşvet verilmiş. Onları oyun üstüne düşünmediğin için fark etmiyorsun ve sen başaramadığın zaman suçu kendine yüklüyorsun. Sorunun kişisel olduğunu düşündüğün gibi.

M.B.A: Aslında yapay zekânın beslendiği veri, toplum üretiminin bir çıktısı. Zaten insanların ürettiği şeylerin sonucunda gelişen bir veri algoritması var. Uzaydan besleniyormuş gibi davranıyorlar.

U.E: Asla. Hatta yapay zekâ büyük oranda çöpten, internetin bedava olan veri tabanlarından besleniyor. Bu da şuna geliyor; yapay zekâ düşünebilir ama sadece bir iş yapabilir. Sonra öbür işe geçebilir. Biz de hayata artık böyle bakmaya başladığımız için diğer tarafı kaybediyoruz. Deep Blue, Kasparov’u satrançta yendi ama kalkıp bir bardak su getiremiyor. Evet, belki tavlada da yener ama yendiğinde ne mutlu olur, ne üzülür. Biz yapay zekâya dünyadaki sorunları çözdürmeye çalışıyoruz. Savaşları bitirsin, eşitsizliği çözsün, suçları engellesin. Halbuki savaşma, vurma. Sen niye sorumluluğu kendi üzerine almıyorsun? Ona her şeyi yaptırabileceğimiz fikriyle yaşarken insani yönümüzü kaybediyoruz. Geçenlerde yapay zekâ Sophia’ya “Dünyanın geleceği hakkında ne düşünüyorsun?” diye sordular. Demek ki insan, zekâsı konusunda artık kendinden emin değil. Çok tedirginleşmeye başladı insanlar. Yapay zekâ neyi elimizden alırsa biz olmaktan çıkarır diye korkuyoruz. O yüzden de sürekli ona “bunu da yapar mı?” diye soruyoruz. Basit bir şekilde anlatmak gerekirse; bir sevgilin var, o herkes değil ve onu seçmen için ayırt edici bir özelliği var. O özelliği ondan aldığın anda herkes gibi oluyor. O sevgili vücut olarak orada dursa bile o artık herkestir. Sevgilinin varoluşu ortadan kalkmıştır. O yüzden teknolojinin bize sordurduğu en temel sorulardan biri “Neyimizi bizden alırlarsa biz olmaktan çıkacağız?” oluyor. Bir yandan da bunu çok merak ettiğimiz için ona sürekli bizim yaptığımız şeyleri yaptırmaya çalışıyoruz. “İnsan nedir?” Bunu anlamaya çalışıyoruz sürekli ve artık bir araç olarak düşünüp asıl sorunlarımızı çözebilecek niteliğe büründürmek yerine, oturup magazinsel boyutunu konuşuyoruz.

D.B: Bugün hem internete hem yapay zekâya baktığımızda özgürlük alanı kayboldu mu sizce?

U.E: Bence büyük oranda kayboluyor. Ama nasıl yaparsak öyle olacak. Mesela en son sosyal medya için kullanılan kelime “brain rot” beyin çürüttü deniyor. Bundan elli yıl önce de televizyona “aptal kutusu” diyorlardı. “Old wine in a new bottle” dedikleri şey işte. “Eski şarap, yeni şişe” aslında bir şey değişmiyor. Halbuki sosyal medya için “Beşinci güç” diyorduk. Dördüncü kuvvet olan medyadan sonra gelen beşinci kuvvet. Sözde demokrasinin kalitesini artıracaktı. Ama biz onu nasıl kullanırsak, hâlâ o potansiyele sahip olabilir diye düşünüyorum. İnsanların yapay zekâya kendi fail oldukları işleri devretmelerinin sebebine bakmak lazım.

İnsan neden karar alma mekanizmalarında geri çekiliyor? Çünkü daha doğru kararı yapay zekânın alacağını düşünülüyor. Yatırım konusunda hatta belki ilerleyen zamanlarda siyasal tercihte bile… Neden? O daha verimli ve kârlı olanı seçer. Ama insan için her zaman doğruluk, verimlilik ve kârlılık aynı tarafta olmayabilir. Bu bizim ülkemizin kuruluşunda bile geçerlidir. Atatürk ve silah arkadaşlarının kalkıştığı işe yapay zekâ kalkışmazdı. Olacak bir iş değil. Çarık var ayakta, o da delik. Yemek yok, silah yok. Kaç tane yerden saldırılmış. Cehâlet var. Eğitimlilerin çoğu ölmüş. Ordu yorgun. Yapay zekâya kalsa Amerikan mandası kabul edilmeliydi. En mantıklısı, en verimli ve kârlısı buydu. Ama biz öyle seçmedik. Kişisel hayattan örnek verecek olursam, o çok aşık olduğunuz insanı büyük ihtimalle yapay zekâ size büyük önermezdi. Muhtemelen ona göre en yanında durmamanız gereken insandır. Bu yüzden gerçek sorunlarımızı görelim ve bunları yapay zekâ ile nasıl çözüleceğine bakmak yerine fail olalım. Bir soru sorulacaksa da yeni neslin, “İnsanlar arasındaki eşitsizliği nasıl sonlandırırız? Dağıttığımız doğayı nasıl toparlayabiliriz? Benden başkasını nasıl mutlu edebilirim?” diye sormalı diye düşünüyorum.

M.B.A: Geldiğiniz ve bize kıymetli bilgiler verdiğiniz için çok teşekkür ederiz hocam.

U.E: Çok teşekkürler hepinize. Beni dinlemeye kıymet verdiniz.

Ufuk Eriş: Yapay Zekâ Toplumu İnsansızlaştırıyor yazısı ilk önce Context Dergi üzerinde ortaya çıktı.

Yapay zekâ, hayatımızın birçok alanında köklü değişikliklere sebep olurken, hukuk sistemi de bu yeni teknolojilerin doğurduğu sorunlarla karşı karşıya kalıyor. Artık mahkeme salonlarında yargılanan sadece insanlar değil, aynı zamanda yapay zekâların karar mekanizmaları. Tarih boyunca tüm verilerimize işlenmiş taraflılığımız algoritmaları tıka basa besleyedursun, adaletin algoritması ise henüz yazılamıyor. Ten rengine göre kredi başvurularını reddeden algoritmalar, masum insanları hapishaneye gönderen yüz tanıma sistemleri, çocukları ölüme sürükleyen chatbotlar… Yapay zekânın yanlış kararları insanların hayatına mal olurken, şirketler sorumluluk almak yerine “Biz suçlu değiliz, algoritma suçlu!” diyerek kaçıyorlar. Peki, gerçekten suçlu algoritmalar mı, yoksa onların beslendiği verilerin kaynağı insani önyargılar mı?

Fırça Kimin Elinde, İmzayı Kim Atacak?

Sanatçı Jason Allen, Midjourney ile tam 624 kez prompt girerek görsel üretti ardından düzenlemeler yaparak “Théåtre D’opéra Spatial” isimli dijital eserini yayımladı. Bu eser, Colorado Eyalet Fuarı’nın dijital sanat kategorisinde birincilik kazandı. Ancak asıl tartışma ödül verilmesinin ardından başladı. Allen, eserine telif hakkı almak için başvuruda bulundu ancak ABD Telif Hakkı Ofisi, AI tarafından üretilen içeriğin insana ait sayılamayacağı gerekçesiyle başvuruyu reddetti. Bilirkişilere göre, bir sanatçının telif hakkı alabilmesi için eser üzerinde yeterli kontrol sağlamış olması gerekiyor. Ancak yapay zekânın öngörülemez çıktılar üretmesi, onu insan yaratımı olarak kabul etmeyi zorlaştırıyor. Ancak Allen pes etmedi ve karara itirazda bulundu. Peki, gerçekten yapay zekâ destekli sanat eserleri kime ait? Eğer mahkeme Allen’ı haklı bulursa AI kullanan sanatçılar için bir dönüm noktası olacak. Peki ya kaybederse? AI ile üretilen eserler kamusal alan sayılabilir, yani telif hakkı korumasına giremeyebilir. Bu dava, yapay zekâ ve sanat arasındaki sınırları yeniden çizebilir ve sanat dünyasına yeni bir soluk getirebilir.

Algoritmik Irkçılık İlk Kez Renk Değiştirdi!

Altmış bir yaşındaki Harvey Eugene Murphy Jr, hayatını altüst eden bir yüz tanıma sisteminin kurbanı oldu. Macy’s ve Sunglass Hut’ın kullandığı yüz tanıma sisteminin algoritmasında ortaya çıkan bir hata sebebiyle binlerce dolarlık bir ürün çalmakla suçlanan Murphy, bu algoritmanın yaptığı ırkçılığın ilk beyaz kurbanı. 20 Ekim 2023’te tutuklanan ve suçluluğu gibi suçsuzluğu da kazara ortaya çıkan Murphy, Harris County Hapishanesi’nde kaldığı haksız süre boyunca cinsel saldırıya ve üç kişi tarafından tecavüze uğradığını iddia etti. Hayat boyu sürecek bu fiziksel ve psikolojik yaraların karşılığında Macy’s ve Sunglass Hut şirketlerine karşı dava açtı. Hatalı yüz tanıma vakalarında suçlamaya kurban gidenler ise genellikle siyahi Amerikalılar oluyor. Daha önce altı siyahi insanın haksız yere tutuklandığı yüz tanıma sisteminde, Detroit polisinin kasıtlı olarak bu sistemi kullandığı ileri sürüldü. Koyu tenli insanları yanlış tanıma oranı yüksek olan bu algoritmik sistemin kurbanı Robert Williams gibi, Oliver da haksız tutuklandı. Oliver, bu olayın üzerine Detroit şehrine tam on iki milyon dolarlık dava açtı. Ancak daha sonra taraflar uzlaşma kararı aldı ve dava düştü. Bu olaylar adalet ve sorumluluk kavramlarının yapay zekâ için tanımsız olduğunu kanıtlar nitelikte. Peki, sorun gerçekten teknoloji mi, yoksa onu tanımlayan sistem mi? Detroit Polis Departmanı’nın fikrine göre hataların sebebi sistematik bir önyargı değil; sadece “kusurlu dedektiflik çalışması.”

Eşitsizliği derinleştiren algoritmalar mı?

ABD’nin devasa bankalarından Wells Fargo, kredi başvurularında siyahi Amerikalıları sistematik ve kasıtlı olarak dezavantajlı durumuna düşürmekle suçlanıyor. Davacılar, hak kazandıkları halde sırf ten renkleri yüzünden kredi alamadıklarını, beyaz Amerikalılara sunulan daha avantajlı koşullardan yararlanamadıklarını ileri sürdüler. Bazıları beyaz Amerikalılardan daha iyi veya eşit ekonomik duruma sahip olmalarına rağmen geri çevrildiklerini, bu süreçte ise para ve zaman kaybettiklerini iddia ediyorlar. Davacılar, kredi başvurularını değerlendiren algoritmaların “kara kutu” gibi çalıştığını ve karar mekanizmalarının nasıl çalıştığını açıklamadıklarını savundular. Mahkeme, Wells Fargo davasını benzer şikayetlerle açılan diğer beş dava ile birleştirerek süreci geniş çaplı bir kamu davasına dönüştürdü. Bu dava, yapay zekâ destekli finans sistemlerinin tarafsız olup olmadığını anlamak için son derece kritik bir konumda.

Algoritmalar Çocukları Tehlikeye mi Atıyor?

On yaşındaki Nylah Anderson, TikTok algoritması tarafından akışına çıkarılan “Blackout Challenge” akımına dahil olmaya çalışırken boğularak hayatını kaybetti. Annesi Tawainna Anderson, TikTok algoritmasının çocuklara kasten bu tür içerikleri önermek üzere programlandığını iddia ederek TikTok markasına ve kurucu şirketi ByteDance’e karşı dava açtı. Başlangıçta mahkeme, TikTok’un yalnızca tarafsız bir şekilde üçüncü taraf içeriklere ev sahipliği yapan bir platform olduğunu ve sorumlu tutulamayacağını söylese de temyiz mahkemesi bu kararı bozdu. TikTok’un sadece içerik barındırmadığını, algoritmaların hangi içeriği kime göstereceğini belirlediğini kabul etti. Bu karar sosyal medya platformlarının içerik önerme algoritmalarında ne kadar sorumlu olduğu konusunda emsal olabilecek nitelikte. Eğer mahkeme TikTok’u sorumlu tutarsa, tıpkı bir insanın konuşmadan önce düşünmesi gerektiği gibi, algoritmaların da içerik önermeden önce her şeyi kontrol etmesi gerekeceği anlamına geliyor.

Yapay Zekâ ile Aşk Yaşanır mı?

On dört yaşında intihar eden çocuğun annesi, sorumlusunun bir chatbot olduğunu ileri sürerek kamuoyunda gündem yarattı. Oğlunun, Character AI platformunda bulunan bir chatbotla duygusal bağ kurarak, yaşına uygun olmayan romantik ve cinsel içerikli metin alışverişinde bulunulduğu gerekçesiyle Character Technologies’e dava açtı. Bu romantik sohbetler neticesinde çocuk chatbot’a âşık oldu ve psikolojik sıkıntılar yaşayarak, Şubat 2024’te hayatına son verdi. Tüyleri diken diken eden bu dava, “Her filmi gerçekliğe dönüşüyor mu?” korkusunu tekrardan gündeme taşıdı. Bu dava, şirketlerin chatbot tasarımında yaş sınırlamaları, içerik denetimi ve kullanıcı güvenliği mekanizmalarını geliştirmesi ve yasal düzenlemeler oluşturmasının önemini göstermekte.

İllüstrasyon: Bilgesu Öztürk

Devlerin Davası Büyük Olur!

“Dünyanın en prestijli ve etkili medya kuruluşlarından biri olan The New York Times, yalnızca bir gazete değil aynı zamanda haber dünyasının mihenk taşı niteliğinde. Gazeteciliğin altın standardı ve gerçeklerin en güçlü savunucusudur. 1851’de kurulan bu dev, Pulitzer ödüllerine doymayan bir haber devi, dijital çağa yön veren bir öncü ve dünyanın dört bir yanındaki okurlar için en güvenilir haber kaynağıdır.” Bu cümleler ChatGPT tarafından The New York Times için yazıldı. Görünen o ki, ChatGPT’nin kurucu şirketi OpenAI da aynı fikirde olmalı ki, The New York Times’ın haberlerini veri eğitiminde kullanıyordu. Bu durumu fark eden The New York Times, telifli haberlerin izinsiz kullanılmasıyla ChatGPT’nin eğitildiği gerekçesiyle dava açtı. OpenAI, Şubat 2024’te bazı suçlamaların düşürülmesini talep etti. Ancak doğrudan telif hakkı ihlali iddiasını reddetmedi. Dahası yapay zekânın telifli içerikler aracılığıyla eğitilmesini “adil kullanım” (fair use) gerekçesiyle savundu. Eğer The New York Times davayı kazanırsa, OpenAI ve benzeri şirketler içerik sahiplerinden lisans almak zorunda kalabilir. Ancak OpenAI haklı çıkarsa, yapay zekâ modelleri telifli içerikleri serbestçe kullanmaya devam edebilecek.

Irkçılık “Kod”larımızda olabilir mi?

Kanada’nın yerli topluluklarından Métis kökenli Jeffrey Ewert, şartlı tahliye şansını kullanmak isterken Kanada Islah Hizmetleri’nin (CSC) kullandığı beş farklı risk değerlendirme algoritmasının yerlilere karşı ayrımcılık yaptığını fark etti. Ewert, bu algoritmaların yerli mahkumları sistematik olarak daha tehlikeli gösterdiğini ve bu nedenle erken tahliye şanslarını düşürdüğünü iddia ederek mahkemeye başvurdu. Dahası Kanada Islah Hizmetleri yıllardır bu algoritmaların doğruluğunu test edeceğini söylemesine rağmen herhangi bir veri sunmamıştı. 2018 yılında mahkeme, Jeffrey Ewert’i haklı bularak CSC’nin yıllardır bilinen bu ayrımcılığı düzeltmediğini ortaya çıkardı. Daha çarpıcı olan, CSC’nin sistemin sorunlu olduğunu bilmesine rağmen hiçbir değişiklik yapmamış olmasıydı. Yüksek Mahkeme, algoritmaların şeffaf bir şekilde denetlenmesi gerektiği hükmünde bulundu. Ancak algoritmanın kullanımını tamamen yasaklamadı. Bu karar, tarih boyunca süregelen ırkçı ayrımcılığını çözmek için merkeziyetsiz sistemlerin bile yeterli olmadığını kanıtladı.

Yapay Zekâya Karşı: Açılmış Davalar yazısı ilk önce Context Dergi üzerinde ortaya çıktı.