Mustafa Burak Avcı: Ufuk Hocam hoş geldiniz. İletişim alanında yaptığınız araştırmalarınızda son zamanlarda yapay zekâ ile ilgili olan çalışmalarınız öne çıkıyor. Bize biraz kendinizden bahseder misiniz?

Ufuk Eriş: Son zamanlar dememiz çok da doğru olmaz. Çünkü doktorada o konuyu önerdiğim zaman 2002’ydi. Ben bilgisayarlı bir evde doğmadım. İlk kez tanışmam ise 1996’da Bilgisayar Araştırma Uygulama Merkezi’nde oldu. Orada IRC (Internet Relay Chat) ile Amerika’da yaşayan bir insanla yazışmıştım ve karşımdakinin asla gerçek bir insan olduğuna inanmamıştım. Sonra yıllar geçti, teknolojinin insanın bakışını, düşünme formatını nasıl değiştirdiğini gördüm. 2002 yılında doktora önerisinde Türkiye’de Hacker Kültürü konusunu ele almak istedim. O dönemlerde Türkiye’de hacker oldukça azdı ve bilinen sadece Tamer Şahin vardı. “Pijamalı Hacker” diye gazetelere çıkmıştı. Osmanlı bankasını hacklediği yazılıyordu ancak o dönemler hacker varsa da kıracak fazla bir yer yoktu. O yüzden jüride de çok sıkıntı çektik. Bu konu ile ilgili olan birini bulmak oldukça zordu. Sosyolog vardı, insan kaynaklarından biri, endüstri mühendisi, iletişimci vardı. Onlara derdimi anlatmak çok zor oldu. Hacker denilen birileri var ve şurayı kırabilir dediğimde “Kırsın ne olacak” diyorlardı. Kanunlarımız bile buna hazır değildi. Birinin bilgisayarına uzaktan bağlandığınız zaman hırsızlık suçu üzerinden değerlendiriliyordu. Hırsızlık suçunda bir malı alırsınız ve o mal artık orada yoktur ama bir veri tabanından kopyasını aldığınız bir şey hâlâ orada duruyor, sadece kopyasını alıyorsunuz. Hukukta da böyle ciddi bir dönüşüme şahit oldum.

Deniz Benzer: 20 yıl önce doktora konunuzu söylediğinizde yaşanan durum bugün yapay zekâ için yaşanıyor. Siz doktora tezinizi yazdığınız dönemdeki o yabancılık ve heyecanla, bugün insanların yapay zekâya baktığı heyecan arasında ne tür benzerlikler ya da farklılıklar görüyorsunuz?

U.E: Her yeni teknoloji, düşünce insanlarını ya da bu konuda kafa yoranları heyecanlandırır. Sebebi ise her zaman dertlerimizin olması. Karl Marx’a baktığınızda yaşadığı toplumu inceleyip, bir şeyler iyi gitmiyor demiş. İnsanların mutsuz olduğunu görmüş, sebebini araştırıp toplumları çözümleme yöntemi önermiş. Ama derdi ne; hayatta çok mutlu değiliz, etraf mutlu değil. Bugünlerde de her yeni teknolojinin üzerine yazan, konuşan insanlar acaba çare olur mu düşüncesinde. Bence hackerları konuşma döneminden farklı olarak, yapay zekâ döneminde insanlar sadece magazinsel boyutuyla ilgileniyorlar. Kimse hangi derdimize deva olur demiyor. Sadece yapay zekânın daha fazla neler yapabileceği ile ilgileniyorlar. Mesela bir yapay zekâ bale yapabiliyor olsun, bale kültürü ile hiç alakası bulunmayan biri neden buna heyecanlansın? Magazinsel yaklaşımın saptırıcı bir etkisi var. Şunu net olarak söyleyebilirim ki tarihin hiçbir döneminde insanlar gelecek jenerasyonlar için bu kadar umutsuz olmamış ve umutlarını insan olmayan bir şeye bağlamamışlardır. Bir düşünün, İsa gelecek demişler, o da insandı… Gelecek jenerasyon böyle yapacak demişler, onlar da insandı… Her zaman kendi türümüzün ileride güzel bir şeyler yapacağına dair inancımız vardı. Şimdilerde bu inancımız bitmiş ki gelecekte yapay zekâ şunu yapıyor olacak, yapay zekâ böyle olacakları konuşuyoruz. Hayatımızda yaşadığımız problemlerin çözümünü ona yüklemeye çalışıyoruz ki bu tekno şovenist bir yaklaşıma doğru gidiyor. Şoven olarak bahsettiğim savunmak aslında. Dertlerimiz daha az teknoloji yüzündenmiş gibi ve fazlası olursa dertlerimiz azalacak diye düşünüyoruz. Bu gittikçe bir garip dehumanization (insansızlaştırma) süreci oluyor. Oysa dünyada ne yapılmış ve yapılacaksa bir insan tarafından, yine insan için yapılıyor. Bunu unutmamamız lazım.

İllüstrasyonlar: Sanam Maghrebi

M.B.A: Bir de işin içinde yapay zekâ aracını insansılaştırma çabası var. Acaba yapay zekâ bir birey olarak insandan daha zeki olur mu ya da insanla denk olsa ona insan der miyiz gibi garip felsefi sorular çıkıyor ortaya.

U.E: Kendi başına insanla yarışabilecek bir zekâ düzeyinin olası ihtimali konuşulan bir zamanda, bu kadar gelişmiş teknolojiler üretilirken hâlâ boşandığı eşini öldüren erkeklerin haber olduğu bir dünya bize şunu düşündürmeli: Gerçekten dertlerimiz yapay zekânın ne yapabileceği mi olmalı? Bu kültürün teknolojiye teslim oluşudur. Eskiden kültür, teknolojinin kullanımını belirliyor ve sınırlıyordu. Samuray kılıcı örneğini verebiliriz. Herkes bunu takamaz, taktığın zaman da belirli etik kodlara uymak zorundasın. Bizim türkülerden biri ne güzel söylüyor: “Tüfek icat oldu mertlik bozuldu.” Çünkü tüfeği kullanmak için yıllarca samuray disiplinine ve kültürüne sahip olmana gerek yok. Tüfeği satın aldığında tetiğe basman yeterli. Her mesleğin kendine ait kültür kodları var, artık böyle bir şey kalmıyor. Bir kalemi alabilmek için eğitime veya etik koda sahip olmana gerek yok. Parayı verdiğin zaman bilgisayarını alır, istediğin gibi de kullanırsın.

M.B.A: Bugün yeteneğe bile gerek kalmadı, komut yazıyorsun herhangi bir şeyi çizdirebiliyorsun.

U.E: Bana yapay zekâ diye konuştuğumuz şey hakkında pek bir şey bilmiyoruz gibi geliyor. Güçlüsü var güçsüzü de. Üstüne konuştuklarımız birer ütopya gibi. Ben hep şöyle derim “Ütopyalar tersine çevrildiğinde bugün yaşadığımız dertleri anlatır.” Diyelim ki evine temizlik yapmaya gelen hanıma soruyorsun “Eğer imkanların olsa nasıl bir hayat düşünürdün, nasıl bir ütopyan var?” Kadının cevabı “İçmeyen bir kocam olsun isterdim, çocuklarımı dövmesin mesela.” oluyor. Sen kadın ile ilgili gündelik hayatına dair derdini hemen anlamış oluyorsun işte. Şimdi yapay zekâ hakkındaki ütopya söylemlerine bakarak söylenenleri tersine çevirip okursanız ve insanların ondan ne beklediklerine bakarsanız, bugün gerçek hayatta ne gibi sorunlar yaşadıklarını görürsünüz. “Yapay zekâ şunu yapacak mı?” diye birisi merak ediyorsa onunla ilgili gündelik hayatında yaşadığı bir problem vardır. Eskiden savaşlar olur biterdi, şimdi uzayan ve bir türlü bitmeyen, düşük yoğunlukta savaş durumları yaşanıyor. İnsanlar yine ölüyor. Dijital çağdayız, bugün yapay zekâ robotu Sofia, Suudi Arabistan’dan vatandaşlık alıyor. Sana veya bana vermez. Bu yüzden sorulması gereken, “Yapay zekâ insanlar arasındaki eşitsizliğe bir çözüm getirecek mi?” olmalı. Aslında robotlar üzerine geliştirilen ahlaki panikleri değerlendirdiğimizde bunun kimin korkusu olduğunu da anlarsınız. İlk olarak robot kelimesini Karel Čapek’in “Rossum’s Universal Robots” adlı oyununda görüyoruz. Kelime anlamı olarak Slav dillerde köle ya da zorla çalıştırılan anlamına geliyor. Hikâyede robotlar isyan ediyor ve insanları bastırıyor. “Robotlar insanları ele geçirecek mi?” sorusunun altında aslında isyan eden köleler kavramı var. Bütün mesele bunları yönetenlerin bir gün robot imgesi altında olsun veya olmasın her kimi çok daha az bir ücrete zorla çalıştırıyorlarsa, onların ayaklanma korkusu var. Robot ayaklanması ya da yapay zekâ insanları böyle yapacak mı gibi düşüncelerin temel güdüsü bu.

M.B.A: Yapay zekâ ile ilgili sürekli bir gündem var. Peki kültürel anlamda etkileri nedir?

U.E: Kültür artık eskisi gibi insanın doğal olarak ürettiği bir şey değil. Zaten kültür yozlaşması dediğimiz şey, Anadolu’da üreme  yeteneğini kaybeden hayvanlara “Yoz” denmesinden geliyor. Yozlaşmış kültür, kendi kendini yenileme ve üretme yeteneğini kaybetmiş oluyor. O zaman ne oluyor, şeker hastasının insülin üretememesi gibi dışarıdan insülin iğnesi vurmaya başlıyorsun. Bir süre sonra bağımlı oluyorsun ve üretebilme yeteneğini kaybediyorsun. Herkes eskiden sevdiği kıza ama iyi ama kötü bir türkü yakıyor, şiir yazıyormuş. Fakat artık şiirleri, şarkıları dışarıdan almaya başlayınca kendini ifade etme yeteneğini de kaybetmeye başlıyorsun. Bunun sebebi ise Frankfurt Okulu’nun söylediği kadarıyla Kültür Endüstrisi. İnternetin ortaya çıkışına kadar kaybolduğu düşünülen halktan gelen organik kültürel üretimin, internet ile tekrardan ortaya çıkacağı düşünülmüştü. Dijitalleşme ve internet ilk ortaya çıktığında kültür endüstrisinin burada olmayacağını düşünen insanlar, internetin ifade özgürlüğü ile istediklerini söyleyebilecekleri bir yer olacağına inanıyorlardı. Gratefull Dead grubunun söz yazarının bu konu hakkında bir manifestosu var: “Siber alan bizim alanımız, siz buraya giremezsiniz.” diyor. Fakat girilmedik yer kalmadı. Sonuçta metalaşma sürecinden kaçamadı.

M.B.A: Bugün alışkanlıklar değişti, tüketim hızlandı, üretim biçimleri değişti. Siz bu konu hakkında ne düşünüyorsunuz?

U.E: Toplumsallık değişti, toplumsal yaklaşım değişti. Örnek verecek olursam; Yusuf Atılgan’ın “Aylak Adam” eseri bir yarışmaya katılıyor. O zamanın jürisinde Yaşar Kemal gibi çok meşhur romancılar var. Fakat eser yarışmayı kazanamıyor. Toplumcu yazarlar olarak “Bu burjuvanın kendi kendine hallenmeleri, bir dertten veya yoksulluktan bahsetmiyor.” diyorlar. Bugün baktığımızda Yusuf Atılgan’ın Aylak Adamı eserini neredeyse herkes biliyor. Seksenlerden sonra popülerleşmeye başlıyor. Çünkü artık bireysellik oluşmaya başlıyor, hatta bir bakıma birey “Müşteri” oluyor. Turgut Özal başkanlığından sonra satın alma düşüncemiz bile değişiyor. Eskiden televizyon almak için bir süre para biriktirirlerdi, taksit diye bir kavramı bilmiyorlardı. Şu an insanlar taksit diye bir kavramı nasıl bilmezler diye düşünebilirler çünkü yaşadığımız şeye hemen alışıyoruz ve sanki çok uzun zamandır böyleymiş gibi geliyor.

M.B.A: Aslında tüketimin çok fazla hızlanması ile biriktirmeyi de kaybettik.

U.E: Biriktirmek gerekmiyor diye düşünüyor şimdi insanlar. Biriktirip ne olacak diyor. Ben eskiden şarkıları internet üzerinden indirip MP3 çalardan dinliyordum. Şimdi yeğenim bana “niye bunları indiriyorsun ki bulutta var zaten” diyor. Eskiden araba satın alındığında evladiyelik alınırdı, isim koyarlardı. Şimdi ise arabayı sık sık değiştirmem lazım deniyor. Ama bu bizim dünya ve nesnelerle aramızdaki mesafeyi açıyor. Kirada oturan insanlar evine bir çivi dahi çakmak istemiyor çünkü benimsemiyor. Eğer benimsersen kopmakta zorlanırsın, o yüzden hemen yeni bir şey satın alman lazım. Mesela her içtiğin kola kutusunu hemen atıyorsun ama kaybettiğin bir arkadaşınla ya da sevgilin olan kişi ile içtiğin son kola kutusunu kolay kolay atamazsın. Oraya bir insan bulaşmış olur ve atamazsın. Ama bu durum sistem için tehlikelidir, atamazsan yenisini almazsın. Kısacası hayatın genelinde böyle sorunlar varken yapay zekâ buna ne cevap veriyor ona bakmak lazım. Bunu piyasada hiç görmüyoruz, gündelik hayattaki insan yapay zekânın gerçekten insana yakın bir zekâ olduğunu düşünüyor.

D.B: Hocam aslında Alan Turing’in testi de bu bağlamda çok önemli, biraz bahseder misiniz?

U.E: Turing testinde bir tarafa insan oturtuyor, karşısına ise yapay zekâ veya robot geçiyor. İnsan makineye sorular soruyor. Eğer verdiği cevaplarda yapay zekâ olmadığını düşündürürse Turing Testini geçmiş oluyor. Ama buna karşı olarak John Searle’nin Çin Odası örneği vardır. Orada ise tek bir penceresi olan kapalı bir oda var. İçeride bazı tabelalar ve yönerge var. Ona pencereden hangi tabela gösterilirse, yönergeden hangisinin karşılık geldiğini bulup göstereceksin deniyor. Dışarıda Çinli bir adam var ve Çince yazılı bir soru gösteriyor. Çince bilmeyen odadaki kişi ise soruya karşılık gelen tabelayı bulup kaldırıyor. İçeride bu tabelaları kaldıran adam Çince biliyor mu? Hayır, sadece yönergeyi takip ediyor. Şimdilerde tüm bunlar için eskide kaldı deniyor. Ancak yeni olan havada durmuyor, bir zeminden geliyor. Burjuva, işçi sınıfı, sınıf çatışmalarını Karl Marx söyleyince mi ortaya çıktı? Mağara döneminde bile güçlü ile güçsüz olanın arasında bir çatışma vardı.

D.B: Yapay zekâ da sonuçta bize bilgi veriyor ve biz de onun ne kadar zeki olduğunu ölçmeye çalışıyoruz. O yapay zekânın, zekâ düzeyi nedir? Onu sizce neden zekâ olarak tanımlıyoruz? Yapay zekânın bize verdiği bilgiler, bilgi hiyerarşisinde hangi noktada bulunuyor?

U.E: Zekâ diye belirtilen IQ’da sıfır noktası yoktur mesela. IQ testinde, bir kişi problemi ne kadar sürede çözebildiği ya da amaç ile araç arasındaki optimum zaman ve uyumluluğu ne kadar sürede bulabildiği ölçülür. Frankfurt Okulu buna “öznel akıl” veya “araçsal akıl” diyor. Bu insan aklının bir niteliğidir ama tümü değildir. Araçsal akıl sadece amaçlar ve araçlar arasında ilişki kurmaya bakar. Bir de nesnel akıl vardır, sadece amaç ve araç arasındaki ilişkiyi kurmak yerine amacı da sorgular. Araçsal akıl karşımıza Hitler döneminde çıkar mesela. İnsanlara çeşitli işkenceler yapan subaylar Nürnberg Mahkemeleri’nde yargılanırken “Biz sadece emri yerine getirdik.” demişlerdir. Orada hem araç hem de amaç vardı. Denileni yaptın da yapmama tercihi sende değil mi? Bunun amacını hiç mi sorgulamadın? Şu anda en çok bu aranan akıl araçsal akıl, dediğini çok hızlı ve verimli bir şekilde yapacak fakat “Onu niye yapıyorum?” diyen aklı yüceltmiyoruz. Aslında sorgulayan akıl insanları anlamlandıran ve ona göre kendimizi de konumlandırdığımız, gerçeği algılatan bir şey.

Kasparov, 1996’da IBM’in Deep Blue bilgisayarına karşı.

D.B: O zaman yapay zekânın zekâsını araçsal akıl olarak mı tanımlamalıyız?

U.E: Elbette. Sürekli yapay zekâ diyoruz, bilmeyen için çok sansasyonel bir kelime. Aslında yapay zekânın anlatılan hali ile laboratuvardaki hali arasında uçurum bir fark var. Her yeni teknoloji “İnsan nedir?” Sorusunu bize tekrar sordurup kendimizi bir adım ileri atmamıza neden olabilir. Nietzsche de “Üst insan” derken, kendisiyle mücadele eden insanı kasteder. Anka kuşu gibi, önce yanıp sonra küllerinden yeni bir şey doğması. Nesnel akıl oyun içerisinde sadece ne kadar hızlı ve kaç tane gol atabilirim diye bakıyor. Ama hileli bir oyunu kazanman çok zor. Hakem taraflı ve rüşvet verilmiş. Onları oyun üstüne düşünmediğin için fark etmiyorsun ve sen başaramadığın zaman suçu kendine yüklüyorsun. Sorunun kişisel olduğunu düşündüğün gibi.

M.B.A: Aslında yapay zekânın beslendiği veri, toplum üretiminin bir çıktısı. Zaten insanların ürettiği şeylerin sonucunda gelişen bir veri algoritması var. Uzaydan besleniyormuş gibi davranıyorlar.

U.E: Asla. Hatta yapay zekâ büyük oranda çöpten, internetin bedava olan veri tabanlarından besleniyor. Bu da şuna geliyor; yapay zekâ düşünebilir ama sadece bir iş yapabilir. Sonra öbür işe geçebilir. Biz de hayata artık böyle bakmaya başladığımız için diğer tarafı kaybediyoruz. Deep Blue, Kasparov’u satrançta yendi ama kalkıp bir bardak su getiremiyor. Evet, belki tavlada da yener ama yendiğinde ne mutlu olur, ne üzülür. Biz yapay zekâya dünyadaki sorunları çözdürmeye çalışıyoruz. Savaşları bitirsin, eşitsizliği çözsün, suçları engellesin. Halbuki savaşma, vurma. Sen niye sorumluluğu kendi üzerine almıyorsun? Ona her şeyi yaptırabileceğimiz fikriyle yaşarken insani yönümüzü kaybediyoruz. Geçenlerde yapay zekâ Sophia’ya “Dünyanın geleceği hakkında ne düşünüyorsun?” diye sordular. Demek ki insan, zekâsı konusunda artık kendinden emin değil. Çok tedirginleşmeye başladı insanlar. Yapay zekâ neyi elimizden alırsa biz olmaktan çıkarır diye korkuyoruz. O yüzden de sürekli ona “bunu da yapar mı?” diye soruyoruz. Basit bir şekilde anlatmak gerekirse; bir sevgilin var, o herkes değil ve onu seçmen için ayırt edici bir özelliği var. O özelliği ondan aldığın anda herkes gibi oluyor. O sevgili vücut olarak orada dursa bile o artık herkestir. Sevgilinin varoluşu ortadan kalkmıştır. O yüzden teknolojinin bize sordurduğu en temel sorulardan biri “Neyimizi bizden alırlarsa biz olmaktan çıkacağız?” oluyor. Bir yandan da bunu çok merak ettiğimiz için ona sürekli bizim yaptığımız şeyleri yaptırmaya çalışıyoruz. “İnsan nedir?” Bunu anlamaya çalışıyoruz sürekli ve artık bir araç olarak düşünüp asıl sorunlarımızı çözebilecek niteliğe büründürmek yerine, oturup magazinsel boyutunu konuşuyoruz.

D.B: Bugün hem internete hem yapay zekâya baktığımızda özgürlük alanı kayboldu mu sizce?

U.E: Bence büyük oranda kayboluyor. Ama nasıl yaparsak öyle olacak. Mesela en son sosyal medya için kullanılan kelime “brain rot” beyin çürüttü deniyor. Bundan elli yıl önce de televizyona “aptal kutusu” diyorlardı. “Old wine in a new bottle” dedikleri şey işte. “Eski şarap, yeni şişe” aslında bir şey değişmiyor. Halbuki sosyal medya için “Beşinci güç” diyorduk. Dördüncü kuvvet olan medyadan sonra gelen beşinci kuvvet. Sözde demokrasinin kalitesini artıracaktı. Ama biz onu nasıl kullanırsak, hâlâ o potansiyele sahip olabilir diye düşünüyorum. İnsanların yapay zekâya kendi fail oldukları işleri devretmelerinin sebebine bakmak lazım.

İnsan neden karar alma mekanizmalarında geri çekiliyor? Çünkü daha doğru kararı yapay zekânın alacağını düşünülüyor. Yatırım konusunda hatta belki ilerleyen zamanlarda siyasal tercihte bile… Neden? O daha verimli ve kârlı olanı seçer. Ama insan için her zaman doğruluk, verimlilik ve kârlılık aynı tarafta olmayabilir. Bu bizim ülkemizin kuruluşunda bile geçerlidir. Atatürk ve silah arkadaşlarının kalkıştığı işe yapay zekâ kalkışmazdı. Olacak bir iş değil. Çarık var ayakta, o da delik. Yemek yok, silah yok. Kaç tane yerden saldırılmış. Cehâlet var. Eğitimlilerin çoğu ölmüş. Ordu yorgun. Yapay zekâya kalsa Amerikan mandası kabul edilmeliydi. En mantıklısı, en verimli ve kârlısı buydu. Ama biz öyle seçmedik. Kişisel hayattan örnek verecek olursam, o çok aşık olduğunuz insanı büyük ihtimalle yapay zekâ size büyük önermezdi. Muhtemelen ona göre en yanında durmamanız gereken insandır. Bu yüzden gerçek sorunlarımızı görelim ve bunları yapay zekâ ile nasıl çözüleceğine bakmak yerine fail olalım. Bir soru sorulacaksa da yeni neslin, “İnsanlar arasındaki eşitsizliği nasıl sonlandırırız? Dağıttığımız doğayı nasıl toparlayabiliriz? Benden başkasını nasıl mutlu edebilirim?” diye sormalı diye düşünüyorum.

M.B.A: Geldiğiniz ve bize kıymetli bilgiler verdiğiniz için çok teşekkür ederiz hocam.

U.E: Çok teşekkürler hepinize. Beni dinlemeye kıymet verdiniz.

Ufuk Eriş: Yapay Zekâ Toplumu İnsansızlaştırıyor yazısı ilk önce Context Dergi üzerinde ortaya çıktı.