Yuval Noah Harari: Yapay zeka insanları hack'leyebilecek

İzinverirseniz biraz keskin bir soruyla başlayayım. Son kitabınız “21 . Yüzyıl için 21 Ders”in tanıtım metninde “İşe yaramaz bilgilerin etrafı sel gibi kapladığı bir dünyada açıklık güçtür diyorsunuz. Bu programın adı da Açık ve Net. Bu anlamda açık ve net bir soru soracağım. 3 kitap yazdınız. İlk ikisi verilere ve araştırmaya dayanıyordu. Ama son kitabınız daha çok köşe yazılarına ve size sorulan soruların cevaplarına dayanıyor. Çok satan bir yazar olmanın baskısı mı var biraz? Yeniden çok satmak istediğiniz için hemen ötekilerden sonra yeni bir kitap çıkarma ihtiyacı mı duydunuz?

Biraz baskı oluştu sanırım. Ama ana fikir günümüzde yüz yüze olduğumuz büyük sorulara ikilemlere insanlığın geçmişinden ve gelecekten iç görülerle cevap aramaktı. Eninde sonunda geçmişte de gelecekte de yaşayamıyorsunuz. Bugünde yaşıyorsunuz. Âlimler günümüzün sorunlarıyla ilgili bir şey söyleyemiyorsa geçmişi ya da geleceği araştırmanın ne anlamı var? Aynı zamanda birçok ülkede politik tartışmaların yanlış sorular üzerine odaklanması da beni biraz endişelendirdi.

Güncel sorular yani, değil mi?

Politik tartışma dünyanın hemen hemen her yerinde, Birleşik Devletler’de olsun, Avrupa’da olsun, Asya’da olsun çoğunlukla daha az önemli, daha az amaca yönelik sorular üzerine odaklanmış durumda ve insanlığın karşı karşıya olduğu en önemli sorunları kaçırıyor. Örneğin, 2016’da Birleşik Devletler’de Trump’ın kazandığı başkanlık yarışına ve tartışmalara bakarsanız göçle ve terörizmle ilgili çok konuşulduğunu, ancak nükleer savaş, iklim değişikliği, yapay zekânın yükselişi ve belki de bizim yaşam süremiz içinde; dünyada başka her şeyden daha fazla, terörizmden ve göçten dahi fazla hayatımızı değiştirecek biYo teknolojiyle ilgili çok tartışılmadığını görüyorsunuz.

Bununla ilgili konuşacağız ama öncesinde, başka bir şey merak ediyorum. Türk okuyucunun tepkisi nasıl oldu? Son kitabın satışları nasıl? Tepkiler nasıl?

Aslına bakacak olursanız Türkiye en büyük pazarlarımızdan bir tanesi. Dünyadaki birçok başka ülkeden, özellikle Avrupa Birliği’ndekilerden fazla satış yapıyoruz.

Neden böyle sizce?

Çin daha büyük bir ülke; pazar da aynı oranda büyük. Çinliler için çok kitap almak da kolay. Neden? Açıkçası bilemiyorum, emin değilim. Sanırım hakkında yazdığım sorunlar ve sorular özel olarak bir ülkeyle sınırlı değil. İsrail tarihi, Fransız tarihi ya da Çin tarihi yazmıyorum. Olaylara daha küresel bir perspektifle bakmaya çalışıyorum. Bu nedenle yazdıklarım Birleşik Devletler, Brezilya ya da Çin’le olduğu kadar Türkiye ile de alakalı.

Ama siz dünya tarihini anlatırken ilahi metinlere meydan okuyorsunuz. Türkiye gibi çoğunlukla Müslümanların yaşadığı bir ülkeden bu kadar ilgi görmek şaşırtıcı mıydı?

Bir noktaya kadar şaşırtıcı oldu. Çünkü kitap dindar insanların birçok temel düşüncesini sınıyor. Sadece Müslümanların değil, Yahudilerin, Hıristiyanların, Hinduların ve diğerlerinin de. Ama diğer taraftan biliyorum ki Türkiye oldukça karmaşık bir toplum yapısına sahip. İnsanlar dışarıdan bazen yekpareymiş gibi algılıyor. Ama Neredeyse 80 milyonluk, birbirinden farklı gruplardan oluşmuş bir ülke. O yüzden çeşit çeşit fikre sahipsiniz.

Buraya gelmeden önce Türkiye’yle ilgili önyargılarınız var mıydı?

Türk tarihiyle ilgili bilgim vardı. Özellikle Avrupa ve Akdeniz ile ilgili çalışan bir tarihçiyim. Yani Osmanlı tarihine de Türk tarihine de oldukça aşinaydım.

Günümüz Türkiye’sini kastediyorum…

Kitapların Türkiye’de başarılı olması aslında kesinlikle büyük ve hoş bir sürpriz oldu. Ama dediğim gibi bu tip küresel meseleler Türklerle de Çinlilerle ve Amerikalılarla olduğu kadar alakalı. Bu perspektiften bakacak olursak, sadece doğal geliyor.

Kitabınıza gelecek olursak, biyo-teknoloji ve bilgi teknolojileri insanlığı tehdit edebilir, dijital diktatörlükler ve küresel bir işe yaramazlar sınıfı oluşabilir diyorsunuz. Bunlar bir anlamda çok büyük teoriler. Bu soruyu kitaplarınızı okumamış izleyicilerimiz için soracağım. Bu biyo-teknoloji ve bilgi teknolojisi insanlığı nasıl tehdit edebilir? Bu, cevabını 3 kitapta verdiğiniz geniş bir soru biliyorum ama bir özetlersek…

Gördüğümüz en büyük, belki de en kolay anlayabileceğimiz tehdit iş pazarına yönelik olan. Yapay zekâ, bilgisayarlar ve robotlar gün geçtikçe daha da iyiye gidiyor. Ve yapay zekâ devriminin gerçekten henüz başındayız. Henüz 5-10 yıl oldu. Daha hiçbir şey göremedik. Günden güne robotlar ve bilgisayarlar daha da iyileştikçe iş pazarında insanlara daha fazla üstün geldiklerini, devre dışı bıraktıklarını göreceğiz. Milyonlarca insanı işlerinden edebilir, iş pazarının dışına itebilirler. Ve böylece ucu bucağı olmayan yeni bir “işe yaramazlar” sınıfı oluşmasına neden olabilirler. Malum insanlar sadece işsiz kalmayacak, bunu daha önce gördük.

Gelecekte kim işe yaramaz olacak? Kim bu işe yaramazlar sınıfı?

Gerekli becerilere sahip olmayan insanlar, sadece robotlarla ya da bilgisayarlarla rekabet edemeyenler değil aslında, hayatı yakalayamayanlar, kendilerini hayat boyunca sürekli olarak yenilemeyenler. Çünkü biliyorsunuz, bazı işler, meslekler yok olacak ama yenileri ortaya çıkacak, oluşacak. Bu tüm işleri robotlar ya da bilgisayarlar yapacak, ele geçirecek ve insanlara bir şey kalmayacak meselesi değil. Ortalıkta birçok yeni iş olacak ancak bu yeni işler büyük ihtimalle özel beceriler gerektirecek. Sürekli eğitim gerektirecek.

Ama insanlar değişime çok hızlı adapte oluyor. Şu an anne babalarımız hatta büyükannelerimiz bile Facebook, Twitter, akıllı telefon kullanıyor. Buna rağmen neden yapay zekanın insanlığı yeneceğini düşünüyorsunuz?

Bazı insanlar kesinlikle yeni koşullara uyum sağlayabilecekler ve yeni işler, hatta daha iyi işler bulacaklar. Ancak sorun insanların bunu yaşamları süresince birçok kez yapmak zorunda kalacak olması. Otomasyon devrimi tek bir dönüm noktası yaşadığımız bir olay olmayacak. Yani 2025’te büyük otomasyon devrimi olacak, birçok iş kolu yok olacak ancak yerlerine yeni iş kolları ortaya çıkacak, biraz zorluk çekilecek tabii ancak sonra her şey yerli yerine oturacak gibi olmayacak.

Belki hayatımız boyunca birkaç kez üniversite bitirmek zorunda kalacağız.

Kesinlikle! Ama sadece birden fazla kez değil. Belki üç kez, belki dört kez, belki beş kez. Çünkü yapay zekâ sürekli olarak daha iyileştikçe kademeli şekilde bir dizi halinde, daha fazla devrim olmaya başlayacak. Şöyle ki, diyelim bir kamyon şoförüsünüz ve 40 yaşına kadar sadece kamyon kullandınız. 40 yaşında da işinizi kaybettiniz çünkü artık sizden daha iyi “otomobil kullanan” “sürücüsüz araçlar” araçlar ortaya çıktı ve size ihtiyaç kalmadı. Belki yazılım tasarımında yeni bir iş çıkacak, ya da servis sektöründe yoga öğretmeni olarak iş bulabilirsiniz, ama 40 yılda yeni beceriler geliştirmeli, kendinizi yeniden keşfetmeli ve kişiliğinizi değiştirmelisiniz. Bunu yapabilseniz bile 10 yıl sonra tüm yaptıklarınızı bir daha yapmak zorunda kalacaksınız çünkü bu zaman zarfında yeni işiniz de çoktan değişti, ya da yok oldu. Ve insanlar uzun yaşayacak. Yani dört ya da beş kez aynı şeyi yapmak zorunda kalacaklar. Geçmişte hayatın iki farklı bölüm olmasına alışkınız. İlk bölümde öğreniyor, ikinci bölümünde çalışıyorduk. Ancak gelecekte tüm yaşamımız boyunca öğrenmek zorunda kalacağız ki bu da çok zor ve stresli.

Diyorsunuz ki bu da bazı insanları eleyecek. Yazdığınız şeylerin büyük bir bölümünü bilim kurgu filmlerinde görüyoruz. Bilim kurgu gerçek mi olacak? Bunun sinyalini mi veriyorsunuz?

Hayır, hayır. Tüm bilim kurgu değil. Bazıları oldukça iyi ve bize gelecekle ilgili bir yön gösteriyorlar ama bilim kurgunun çoğunluğu son derece gerçek dışı. Hatta tehlikeli. Çünkü olacaklarla ilgili gerçekçi olmayan beklentiler yaratıyorlar. En kötü bilim kurgu filmleri de robotların, bilgisayarların bilinç kazandığı, hissetmeye başladığı ve kendi ihtiraslarının geliştiğini ve sonradan insanları öldürüp dünyayı ele geçirmeye çalıştığını tasvir eden filmler. Bu en temel tema, biliyorsunuz.

Bunun gerçekleşmeyeceğini mi düşünüyorsunuz?

Bu hiç olası değil.

Yapay zekânın duyguları olabilir mi?

Bunun gerçekleşme ihtimali oldukça düşük. Tamamen imkânsız değil ama diyelim ki bizim yaşam süremiz içinde, gelecek 50, 60, 80 yıl içinde yapay zekânın bilinç kazanması çok muhtemel değil. Zekâ ve bilinç terimleri ile ilgili büyük bir karışıklık var. Zekâ problem çözme yeteneğini, bir hastalığı teşhis edebilmeyi, satranç oynayabilmeyi, otomobil kullanmayı ifade ediyor. Bu problem çözmek. Bilinç ise acı, keyif, aşk, nefret gibi hislere sahibi olma yeteneği.

Ama bu sizin kendi teorinizle çelişmiyor mu? Eğer bilinç sahibi olanlar insanlarsa ve yapay zeka buna hiç bir zaman sahip olamayacaksa bu durumda insanlar yapay zekayı yenebilirler…

Zaten problem de burada. Hayır, birçok iş için bilince ihtiyacınız yok. Bugüne kadar bu işleri yapabilenler yaptı. Bilinç sahibi insanlardı bunlar. Bu nedenle sanki bu işleri yapabilmek için illa bilinç sahibi olmak zorundasın, hislerin olmak zorunda gibi bir fikre sahibiz. Çünkü insanlar problemleri duygularıyla çözüyorlar. Ama bilgisayarlar çok farklı çalışıyorlar. Ve günden güne bilgisayarların, hisleri olmadığı için bu işte daha iyi olduğunu çokça fazla konuşmaya başladık.

Yani duygularımız bizi daha zayıf hale getiriyor…

İlla zayıflatması, güçsüzleştirmesi şart değil ama birçok konuda hisler bir sorunsal olarak karşımıza çıkıyor, aslında sadece konu dışı, alakasızlar. Yani otomobil kullanmak gibi düşünün. Otomobil kullanırken durmak, hızlanmak, dönmek gibi kararları hislerimizle alıyoruz. Ama şimdi otomatik şoförlü, kendisi hareket edebilen otomobiller var. Hisleri yok ve daha iyi performans gösteriyorlar. Yani daha iyi araba kullanıyorlar. Bu, doktorların bir hastalık için teşhis koymasıyla aynı diyelim. Birçok insan olarak doktor bir bilgisayara güvenemeyeceğini düşünüyor. Çünkü ben doktorumun hastalık teşhisi, tedavisi dışında da duygularımı anlamasını bekliyorum. Ama muhteşem olan, başkasının duygularını teşhis edebilmek için senin his sahibi olmana gerek olmaması. Hisler eninde sonunda biyokimyasal bir olgu ve hali hazırda gerçekleşiyorlar. Kendiliğinden varlar.

Ya psikolojik rahatsızlıklar?

Evet. Bir bilgisayar psikolojik rahatsızlıkları teşhis etmekte bir insandan daha iyi hale gelebilir.

Yapay zekaya sahip bir bilgisayar bir terapist ya da psikolog da olabilir mi?

Hemen değil tabii, ama eninde sonunda olabilir. Gelin basit bir örnek üzerinden açıklayalım. Sizin ne hissettiğinizi nereden anlıyorum ben şimdi? Sizin verdiğiniz, benim de geçmişte tecrübeyle değerlendirmeyi öğrendiğim sinyalleri kullanıyorum, sesinizin tonuna dikkat ediyorum, dinliyorum; yüz ifadenize, ağzınızın kenarındaki kıvrımlarla ne sinyal verdiğinize gözlerinize bakıyorum. Tabii ki ne dediğinizi dinliyor ve bunu analiz ediyorum. Günümüzde bu sinyalleri insanlardan daha iyi analiz edebilen bilgisayarlar var. Dolayısıyla bunlar, sıkıldınız mı, kızgın mısınız, korktunuz mu, bunları anlamakta daha isabetliler. Ve üstüne bilgisayarlar insanların yapamayacağı başka bir şeyi yapabiliyorlar, vücudunuzun içinde ne oluyor bunu gözlemleyebiliyorlar. Biyometrik sensörlerle, hatta bir kamerayla bir bilgisayar, kan basıncınızı, kalp ritminizi beyninizin hangi tarafının o anda çalıştığını söyleyebiliyor ve tüm bunlardan çıkarımla ne hissettiğinizi herhangi bir psikologdan hatta kendinizden bile daha iyi anlayabiliyor.

Anlıyorum. Peki, ama ya sözünü ettiğimiz hastalık psikosomatikse? Kitabınızdan bir bölüm okumama izin verin... “Bir bilgisayar, kutsal yaratılışın ürünü olan insan ruhunu nasıl anlayabilir? Fakat bu duygu ve arzular esasında biyokimyasal algoritmalardan ibaretse, bilgisayarların bu algoritmaları deşifre edememesi ve bunu herhangi bir Homo Sapiens’ten daha iyi yapamaması için hiçbir sebep yok” diyorsunuz. Yapay zekâ gerçekten insan ruhunu anlayabilir mi? Buna gerçekten inanıyor musunuz?

Eğer insan ruhunun ilahi bir güç tarafından yaratıldığına inanıyorsanız, cevabım hayır. Ama bilim buna şu anda meydan okuyor.

Fakat siz ilahi bir güç tarafından yaratılmış bir ruh olduğuna zaten inanmıyorsunuz değil mi?

Şöyle ki, gelin baştan, daha basit ve açık ele alalım. İnsanların yolda giderken, hastanede, iş yerinde günlük yaşamda aldığı kararların çoğunu ele alalım… Şu anda bu kararları bilgisayarların insanlardan daha iyi anlayabildiği bir pozisyondayız. Bunun arkasında ya da gelende bir ilahi güç var mı yok mu bunu şimdilik kenara bırakalım.

Bir hükümetsiniz ve vatandaşlarınızın kararlarını ve hislerini daha iyi anlamak istiyorsunuz diyelim; bunun için insanları hackleyebilen, seçimlerini tahmin ve manipüle edebilen büyük veri algoritmalarına güvenebilirsiniz. Yani ilahi şekilde yaratılmış insan ruhu ve metafizik tartışmaları bir kenara bırakıp sadece günlük hayatın ekonomik ve politik problemlerine odaklanalım. Günümüzde hali hazırda otoritenin insandan algoritmalara kaydığını görebiliyoruz. Hayatın içinde almanız gereken kararlar için ne yapacağınızı söylesin diye daha fazla bilgisayarlarınıza başvuruyorsunuz. Bu hangi diziyi izleyeceğiniz ya da kent içinde nasıl yön ve adres bulacağınız gibi basit şeylerle başladı, ama 20 yıl içinde üniversitede ne okuyacağınız, nerede çalışacağınız, kiminle evleneceğiniz gibi sorularla ilgili öneriler için bilgisayarınıza başvuracaksınız. Birçok durumda, bunlar kendi seçimleriniz bile olmayacak. Örneğin, bir bankaya kredi başvurusunda bulunursanız -bu şimdiden olmaya başladı. Bankaya kredi, belki de eviniz için mortgage başvurusunda bulundunuz diyelim. Başvurunuz bir insan tarafından değerlendirilmiyor. Bir algoritma tarafından değerlendiriliyor. Bir algoritma tüm kişisel bilgilerinizi tarıyor, hatta belki tıbbi kayıtlarınızı inceliyor, sağlık durumunuzu, yani o krediyi geri ödeyip ödemeyeceğinize dair güvenilir olup olmadığınıza dair bir karar veriyor.

"ALGORİTMALAR IRKÇI ÖNYARGILARA SAHİP OLMADIĞINDAN DAHA İYİ KARARLAR VEREBİLİR"

Ama algoritmalar duygulara sahip olmadığı için aldığı kararlar daha keskin ve acımazsız olabilir…

Bazen bu daha iyi olabilir. Çünkü algoritmalar aynı zamanda ırkçı önyargılara sahip değil. Kadınlara, beyaz ya da siyah olsun kimseye karşı önyargıları yok.

Eğer böyle programlanmadılarsa…

Evet, öyle programlanmadılarsa. Ama Bilgisayarların büyük avantajı, eğer sistem içine, bilgisayar içine bir önyargı kodlandığını fark edersen, yeniden kodlamak, programlamak insanları önyargılarından vazgeçirmekten daha kolay. Yani beni ikna etmeniz gerekir.

"ÜLKE LİDERİNİN BİR KONUŞMASINI DİNLEDİĞİNİZİ VE SİNİRLENDİĞİNİZİ DÜŞÜNÜN, BUNU ANINDA ÖĞRENEBİLECEKLER"

Ama ya kötü niyetli insanların eline geçerlerse? Virüs bulaşırsa ya da hack’lenirlerse?

Bu distopik tarafı. Şimdiye kadar hep pozitif, olumlu taraflarını konuştuk ama aslında benim kitaplarım daha çok distopik senaryolara odaklanıyor. Çünkü zaten özel sektörde iyi senaryolara odaklanan birçok uzman var. O nedenle ben kötü senaryolara odaklanmak zorundayım. Ve evet, başta bahsettik, dijital diktatörlük ve bunun gibi güçler. Eğer kötü bir rejimin eline düşerse algoritmaların sonuçları korkunç olur. Kuzey Kore gibi bir rejimi düşünün, belki 20 yıl sonra Kuzey Kore vatandaşları kollarına biyometrik bir bilezik takmak ya da başlarında bir şey taşımak zorunda kalacak. Ve belki bu aletler sürekli olarak kan basınçlarını, beyin aktivitelerini gözleyecek. Şimdi ülkenin liderinin bir konuşmasını dinlediğinizi ve sinirlendiğinizi düşünün, bunu anında öğrenebilecekler. Belki de ertesi sabah kendinizi cezaevinde bulacaksınız. Ve 20. yüzyılda Hitler’inki, Stalin’inki, Mao’nunki gibi bir totaliter rejimler dalgası gördük. Sonunda ortadan kalktılar ve daha özgür bir toplumda yaşamaya başladık ancak gelecek on yıllarda daha da büyük ve çok daha keskin bir totaliter rejimler dalgası görebiliriz.

Bütün bunlar kehanetler mi yoksa gerçekleşmesi mümkün olan hakikatler mi?

Bunlar sadece olasılıklar. Bir kehanet değil.

Bunu şunun için soruyorum… Bazı eleştirmenler sizi bilimsel ve gerçekçi olmamakla suçluyor. Yalnızca geleceğe dair öngörüler yazdığınızı söylüyorlar...

Eleştirilere katılıyorum. Yani demem o ki gelecekle ilgili ne söylersem söyleyeyim bu belli değil. Gelecekle ilgili yapabileceğimiz tek şey farklı olasılıkların haritasını çizmek. Geçmişle ilgili sadece gerçekleri bilebiliriz, ancak gelecek belli değil. O yüzden kesinlikle bir tahmin yürütmek imkânsız. Ben de farklı olasılıkların haritasını çıkarmaya çalışıyorum. Ve evet, daha tehlikeli, korkutucu olasılıklar üzerine odaklandığım doğru...

O halde daha korkutucu olasılıkları konuşalım… “Gelecekte dijital diktatörler olacak” diyorsunuz. Kim olacak bu dijital diktatörler?

İsim isim söyleyemem, bilmiyorum ama hükümetlerden de özel şirketlerden de olabilir sonuçta. Elinde sizinle ilgili veriyi toplayan artık kimse o kişi ya da kimseler sizinle ilgili kararları verecekler. Veri şu anda dünyadaki en önemli varlık, değer. Ve henüz yeni yeni bilgi aramaya başlıyoruz.

Mesela şu anki Facebook gibi mi?

Evet, bu Facebook ya da Amazon gibi şirketlerden de güçlü merkezi hükümetlerden de gelebilir. Tıpkı şu anda Çin veya Rusya’da gördüğümüz gibi.

Ya da İsrail’de?

Doğru, ya da İsrail’de. Yani bizim ülkemizde gözetleme ve takip teknolojisi alanında dünyanın en büyük laboratuarlarından birine sahibiz. Bu laboratuar işgal altındaki topraklar. İsrail ordusu ve İsrailli şirketler burada test ederek teknolojiler geliştiriyorlar. Önce işgal altındaki topraklarda deniyor, sonra tüm dünyaya ihraç ediyorlar. Henüz yeni, şu sıralar İsrailli bir şirketin oldukça gelişmiş bir takip teknolojisini Suudilere sattığıyla ilgili büyük bir skandal patladı sanırım. Ya da Suudiler değildi belki, ama dünyada bazı rejimlere insan hakları aktivistlerini gizlice takip etsinler diye sattılar. İsrail’de büyük bir skandal olarak görülüyor bu şu anda. Ama diktatörlük bu değil. Aynı zamanda demokrasilerde de çok etkili izleme araçlarının geliştirildiğini görüyoruz. Mesele bunların yanlış şekilde kullanılma olasılığı. Aşırı totaliter sonuçlar doğurabilir bu.

"YAPAY ZEKA İNSANLARI HACK’LEYEBİLECEK"

Siz aynı zamanda bir insanı hacklemenin de mümkün olduğunu söylüyorsunuz.

Evet...

Yapay zekâ bir insanı nasıl hackleyebilir?

Evet, şöyle ki, bir insanı hacklemek o kişiyle ilgili yeterince bilgi sahibi olup aynı zamanda o kişiyi kendisinden daha iyi anlayabilecek rekabet gücüne sahip olup onların duygularını anlayıp, kararlarını belirleyip ihtiraslarını ve seçimlerini manipüle etmek demek.

"BİLGİSAYARINIZ EŞCİNSEL OLDUĞUNUZU SİZDEN ÖNCE ANLAYABİLİR"

Algoritmaların bu türden ihtirasları olacak mı?

Algoritmanın ihtirasları yok ama yani, şöyle bir örnekle açıklamaya çalışayım. Kendi özel hayatımdan bir örnek vereceğim. Eşcinsel bir erkek olduğumu 21 yaşında açıkladım. Daha önce fark etmiştim ama garip yani 14-15 yaşlarımı şimdi tekrar düşündüğümde, O zaman da zaten öteki erkeklerden hoşlanıyordum ama kendimle ilgili bunu fark etmemiştim. Aynı zamanda kimse fark etmemişti. Ailem, komşular, hükümet ya da büyük şirketler. Ama bügün eğer 15 yaşında, henüz kendisinin farkında olmayan, uyanışını yaşamamış eşcinsel bir gençsen bile birileri çoktan bunu biliyor. Çok basit, sadece internetten bir şey izlerken göz hareketlerini izliyorsun mesela. Diyelim ki internette sahilde mayolarıyla el ele yürüyen yakışıklı bir erkek ve güzel bir kız gördün. Gözlerine ne oluyor? Nereye odaklanıyorlar? Bu, bilgisayarınızın çok kolayca görebileceği bir şey.

Özellikle bilgisayarın ön kamerası varsa…

Evet, çok kolayca kızdan çok erkeğe odaklandığınızı görebilir.

Ve de önünüze ona göre reklamlar çıkarabilir…

Evet, sonra reklamlar geliyor. Diyelim ki biri size bir içecek satmak istiyor. Reklamda bikinili kızı kullanmayacak. Reklamda üstü çıplak bir erkek kullanacak. Şimdi geri dönelim, neydi, siz henüz kendinizin bu eğilimde olduğunu fark etmediniz ama onlar çoktan bunu biliyorlar. Ve bunu hali hazırda para kazanmak için kullanıyorlar. Ve böyle bir bilgi çok daha kötüye kullanılabilir. Yani insanları hacklemenin ana fikri bu. Onlarla ilgili bir şeyler bilmek. Herkes eşcinsel değil tabii ama herkesin sırları var. Herkesin başkasının öğrenmesi halinde manipüle edebileceği şeyleri var. Dolayısıyla herkes hacklenmeye açık. Ve yani, göz hareketlerinin taranması hiçbir şey değil daha. Bir de 10 veya 20 yıl içinde ne olacağını düşünün. Yani insanlar şimdiden sürekli olarak onları gözlemleyen, adımlarını sayan, kan basınçlarını, kalp atışlarını ölçen biyometrik bileklikler takıyorlar. Şimdi bir de bu bilgilerin internette yaptığınız aramalarla ve kredi kartınızla yaptığınız alışveriş bilgileriyle birlikte, birbirine referansla değerlendirildiğini düşünün.

Belki şirketler ve hatta devletler bu bilgileri kullanacak…

İşte bu insanları hacklemek.

Robotların duygulara sahip olamayacağını söylediniz ama peki insanların yapay zeka ile duygusal ilişkisi nasıl olacak? Kitapta da bahsettiğiniz Aşk adlı bilimkurgu filmindeki gibi…

Evet, çok güzel bir film. İyi bir bilim kurgu örneği.

Adam bir yapay zekaya aşık oluyor… Bu gerçekten mümkün olabilir mi?

Bir taraftan bakınca, yani benim kişisel değerlendirmem, bu insanlarla robotların birbirine âşık olduğu filmlere baktığınızda bunların aslında bilgisayarlar ya da robotlarla değil feminizmle ilgili olduğunu görüyorsunuz. Yani AŞK filminde olduğu gibi, bu vakaların büyük çoğunluğunda kullanılan bilgisayar ya da robot kadın, ona âşık olan bilim insanı da erkek. Ve genelde robot bilim adamını zekasıyla alt ediyor ve sonunda bilim adamına isyan ediyor. Bu feminizmle alakalı. Yani bu filmlerin çoğu aslında insanların akıllı robotlardan korkmasıyla değil, erkeğin akıllı kadından korkmasıyla alakalı.

Peki, ama benim sorum bu değildi...

Ama bunu söylemekle birlikte eğer gerçekten böyle bir ilişki durumunu düşünecek olursanız, en büyük tehlikelerden biri -ki AŞK filmi bu duruma çok iyi bir örnek, bilgisayarların bizim duygularımıza çok iyi karşılık verebilecek olmaları olurdu.

"YAPAY ZEKÂNIN DUYGULARI OLMAYACAK AMA İNSANLARIN DUYGULARINI MANİPÜLE EDEBİLECEK"

Duyguları olmayacak ama bizim duygularımızı manipüle edebilecekler mi?

Kesinlikle, duygularımızı manipüle edebilirler ve biz de öteki insanlara karşı nasıl bizi, duygularımızı bir bilgisayar kadar anlamıyorlar diye tahammülsüz hale gelebiliriz. Bilgisayarların soğuk ve duygusuz olduğunu düşünme eğilimindeyiz genelde ancak problem aslında tam tersi. İnsanlar her zaman anlaşılmak istiyorlar. Ben ailemin beni anlamasını istiyorum, öğretmenimin beni anlamasını istiyorum, yaptığım her şeyin başkaları tarafından anlaşılmasını istiyorum. Ve çoğu zaman beni anlamıyorlar. Ama bilgisayarlar beni diğer herkesten fazla anlayabilme yeteneğine sahip olacaklar.

"GELECEKTE BUZDOLABINIZ DUYGULARINIZI EŞİNİZDEN DAHA İYİ ANLAYACAK"

Bu iyi bir şey mi yoksa kötü mü? Şimdi bile yeni jenerasyon çocuklar sürekli telefon ve tabletlerle oynuyorlar, diğer çocuklarla eskisi kadar sosyalleşmiyorlar. Bu anlamda insanlığı gelecekte ne bekliyor?

Tehlikeli ve korkutucu senaryolardan biri; anlayacak ve eve girer girmez bize bağlanacak makinalara çok alışacak olmamız. Yani evdeki tüm makinalar benim modumu ve duygu durumumu hemem algılayacak. Buzdolabı duygusal durumumun farkına varacak, televizyon bunu anlayacak ama evdeki diğer insanlar anlamayacak. Yani buzdolabınızın duygularınızı eşinizden daha fazla anladığı bir dünyada yaşamak nasıl olur? Ve böyle bir dünyada dediğim gibi çok tahammülsüz bir hale gelebiliriz. Yani buzdolabından, akıllı telefondan, bilgisayardan daha fazla anlayış görürken bizi anlamayan bir sürü insanı tolere edemeyebiliriz.

Yani insanlar arası ilişki gelecekte daha da zorlaşacak mı?

Evet, yine söylüyorum, bu korkutucu bir senaryo. Bazı şeylerin önüne gerçekleşmeden geçebiliriz. Ama tekrar ediyorum, bu büyük bir tehlike...

Siz aynı zamanda din ve milliyetçilik üzerine de yazmışsınız. Din ve Milliyetçilik 21. Yüzyılın küresel ısınma, teknolojik gelişmelerin yaratacağı işsizlik gibi dertlerine çare olamaz diyorsunuz. Peki ne care olabilir? Sizin yanıtınız ne?

Tek yanıt küresel bir işbirliği ile gelecek.

Bu gerçekten mümkün mü?

Bilmiyorum mümkün mü...

Son 20-30 senedir küreselleşme tezi üzerine konuşuyoruz ama şimdi görüyoruz ki o tez çöküyor. Ulus devletler yükselişte. Küreselleşme günün sonunda kapitalizmin hikayesi. Bu anlamda siz kendi tezinize güveniyor musunuz?

Hayır. Neyin işleyebileceğiyle neyin gerçekten olacağını ayırmalıyım. Aslına bakacak olursanız bu, gerçekleşeceği kesin olmayan en büyük devrim. İnsanlar çoğu zaman kendi zararlarına olacak şeyler yapıyor. Hem bireysel hem de kolektif seviyede. Eğer iklim değişikliği ya da biyo teknolojide yapay zekanın yükselmesi gibi bir şeye bakacak olursanız bunu tek ülke seviyesinde çözemezsiniz. Örneğin Türkiye iklim değişikliğini tek başına çözemez. Başka ülkelerle iş birliği yapmazsa bu çok zor olur. Çünkü ekonomik olarak ciddi manada özveride bulunmak gerekiyor. Aynen bunun gibi, diyelim ki genetik mühendislikle ilgili ciddi endişeleriniz var. İnsanların tanrı rolünü oynamaya başlamasının, bebek imal edecek mühendisliği yapmasının kötü bir fikir olduğunu ve Türkiye’nin insanlar üzerine genetik mühendisliğini yasaklaması gerektiğini düşünüyorsunuz. Ama Çin’deki bilim insanı üzerinde bir kontrolünüz yok. Peki, Türkiye genetik mühendisliği yasakladı ve Çin yasaklamadı diyelim. Ne olacak? Gelecek 20-30 yıl içersinde bu konuyla ilgili tüm avantajlara sahip olacak. Yani insanlar üzerinde genetik çalışmalar yaptığı için ekonomik, sosyal, askeri faydalar sağlayacak.

İyi de dünya düzeni de değişecek mi? Şu anki dünya düzeni devam ederse neler olabileceğini biliyoruz. Birleşmiş Milletlerde en kritik kararları 5 ülke alıyor, içlerinden biri veto etse hiçbir uzlaşmaya varılamıyor. Bu dediklerinizin gerçekleşebilmesi için önce dünya düzeninin değişmesi gerekmiyor mu?

Ben problemi Birleşmiş Milletlerin çözebileceği ile ilgili konuşmuyorum. Bence hâlâ güçlü ulus devletlere ihtiyacımız var. Ancak bunların da birlikte çalışması lazım. Bence günümüzde dünyadaki en büyük yanlış anlamalardan biri insanların milliyetçilik ve küreselleşme arasında bir çelişki olduğunu düşünmesi. Seçmek zorundasınız ama aslında çelişki yok. Eğer milliyetçiliği yabancılardan nefret etmek olarak düşünürseniz evet, çelişki var. Ama milliyetçilik yabancılardan nefret etmekle alakalı değil. Milliyetçilik kendi ülkenin insanına özen göstermek, güvenlikleri ve refahları ile ilgilenmek demek. 21. yüzyılda kendi vatandaşının güvenliğini ve refahını garanti etmenin de tek yolu diğer ülkelerle iş birliği yapmaktan geçiyor. Yani iyi bir milliyetçi günümüzde aynı zamanda bir küreselci olmalı. Yani küresel bir imparatorluğa, tüm farklı dilleri, kültürleri lağvetmeye ihtiyacımız olduğundan ve herkesin aynı olmasından bahsetmiyorum, hayır. Sadece küresel sorunları ulusal politikanın üzerine koymamız gerekiyor, bundan bahsediyorum. Eğer bir seçim varsa, problemlerimiz bunlar. İklim değişikliği ile ilgili ne yapacaksın? Yapay zekâ ile ilgili ne yapacaksın?

Tamam ama gelin biraz daha dürüstçe bakalım. Bugün hâlâ Naziler var. Avrupa birliği mülteci kriziyle yüz yüze. Bir konsolosluk binasında göz göre göre katledilen bir gazeteci hakkında bile karar veremeyen bir dünya düzeni varken, ülkeler farklı çıkarlara ve pozisyonlara sahipken bu dediğiniz nasıl olacak? Yoksa yeni bir dünya savaşının eşiğinde miyiz?

Bir senaryoya göre büyük bir felaketi beklememiz gerekiyor. Yani ancak büyük bir savaş ya da iklim felaketi yaşamalıyız ki insanlar aslında en büyük problemlerin bunlar olduğunu fark etsinler; bu problemlerin çözümü için daha geniş bir işbirliği gerektiğini ve milletlerin tek başlarına bunun üstesinden gelemeyeceğini anlasınlar. Tarihte genellikle bir acil durum yoksa böyle bir durum gerçekleşmiyor. Yani bu bir en kötü durum senaryosu ve evet biz bir acil durum beklemek zorundayız. Ancak bazen insanlar bir acil durum olmadan da işbirliği yapıyor. Örneğin Soğuk Savaş’ta nükleer silahlanma örneğini ele alalım. Sovyetler ve ABD aralarındaki tüm gerginliklere rağmen bu savaşı engelleyebilecek bir rejim kurmayı becerebildi ve Soğuk Savaş bir felaketle değil barışla bitti.

Demek ki mesele tehdidin ne kadar ciddi olduğuna bağlı…

Doğru söylüyorsunuz.

Belki de iklim değişikliği ve yapay zeka çok ciddi bir tehlike olarak görünmüyor…

Kesinlikle haklısınız. Yani nükleer savaşta tehdit oldukça açık. İnsanların ne kadar tehlikeli olduğunu anlaması için bir nükleer savaş görmeye ihtiyaçları yok. İklim değişikliği, biyo-teknoloji ve yapay zekânın yükselmesi ile ilgili problemin bir parçası bunların birçok insan tarafından reddediliyor olması ya da üzerine düşünülmemesi. Yani gerçekleştiklerinde de çok geç olacak. Eğer buzların erimesi ve okyanusların yükselmesi, ya da yapay zekanın kontrol edemeyeceğimiz dereceye kadar gelişmesi için beklersek zaten çok geç olacak.

Peki yakın zamanda bütün bu gelişmelerden dolayı bir dünya savaşı çıkması ihtimali var mı?

Hayır, bir dünya savaşı, göze alınamayacak kadar yıkıcı olacaktır, bu yüzden gerçekleşme şansı oldukça düşük. Ve baktığınızda günümüzde tüm bu milliyetçilik tartışmalarına rağmen aslında tarihin en barışçıl döneminde yaşıyoruz. Avrupa’ya baktığınızda mesela bir süredir oldukça barış içinde. Mesela Macaristan, Romanya’ya oradaki Macar topraklarını kurtarmak için savaş açarsa çok endişelenirdim. Yani bu aynen 100 yıl önceye dönmek olurdu. Ve bu bir dünya savaşının ilk adımı olabilirdi. Ama henüz o noktaya gelmedik. Ancak insanlar rehavete kapılmamalı, oraya gelebiliriz. Bir dünya savaşına gidebiliriz, ama henüz orada değiliz. Ve bence bunu önleyecek zamanımız da var.

Ama siz aynı zamanda liberalizmin çöküşünden de bahsediyorsunuz. Liberalizmin yerini ne alacak? Bu konuda bir teoriniz var mı?

Açıkçası kimse bilmiyor. Yani tarihle ilgili üç büyük hikâye var. 20. yüzyılın hikayesi Faşist hikâye, komünist hikâye ve liberal hikâye. Faşist ve komünist hikayeler çöktü. Liberalizm kalan tek hikaye şu anda. Şimdi de o çöküyor. ve yerine koyacak bir şeyimiz yok. Dünyadaki liberal olmayan rejimlerin çoğu halklarına geçmişleriyle, eskiye dönmekle ilgili nostaljik fanteziler sunuyorlar. Gelecekle ilgili gerçek bir vizyonları yok. 2050’de insanlık nerede olacak? İklim değişikliği ne olacak? Yapay zekanın yükselmesi ne olacak, biyoteknoloji ne olacak? Putin ya da Trump’ın bu konularda konuştuğunu bile duymuyorsunuz. Bu nedenle elimizde daha öncekilere benzer hiçbir hikâye kalmaması durumu oldukça problemli. Hiç kimsenin insanlığın 30 ya da 40 yıl sonra nerede olacağı ile ilgili bir vizyonu yok.

Yapay zeka ile insanlık arasında bir savaş çıkma ihtimali var mı?

Hayır, bu yine robotların bilinç kazanacağı, ihtirasları olacağı ve insanlarla savaşmaya başlayacakları üzerine bir bilim kurgu senaryosu. Bu çok olası değil. Daha mümkün olan, yapay zekânın bir ya da birkaç ülkeyi ya da bir ülkedeki bir eliti güçlendirmesi ve onların diğer ülkelere baskı kurup onları sömürmesi. Tıpkı 19. yüzyılda endüstri devriminde olduğu gibi. dünyayı trenler fethetmedi. Trenler, buharlı gemiler, elektrik santralleri bunlar önce endüstrileşen bazı ülkeleri güçlendirdiler. Tıpkı Britanya, Fransa ve Japonya’nın fethettikleri yerleri sömürdüğü gibi. Bu, tüm ülkeler için yapay zekânın desteği ile tekrarlanabilir. dünyayı ele geçirecek olan bilgisayarlar değil. Teknolojiye sahip olan, dünyayı fethedecek ve diğer herkesi sömürecek olan belki de birkaç ülke olacak.

Peki yapay zeka savaşları ortadan kaldırabilir mi? yani gücünü insanların savaş çıkarmasını engellemekte kullanabilir mi?

Evet, belki de… Yapay zekâ birçok iyi şey de yapabilir. Ben kötü şeylere odaklanıyorum ama tabii ki bir sürü iyi senaryo da var.

Suriye veya Ortadoğu’daki krizleri bir algoritmanın çözmesi mümkün olur mu?

Hayır, bu oldukça uzak bir ihtimal. Bir algoritmanın size sağlayabileceği vücudunuzun içinde neler olduğunu gözlemleyerek daha iyi sağlık sistemi olur.. Bir algoritma trafik kazalarının önüne geçebilir çünkü bilgisayarlar insanlardan çok daha güvenli sürücülerdir. Ama mesela Suriye’deki savaş gibi politik problemler için hâlâ insanlara güvenmek durumundayız. Bu hala bilgisayarların yapabileceklerinin çok ötesinde

Son olarak, sizin çocuğunuz yok ama ileride bir gün olursa onlara nasıl bir meslek edinmelerini önerirdiniz?

Nasıl bir meslek mi?

Evet ne önerir ya da tavsiye ederdiniz?

Tarih boyunca ilk kez iş piyasasının bundan 30 yıl sonra nasıl görüneceğini bilemiyoruz. Dolayısıyla çocuklara bugün hangi becerileri kazandırmamız gerektiğini bilmiyoruz. Kimileri çocuklara kodlama eğitimi vermemiz gerektiğini söylüyor. Ama belki de 30 yıl içinde yapay zekâ insanlardan daha iyi programlama yapabilecek. Dolaysısıyla çocuklarımıza kazandırabileceğimiz en önemli beceri hayat boyu kendilerini sürekli yenileme becerisi olmalı. Bu beceriye kesinlikle sahip olmanız gerekecek. Sürekli, yeniden ve yeniden kendinizi yenilemeniz gerekecek. Bunun için de çok esnek bir zihne sahip olmanız gerekiyor. Dolayısıyla eğitim sistemiyle ilgili en önemli şey esnek zihinler yetiştirebilmek. Bunun dışındaki bütün beceriler çok daha önemsiz olacak…

Kodlama eğitimi bile…

Evet, tabii… Pek çok insan bankacı ya da yatırımcı olmak istiyor. Bankalardan ya da borsadan çok para kazanmak istiyor. Ama belki de 20 yıl sonra hiç kimsenin insan bankacılara ihtiyacı olmayacak ya da en azından insan bankacılar çoğunlukta olmayacak. Çünkü yapay zekâ tüm işleri daha iyi halledecek. Ve ne beceriye sahip olmak gerekirse, onu insanlardan daha kolay edinebilecekler. Dolayısıyla en güvenli olan çocuklara hayat boyu nasıl değişeceklerini öğretmek olacak. Böylelikle hangi beceriye sahip olmaları gerekiyorsa onu edinebilecekler.

“BİRİNCİ KİTAPTA TEORİLERİMİN BİTTİĞİNİ DÜŞÜNMÜŞTÜM, DÖRDÜNCÜ KİTAP BELKİ OLUR BELKİ OLMAZ”

Size ne sorsam “bunun gerçekleşip gerçekleşmeyeceğini bilmiyoruz” diyorsunuz. Başımıza neler geleceğini bilmiyoruz, Çözümü bilmiyoruz, gelecekte çocuklarımıza hangi meslekleri önermemiz gerektiğini bilmiyoruz. Tarihte örneğin Karl Marks gibi bazı filozoflar, yazarlar sorunlar belirli çözümler önermişler. Siz çözüm önermeyen yazarlardansınız. Peki gelecek kitabınız neyle alakalı olacak? Çözümlere mi odaklanacaksınız, yoksa yine sadece varsayımlarda mı bulunacaksınız?

Hepsine değil ama bazı sorunlara çözümler öneriyorum. Ayrıca bence günümüzde en önemli olan şey sorunlara odaklanmak. Belki yapay zeka ile ilgili sorunlarda çözümler konusunda benimle aynı fikirden olmayabilirsiniz ama en azından sorunlara odaklanıp, göz ardı etmek yerine kendi çözümlerinizi önerebilirsiniz. Gelecek proje ne olur henüz bilmiyorum. Ne olacağını göreceğiz. Aslında bir çocuk kitabı yapmayı düşünüyoruz. Daha genç okuyucuya hitap etmek ve durup beklemek yerine bu fikirleri onlara iletmek istiyoruz istiyoruz.

Sadece İki buçuk kitap yazmışken teorileriniz sonuna mı geldiniz?

Daha birinci kitapta teorilerimin bittiğini düşünmüştüm. İkinci kitaptan sonra, böyle sohbetlerden yeni fikirler çıktı. Dördüncü kitap belki olur belki olmaz. Emin değilim.

Peki, çok teşekkür ederiz. Umarım arzu ettiğiniz gibi bu kitabınız öncekilerden daha da fazla satar!

Beni ağırladığınız için ben teşekkür ederim.