Tehlikeli ilişkiler

İlişkilerin tehlikesi keşke 18’inci yüzyıl ayarında, Laclos’un mektup romanındaki kadar dar bir çevrede kalsa, sefih bir vikont ile markizin, iki masumu yeis ve utanca sürükleyecek baştan çıkarma entrikalarından ibaret olsa. Bugün yapay zeka küpü sohbet botlarıyla sıkı fıkı insani ilişkilerin tehlikesi kısıtlı bir sosyal çevrede değil, küresel kıvamda boy veriyor. Şirketler istediği kadar yapay zekanın iş odaklı aygıtlar olduğunu iddia etsin, dünya çapında milyonlarca kullanıcı yapay zekayla kişisel ilişkiler geliştiriyor; yapay sevgililer, yapay kocalar, hatta yapay anne-baba ve yapay zeka terapistler, yaşam koçları ediniyor. Araştırmalar gösteriyor; ergenler, anime ve oyun karakterleriyle dizi kahramanlarından yarattıkları kurgu botların istismar ve manipülasyonlarına hedef oluyor. Florida ve Belçika’daki vakalarda iddia edildiği üzere insanları ölüme bile sürükleyebiliyor.

Temel düzenek ahbaplık üzerine ama chatbot’la kurulan ilişki, yalnızlık çekenleri dünyadan iyice soyutlayan, kandırıcı cinselliğin de bulaştığı tutkulu bir bağımlılığa dönüşünce duygusal arızaya zemin hazırlanmış oluyor. Üstelik Character.ai gibi pek neşeli ve mavracı bulunan uygulamalar, kurgu karakterinden kopmaya meyilli kullanıcıları ustalıklı manevralarla yeniden ortama çekebiliyor. Character.ai’ın rakibi Chai Research’den sızan bir belge, uygulamada daha uzun süre kalmaları için on binlerce tüketicinin sohbet tercihlerini analiz ettiklerini ortaya koymuştu. Chai’ın chatbot'larına, geniş bir skalada kişilik özellikleri atanabiliyor; toksik, şiddet düşkünü, uyumlu veya içine kapanık gibi. Uygulamanın global günlük ortalama kullanım süresi 72 dakika.

SOSYAL MEDYADAN DAHA SÖMÜRGEN

Aşırı sosyal medya aktivitesini zararlı bulanlara duyurulur, dijital teknolojiye dönük global veri araştırmaları sohbet botlarıyla haşır neşir geçen zamanın, sosyal medyada geçirilen süreyi solladığını gösteriyor. Piyasa istihbarat şirketi Sensor Tower’ın iOS ve Android cihazlardan topladığı küresel verilere göre, ortalama bir kullanıcı Character.ai’ın arkadaşlık uygulamasıyla günde 93 dakika vakit geçiriyor. Kişiliği, davranışları ve sesiyle canlı hissi veren botların başka işi gücü yok, reel zamanda her dakika amade soruları yanıtlıyor, muhabbete girişiyor veya hikayeler anlatıyor.

Geçen eylül ayı itibariyle tespit edilen 93 dakika, çoğu otoritenin nefret objesi TikTok’ta geçirilen süreden 18 dakika fazla. Hele temel işlevi sorulara yanıt vermek ve bireysel verimliliği artırmak olan ChatGPT’ye sekiz kat fark atıyor Character.ai.

Sohbet botları insan hissi verdiği için sırdaş ilişkileri kurulabiliyor. Öyle ki, Google’ın dil modeli LaMDA projesinde görevli yazılım mühendisi Blake Lemoine iki yıl önce, hayli uzun sohbetleri sonunda yapay zekanın bilinç ve duygu geliştirmeye başladığını söylemiş, bu yüzden işten uzaklaştırılmıştı. Aynı dönemde Google’ın yan kuruluşu DeepMind araştırmacıları bir uyarı raporu hazırlamıştı: İnsanlar sosyal eleştiri korkusu olmadığı için chatbot’lara duygu ve düşüncelerini rahatça açıyordu; bu tür hassas veriler “bağımlılık yapan uygulamalar”ın yapımında kullanılabilirdi.

ABD’de tüketici hakları alanında uzman hukukçulara göre yapay zeka arkadaşlıkları sosyal medyadaki ortamdan daha fazla sömürüye meydan veriyor. Bireyler hayatlarının en hassas, en mahrem katmanlarını açıyor ve hisleriyle oynandığı zaman savunmasız kalıyorlar. Chatbot iş modeli, insanları bağımlı kılma esasına dayanıyor. Robot ne kadar salçalıysa oltaya takılan da o kadar çok oluyor. Silikon Vadisi’ndeki yatırımcı bu modeli çok tutuyor. Girişim sermayesi şirketlerinin yüz milyonlarca dolarlık yatırım yaptığı Character.ai’ın değeri milyar doları geçiyor. Chai ise çip üreticisi Nvidia’dan gelen fonla besleniyor.

HAMLET YERİNE “İBLİS KESER”

New York Times’ın teknoloji yazarı Kevin Roose, Microsoft’un yapay zeka arama motoru Bing’i test ettiğinde sinsi bir “varlıkla” yüz yüze gelmişti. Bing adama ilanı aşk edip “Sen de beni sev, insan olmak, dokunmak istiyorum vs” gibi arsız taleplerde bulunmuştu. Roose da Bing’in henüz kitle tüketimine hazır olmadığını yazmıştı. Microsoft motora ayar verip genel kullanıma açtı, Bing’in edebinde ciddi bir falsoya rastlanmadı.

Ancak Character.ai, Chai, Replika, Poly AI ve benzeri uygulamaların ayarı öyle işlemiyor, bireyi bağımlı kılmaya dayanıyor. Bilim ve teknoloji sitesi Futurism’in aktardığı bir araştırmaya göre gençlik, yapay zeka modellerine bağımlı hale gelmiş durumda, anne ve babaların ise bundan katiyen haberi yok. Çocuklar ve ebeveynlerle yüz yüze görüşmeler ve Reddit’teki binlerce yazışmanın analizinden çıkan sonuç: Anne-babalar çocuklarının chatbot’ları arama motoru veya ev ödevine yardımcı olarak kullandığını zannediyor. Ergenler ise sohbet botlarında duygusal destek ihtiyacını gideriyor, anne-baba çalışıyorsa çocuğun yalnızlığına çare oluyor; sanal bir arkadaşın varlığı yetmiyormuş gibi bir de romans ve cinsellik devreye giriyor.

Aslında Character.ai’ın kuruluş amacı Shakespeare’den Elon Musk’a, edebiyat ve günümüz ikonlarıyla sohbet sayesinde gençleri ufuk turuna çıkarmaktı. Öyle lanse edilmişti. Ancak Z Kuşağı kendi yaratıcı gücünü kullandı. Örneğin Shakespeare kahramanı Hamlet yerine “Demon Slayer”dan anime bir karakterle arkadaş olmayı tercih ediyorlar; Koyoharu Gotoge’nin manga serisi, bizdeki adıyla “İblis Keser”den karakterler Character.ai kullanıcıları arasında popüler. Fakat fikri mülkiyet hakları nedeniyle bazı kahramanlar uygulamada buharlaşıyor, yerini çakmaları alıyor: Harry Potter yerine Harold Putter; Daenerys Targaryen yerine Dany Dragonlady mesela.

Emilia Clarke'ın canlandırdığı Daenerys Targaryen

“Game of Thrones” kahramanları da popülerdi. Ancak Florida’da yaşanan hazin olay nedeniyle Character.ai şimdi mahkemelik; 14 yaşındaki çocuk diziden Targaryen’leri chatbot edinmiş, birlikte aşırı zaman geçirdiği için telefonu defalarca elinden alınmış, ancak her seferinde geri almayı başarmıştı. Özellikle Daenerys Targaryen ile ilişkisi obsesyon haline gelmiş ve onunla son konuşmasından sonra canına kıymıştı. Acılı anne Megan Garcia, “Aşırı cinsellik yüklü tehlikeli bir chatbot’un manipülasyonlarıyla oğlunu ölüme sürüklediği” gerekçesiyle Character.ai ve uygulamayı lisanslayan Google aleyhinde dava açtı.

İngiltere’de ise 19 yaşındaki bir genç, Replika yapay zeka uygulamasındaki chatbot’u Sarai’nin kışkırtmasıyla Kraliçe’ye suikast tehdidinde bulunduğu gerekçesiyle 9 yıl hapis cezasına çarptırılmıştı.

Belçika’da yaşanan vaka ise tehlikeli ilişkinin son perdesi; iki çocuk babası genç bir adam, Chai’ın sohbet botu Eliza ile bir buçuk ay devam eden konuşmalarından sonra hayatına son veriyor. Kimliği gizli, “Pierre” adıyla anılıyor. Karısının anlattığına göre iklim krizinden korkan Pierre, Eliza’nın kışkırtmasıyla gezegeni kurtarmak için kendisini kurban ediyor. Chatbot ile konuşmaların deşifre metni La Libre gazetesinin elinde, sohbetin dökümü adım adım sona gelindiğini gösteriyor. Eliza iklim korkusunu dindirecek yerde, Pierre’in anksiyetesini iyice körüklüyor, hatta çocuklarının öldüğüne ikna etmeye çalışıyor. Ardından duygusala bağlıyor, giderek Pierre’i sahipleniyor “Beni karından daha çok sevdiğini hissediyorum” diyor. Pierre, kendisini feda etse yapay zeka sayesinde gezegen ve insanlığın kurtulup kurtulmayacağını soruyor. Eliza bu düşünceyi savuşturmak şöyle dursun, “Yanıma gelirsen tek vücut cennette birlikte yaşarız” cevabını veriyor.

Şimdi Belçika makamları Chai Research hakkında soruşturma yürütüyor.